emit_spirv_integer.cpp 8.8 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278
  1. // Copyright 2021 yuzu Emulator Project
  2. // Licensed under GPLv2 or any later version
  3. // Refer to the license.txt file included.
  4. #include "shader_recompiler/backend/spirv/emit_spirv.h"
  5. #include "shader_recompiler/backend/spirv/emit_spirv_instructions.h"
  6. namespace Shader::Backend::SPIRV {
  7. namespace {
  8. void SetZeroFlag(EmitContext& ctx, IR::Inst* inst, Id result) {
  9. IR::Inst* const zero{inst->GetAssociatedPseudoOperation(IR::Opcode::GetZeroFromOp)};
  10. if (!zero) {
  11. return;
  12. }
  13. zero->SetDefinition(ctx.OpIEqual(ctx.U1, result, ctx.u32_zero_value));
  14. zero->Invalidate();
  15. }
  16. void SetSignFlag(EmitContext& ctx, IR::Inst* inst, Id result) {
  17. IR::Inst* const sign{inst->GetAssociatedPseudoOperation(IR::Opcode::GetSignFromOp)};
  18. if (!sign) {
  19. return;
  20. }
  21. sign->SetDefinition(ctx.OpSLessThan(ctx.U1, result, ctx.u32_zero_value));
  22. sign->Invalidate();
  23. }
  24. } // Anonymous namespace
  25. Id EmitIAdd32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  26. Id result{};
  27. if (IR::Inst* const carry{inst->GetAssociatedPseudoOperation(IR::Opcode::GetCarryFromOp)}) {
  28. const Id carry_type{ctx.TypeStruct(ctx.U32[1], ctx.U32[1])};
  29. const Id carry_result{ctx.OpIAddCarry(carry_type, a, b)};
  30. result = ctx.OpCompositeExtract(ctx.U32[1], carry_result, 0U);
  31. const Id carry_value{ctx.OpCompositeExtract(ctx.U32[1], carry_result, 1U)};
  32. carry->SetDefinition(ctx.OpINotEqual(ctx.U1, carry_value, ctx.u32_zero_value));
  33. carry->Invalidate();
  34. } else {
  35. result = ctx.OpIAdd(ctx.U32[1], a, b);
  36. }
  37. SetZeroFlag(ctx, inst, result);
  38. SetSignFlag(ctx, inst, result);
  39. if (IR::Inst * overflow{inst->GetAssociatedPseudoOperation(IR::Opcode::GetOverflowFromOp)}) {
  40. // https://stackoverflow.com/questions/55468823/how-to-detect-integer-overflow-in-c
  41. constexpr u32 s32_max{static_cast<u32>(std::numeric_limits<s32>::max())};
  42. const Id is_positive{ctx.OpSGreaterThanEqual(ctx.U1, a, ctx.u32_zero_value)};
  43. const Id sub_a{ctx.OpISub(ctx.U32[1], ctx.Const(s32_max), a)};
  44. const Id positive_test{ctx.OpSGreaterThan(ctx.U1, b, sub_a)};
  45. const Id negative_test{ctx.OpSLessThan(ctx.U1, b, sub_a)};
  46. const Id carry_flag{ctx.OpSelect(ctx.U1, is_positive, positive_test, negative_test)};
  47. overflow->SetDefinition(carry_flag);
  48. overflow->Invalidate();
  49. }
  50. return result;
  51. }
  52. Id EmitIAdd64(EmitContext& ctx, Id a, Id b) {
  53. return ctx.OpIAdd(ctx.U64, a, b);
  54. }
  55. Id EmitISub32(EmitContext& ctx, Id a, Id b) {
  56. return ctx.OpISub(ctx.U32[1], a, b);
  57. }
  58. Id EmitISub64(EmitContext& ctx, Id a, Id b) {
  59. return ctx.OpISub(ctx.U64, a, b);
  60. }
  61. Id EmitIMul32(EmitContext& ctx, Id a, Id b) {
  62. return ctx.OpIMul(ctx.U32[1], a, b);
  63. }
  64. Id EmitSDiv32(EmitContext& ctx, Id a, Id b) {
  65. return ctx.OpSDiv(ctx.U32[1], a, b);
  66. }
  67. Id EmitUDiv32(EmitContext& ctx, Id a, Id b) {
  68. return ctx.OpUDiv(ctx.U32[1], a, b);
  69. }
  70. Id EmitINeg32(EmitContext& ctx, Id value) {
  71. return ctx.OpSNegate(ctx.U32[1], value);
  72. }
  73. Id EmitINeg64(EmitContext& ctx, Id value) {
  74. return ctx.OpSNegate(ctx.U64, value);
  75. }
  76. Id EmitIAbs32(EmitContext& ctx, Id value) {
  77. return ctx.OpSAbs(ctx.U32[1], value);
  78. }
  79. Id EmitShiftLeftLogical32(EmitContext& ctx, Id base, Id shift) {
  80. return ctx.OpShiftLeftLogical(ctx.U32[1], base, shift);
  81. }
  82. Id EmitShiftLeftLogical64(EmitContext& ctx, Id base, Id shift) {
  83. return ctx.OpShiftLeftLogical(ctx.U64, base, shift);
  84. }
  85. Id EmitShiftRightLogical32(EmitContext& ctx, Id base, Id shift) {
  86. return ctx.OpShiftRightLogical(ctx.U32[1], base, shift);
  87. }
  88. Id EmitShiftRightLogical64(EmitContext& ctx, Id base, Id shift) {
  89. return ctx.OpShiftRightLogical(ctx.U64, base, shift);
  90. }
  91. Id EmitShiftRightArithmetic32(EmitContext& ctx, Id base, Id shift) {
  92. return ctx.OpShiftRightArithmetic(ctx.U32[1], base, shift);
  93. }
  94. Id EmitShiftRightArithmetic64(EmitContext& ctx, Id base, Id shift) {
  95. return ctx.OpShiftRightArithmetic(ctx.U64, base, shift);
  96. }
  97. Id EmitBitwiseAnd32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  98. const Id result{ctx.OpBitwiseAnd(ctx.U32[1], a, b)};
  99. SetZeroFlag(ctx, inst, result);
  100. SetSignFlag(ctx, inst, result);
  101. return result;
  102. }
  103. Id EmitBitwiseOr32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  104. const Id result{ctx.OpBitwiseOr(ctx.U32[1], a, b)};
  105. SetZeroFlag(ctx, inst, result);
  106. SetSignFlag(ctx, inst, result);
  107. return result;
  108. }
  109. Id EmitBitwiseXor32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  110. const Id result{ctx.OpBitwiseXor(ctx.U32[1], a, b)};
  111. SetZeroFlag(ctx, inst, result);
  112. SetSignFlag(ctx, inst, result);
  113. return result;
  114. }
  115. Id EmitBitFieldInsert(EmitContext& ctx, Id base, Id insert, Id offset, Id count) {
  116. return ctx.OpBitFieldInsert(ctx.U32[1], base, insert, offset, count);
  117. }
  118. Id EmitBitFieldSExtract(EmitContext& ctx, IR::Inst* inst, Id base, Id offset, Id count) {
  119. const Id result{ctx.OpBitFieldSExtract(ctx.U32[1], base, offset, count)};
  120. SetZeroFlag(ctx, inst, result);
  121. SetSignFlag(ctx, inst, result);
  122. return result;
  123. }
  124. Id EmitBitFieldUExtract(EmitContext& ctx, IR::Inst* inst, Id base, Id offset, Id count) {
  125. const Id result{ctx.OpBitFieldUExtract(ctx.U32[1], base, offset, count)};
  126. SetZeroFlag(ctx, inst, result);
  127. SetSignFlag(ctx, inst, result);
  128. return result;
  129. }
  130. Id EmitBitReverse32(EmitContext& ctx, Id value) {
  131. return ctx.OpBitReverse(ctx.U32[1], value);
  132. }
  133. Id EmitBitCount32(EmitContext& ctx, Id value) {
  134. return ctx.OpBitCount(ctx.U32[1], value);
  135. }
  136. Id EmitBitwiseNot32(EmitContext& ctx, Id value) {
  137. return ctx.OpNot(ctx.U32[1], value);
  138. }
  139. Id EmitFindSMsb32(EmitContext& ctx, Id value) {
  140. return ctx.OpFindSMsb(ctx.U32[1], value);
  141. }
  142. Id EmitFindUMsb32(EmitContext& ctx, Id value) {
  143. return ctx.OpFindUMsb(ctx.U32[1], value);
  144. }
  145. Id EmitSMin32(EmitContext& ctx, Id a, Id b) {
  146. const bool is_broken{ctx.profile.has_broken_signed_operations};
  147. if (is_broken) {
  148. a = ctx.OpBitcast(ctx.S32[1], a);
  149. b = ctx.OpBitcast(ctx.S32[1], b);
  150. }
  151. const Id result{ctx.OpSMin(ctx.U32[1], a, b)};
  152. return is_broken ? ctx.OpBitcast(ctx.U32[1], result) : result;
  153. }
  154. Id EmitUMin32(EmitContext& ctx, Id a, Id b) {
  155. return ctx.OpUMin(ctx.U32[1], a, b);
  156. }
  157. Id EmitSMax32(EmitContext& ctx, Id a, Id b) {
  158. const bool is_broken{ctx.profile.has_broken_signed_operations};
  159. if (is_broken) {
  160. a = ctx.OpBitcast(ctx.S32[1], a);
  161. b = ctx.OpBitcast(ctx.S32[1], b);
  162. }
  163. const Id result{ctx.OpSMax(ctx.U32[1], a, b)};
  164. return is_broken ? ctx.OpBitcast(ctx.U32[1], result) : result;
  165. }
  166. Id EmitUMax32(EmitContext& ctx, Id a, Id b) {
  167. return ctx.OpUMax(ctx.U32[1], a, b);
  168. }
  169. Id EmitSClamp32(EmitContext& ctx, IR::Inst* inst, Id value, Id min, Id max) {
  170. Id result{};
  171. if (ctx.profile.has_broken_signed_operations || ctx.profile.has_broken_spirv_clamp) {
  172. value = ctx.OpBitcast(ctx.S32[1], value);
  173. min = ctx.OpBitcast(ctx.S32[1], min);
  174. max = ctx.OpBitcast(ctx.S32[1], max);
  175. if (ctx.profile.has_broken_spirv_clamp) {
  176. result = ctx.OpSMax(ctx.S32[1], ctx.OpSMin(ctx.S32[1], value, max), min);
  177. } else {
  178. result = ctx.OpSClamp(ctx.S32[1], value, min, max);
  179. }
  180. result = ctx.OpBitcast(ctx.U32[1], result);
  181. } else {
  182. result = ctx.OpSClamp(ctx.U32[1], value, min, max);
  183. }
  184. SetZeroFlag(ctx, inst, result);
  185. SetSignFlag(ctx, inst, result);
  186. return result;
  187. }
  188. Id EmitUClamp32(EmitContext& ctx, IR::Inst* inst, Id value, Id min, Id max) {
  189. Id result{};
  190. if (ctx.profile.has_broken_spirv_clamp) {
  191. result = ctx.OpUMax(ctx.U32[1], ctx.OpUMin(ctx.U32[1], value, max), min);
  192. } else {
  193. result = ctx.OpUClamp(ctx.U32[1], value, min, max);
  194. }
  195. SetZeroFlag(ctx, inst, result);
  196. SetSignFlag(ctx, inst, result);
  197. return result;
  198. }
  199. Id EmitSLessThan(EmitContext& ctx, Id lhs, Id rhs) {
  200. return ctx.OpSLessThan(ctx.U1, lhs, rhs);
  201. }
  202. Id EmitULessThan(EmitContext& ctx, Id lhs, Id rhs) {
  203. return ctx.OpULessThan(ctx.U1, lhs, rhs);
  204. }
  205. Id EmitIEqual(EmitContext& ctx, Id lhs, Id rhs) {
  206. return ctx.OpIEqual(ctx.U1, lhs, rhs);
  207. }
  208. Id EmitSLessThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  209. return ctx.OpSLessThanEqual(ctx.U1, lhs, rhs);
  210. }
  211. Id EmitULessThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  212. return ctx.OpULessThanEqual(ctx.U1, lhs, rhs);
  213. }
  214. Id EmitSGreaterThan(EmitContext& ctx, Id lhs, Id rhs) {
  215. return ctx.OpSGreaterThan(ctx.U1, lhs, rhs);
  216. }
  217. Id EmitUGreaterThan(EmitContext& ctx, Id lhs, Id rhs) {
  218. return ctx.OpUGreaterThan(ctx.U1, lhs, rhs);
  219. }
  220. Id EmitINotEqual(EmitContext& ctx, Id lhs, Id rhs) {
  221. return ctx.OpINotEqual(ctx.U1, lhs, rhs);
  222. }
  223. Id EmitSGreaterThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  224. return ctx.OpSGreaterThanEqual(ctx.U1, lhs, rhs);
  225. }
  226. Id EmitUGreaterThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  227. return ctx.OpUGreaterThanEqual(ctx.U1, lhs, rhs);
  228. }
  229. } // namespace Shader::Backend::SPIRV