emit_spirv_integer.cpp 8.8 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279
  1. // Copyright 2021 yuzu Emulator Project
  2. // Licensed under GPLv2 or any later version
  3. // Refer to the license.txt file included.
  4. #include "shader_recompiler/backend/spirv/emit_spirv.h"
  5. #include "shader_recompiler/backend/spirv/emit_spirv_instructions.h"
  6. #include "shader_recompiler/backend/spirv/spirv_emit_context.h"
  7. namespace Shader::Backend::SPIRV {
  8. namespace {
  9. void SetZeroFlag(EmitContext& ctx, IR::Inst* inst, Id result) {
  10. IR::Inst* const zero{inst->GetAssociatedPseudoOperation(IR::Opcode::GetZeroFromOp)};
  11. if (!zero) {
  12. return;
  13. }
  14. zero->SetDefinition(ctx.OpIEqual(ctx.U1, result, ctx.u32_zero_value));
  15. zero->Invalidate();
  16. }
  17. void SetSignFlag(EmitContext& ctx, IR::Inst* inst, Id result) {
  18. IR::Inst* const sign{inst->GetAssociatedPseudoOperation(IR::Opcode::GetSignFromOp)};
  19. if (!sign) {
  20. return;
  21. }
  22. sign->SetDefinition(ctx.OpSLessThan(ctx.U1, result, ctx.u32_zero_value));
  23. sign->Invalidate();
  24. }
  25. } // Anonymous namespace
  26. Id EmitIAdd32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  27. Id result{};
  28. if (IR::Inst* const carry{inst->GetAssociatedPseudoOperation(IR::Opcode::GetCarryFromOp)}) {
  29. const Id carry_type{ctx.TypeStruct(ctx.U32[1], ctx.U32[1])};
  30. const Id carry_result{ctx.OpIAddCarry(carry_type, a, b)};
  31. result = ctx.OpCompositeExtract(ctx.U32[1], carry_result, 0U);
  32. const Id carry_value{ctx.OpCompositeExtract(ctx.U32[1], carry_result, 1U)};
  33. carry->SetDefinition(ctx.OpINotEqual(ctx.U1, carry_value, ctx.u32_zero_value));
  34. carry->Invalidate();
  35. } else {
  36. result = ctx.OpIAdd(ctx.U32[1], a, b);
  37. }
  38. SetZeroFlag(ctx, inst, result);
  39. SetSignFlag(ctx, inst, result);
  40. if (IR::Inst * overflow{inst->GetAssociatedPseudoOperation(IR::Opcode::GetOverflowFromOp)}) {
  41. // https://stackoverflow.com/questions/55468823/how-to-detect-integer-overflow-in-c
  42. constexpr u32 s32_max{static_cast<u32>(std::numeric_limits<s32>::max())};
  43. const Id is_positive{ctx.OpSGreaterThanEqual(ctx.U1, a, ctx.u32_zero_value)};
  44. const Id sub_a{ctx.OpISub(ctx.U32[1], ctx.Const(s32_max), a)};
  45. const Id positive_test{ctx.OpSGreaterThan(ctx.U1, b, sub_a)};
  46. const Id negative_test{ctx.OpSLessThan(ctx.U1, b, sub_a)};
  47. const Id carry_flag{ctx.OpSelect(ctx.U1, is_positive, positive_test, negative_test)};
  48. overflow->SetDefinition(carry_flag);
  49. overflow->Invalidate();
  50. }
  51. return result;
  52. }
  53. Id EmitIAdd64(EmitContext& ctx, Id a, Id b) {
  54. return ctx.OpIAdd(ctx.U64, a, b);
  55. }
  56. Id EmitISub32(EmitContext& ctx, Id a, Id b) {
  57. return ctx.OpISub(ctx.U32[1], a, b);
  58. }
  59. Id EmitISub64(EmitContext& ctx, Id a, Id b) {
  60. return ctx.OpISub(ctx.U64, a, b);
  61. }
  62. Id EmitIMul32(EmitContext& ctx, Id a, Id b) {
  63. return ctx.OpIMul(ctx.U32[1], a, b);
  64. }
  65. Id EmitSDiv32(EmitContext& ctx, Id a, Id b) {
  66. return ctx.OpSDiv(ctx.U32[1], a, b);
  67. }
  68. Id EmitUDiv32(EmitContext& ctx, Id a, Id b) {
  69. return ctx.OpUDiv(ctx.U32[1], a, b);
  70. }
  71. Id EmitINeg32(EmitContext& ctx, Id value) {
  72. return ctx.OpSNegate(ctx.U32[1], value);
  73. }
  74. Id EmitINeg64(EmitContext& ctx, Id value) {
  75. return ctx.OpSNegate(ctx.U64, value);
  76. }
  77. Id EmitIAbs32(EmitContext& ctx, Id value) {
  78. return ctx.OpSAbs(ctx.U32[1], value);
  79. }
  80. Id EmitShiftLeftLogical32(EmitContext& ctx, Id base, Id shift) {
  81. return ctx.OpShiftLeftLogical(ctx.U32[1], base, shift);
  82. }
  83. Id EmitShiftLeftLogical64(EmitContext& ctx, Id base, Id shift) {
  84. return ctx.OpShiftLeftLogical(ctx.U64, base, shift);
  85. }
  86. Id EmitShiftRightLogical32(EmitContext& ctx, Id base, Id shift) {
  87. return ctx.OpShiftRightLogical(ctx.U32[1], base, shift);
  88. }
  89. Id EmitShiftRightLogical64(EmitContext& ctx, Id base, Id shift) {
  90. return ctx.OpShiftRightLogical(ctx.U64, base, shift);
  91. }
  92. Id EmitShiftRightArithmetic32(EmitContext& ctx, Id base, Id shift) {
  93. return ctx.OpShiftRightArithmetic(ctx.U32[1], base, shift);
  94. }
  95. Id EmitShiftRightArithmetic64(EmitContext& ctx, Id base, Id shift) {
  96. return ctx.OpShiftRightArithmetic(ctx.U64, base, shift);
  97. }
  98. Id EmitBitwiseAnd32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  99. const Id result{ctx.OpBitwiseAnd(ctx.U32[1], a, b)};
  100. SetZeroFlag(ctx, inst, result);
  101. SetSignFlag(ctx, inst, result);
  102. return result;
  103. }
  104. Id EmitBitwiseOr32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  105. const Id result{ctx.OpBitwiseOr(ctx.U32[1], a, b)};
  106. SetZeroFlag(ctx, inst, result);
  107. SetSignFlag(ctx, inst, result);
  108. return result;
  109. }
  110. Id EmitBitwiseXor32(EmitContext& ctx, IR::Inst* inst, Id a, Id b) {
  111. const Id result{ctx.OpBitwiseXor(ctx.U32[1], a, b)};
  112. SetZeroFlag(ctx, inst, result);
  113. SetSignFlag(ctx, inst, result);
  114. return result;
  115. }
  116. Id EmitBitFieldInsert(EmitContext& ctx, Id base, Id insert, Id offset, Id count) {
  117. return ctx.OpBitFieldInsert(ctx.U32[1], base, insert, offset, count);
  118. }
  119. Id EmitBitFieldSExtract(EmitContext& ctx, IR::Inst* inst, Id base, Id offset, Id count) {
  120. const Id result{ctx.OpBitFieldSExtract(ctx.U32[1], base, offset, count)};
  121. SetZeroFlag(ctx, inst, result);
  122. SetSignFlag(ctx, inst, result);
  123. return result;
  124. }
  125. Id EmitBitFieldUExtract(EmitContext& ctx, IR::Inst* inst, Id base, Id offset, Id count) {
  126. const Id result{ctx.OpBitFieldUExtract(ctx.U32[1], base, offset, count)};
  127. SetZeroFlag(ctx, inst, result);
  128. SetSignFlag(ctx, inst, result);
  129. return result;
  130. }
  131. Id EmitBitReverse32(EmitContext& ctx, Id value) {
  132. return ctx.OpBitReverse(ctx.U32[1], value);
  133. }
  134. Id EmitBitCount32(EmitContext& ctx, Id value) {
  135. return ctx.OpBitCount(ctx.U32[1], value);
  136. }
  137. Id EmitBitwiseNot32(EmitContext& ctx, Id value) {
  138. return ctx.OpNot(ctx.U32[1], value);
  139. }
  140. Id EmitFindSMsb32(EmitContext& ctx, Id value) {
  141. return ctx.OpFindSMsb(ctx.U32[1], value);
  142. }
  143. Id EmitFindUMsb32(EmitContext& ctx, Id value) {
  144. return ctx.OpFindUMsb(ctx.U32[1], value);
  145. }
  146. Id EmitSMin32(EmitContext& ctx, Id a, Id b) {
  147. const bool is_broken{ctx.profile.has_broken_signed_operations};
  148. if (is_broken) {
  149. a = ctx.OpBitcast(ctx.S32[1], a);
  150. b = ctx.OpBitcast(ctx.S32[1], b);
  151. }
  152. const Id result{ctx.OpSMin(ctx.U32[1], a, b)};
  153. return is_broken ? ctx.OpBitcast(ctx.U32[1], result) : result;
  154. }
  155. Id EmitUMin32(EmitContext& ctx, Id a, Id b) {
  156. return ctx.OpUMin(ctx.U32[1], a, b);
  157. }
  158. Id EmitSMax32(EmitContext& ctx, Id a, Id b) {
  159. const bool is_broken{ctx.profile.has_broken_signed_operations};
  160. if (is_broken) {
  161. a = ctx.OpBitcast(ctx.S32[1], a);
  162. b = ctx.OpBitcast(ctx.S32[1], b);
  163. }
  164. const Id result{ctx.OpSMax(ctx.U32[1], a, b)};
  165. return is_broken ? ctx.OpBitcast(ctx.U32[1], result) : result;
  166. }
  167. Id EmitUMax32(EmitContext& ctx, Id a, Id b) {
  168. return ctx.OpUMax(ctx.U32[1], a, b);
  169. }
  170. Id EmitSClamp32(EmitContext& ctx, IR::Inst* inst, Id value, Id min, Id max) {
  171. Id result{};
  172. if (ctx.profile.has_broken_signed_operations || ctx.profile.has_broken_spirv_clamp) {
  173. value = ctx.OpBitcast(ctx.S32[1], value);
  174. min = ctx.OpBitcast(ctx.S32[1], min);
  175. max = ctx.OpBitcast(ctx.S32[1], max);
  176. if (ctx.profile.has_broken_spirv_clamp) {
  177. result = ctx.OpSMax(ctx.S32[1], ctx.OpSMin(ctx.S32[1], value, max), min);
  178. } else {
  179. result = ctx.OpSClamp(ctx.S32[1], value, min, max);
  180. }
  181. result = ctx.OpBitcast(ctx.U32[1], result);
  182. } else {
  183. result = ctx.OpSClamp(ctx.U32[1], value, min, max);
  184. }
  185. SetZeroFlag(ctx, inst, result);
  186. SetSignFlag(ctx, inst, result);
  187. return result;
  188. }
  189. Id EmitUClamp32(EmitContext& ctx, IR::Inst* inst, Id value, Id min, Id max) {
  190. Id result{};
  191. if (ctx.profile.has_broken_spirv_clamp) {
  192. result = ctx.OpUMax(ctx.U32[1], ctx.OpUMin(ctx.U32[1], value, max), min);
  193. } else {
  194. result = ctx.OpUClamp(ctx.U32[1], value, min, max);
  195. }
  196. SetZeroFlag(ctx, inst, result);
  197. SetSignFlag(ctx, inst, result);
  198. return result;
  199. }
  200. Id EmitSLessThan(EmitContext& ctx, Id lhs, Id rhs) {
  201. return ctx.OpSLessThan(ctx.U1, lhs, rhs);
  202. }
  203. Id EmitULessThan(EmitContext& ctx, Id lhs, Id rhs) {
  204. return ctx.OpULessThan(ctx.U1, lhs, rhs);
  205. }
  206. Id EmitIEqual(EmitContext& ctx, Id lhs, Id rhs) {
  207. return ctx.OpIEqual(ctx.U1, lhs, rhs);
  208. }
  209. Id EmitSLessThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  210. return ctx.OpSLessThanEqual(ctx.U1, lhs, rhs);
  211. }
  212. Id EmitULessThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  213. return ctx.OpULessThanEqual(ctx.U1, lhs, rhs);
  214. }
  215. Id EmitSGreaterThan(EmitContext& ctx, Id lhs, Id rhs) {
  216. return ctx.OpSGreaterThan(ctx.U1, lhs, rhs);
  217. }
  218. Id EmitUGreaterThan(EmitContext& ctx, Id lhs, Id rhs) {
  219. return ctx.OpUGreaterThan(ctx.U1, lhs, rhs);
  220. }
  221. Id EmitINotEqual(EmitContext& ctx, Id lhs, Id rhs) {
  222. return ctx.OpINotEqual(ctx.U1, lhs, rhs);
  223. }
  224. Id EmitSGreaterThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  225. return ctx.OpSGreaterThanEqual(ctx.U1, lhs, rhs);
  226. }
  227. Id EmitUGreaterThanEqual(EmitContext& ctx, Id lhs, Id rhs) {
  228. return ctx.OpUGreaterThanEqual(ctx.U1, lhs, rhs);
  229. }
  230. } // namespace Shader::Backend::SPIRV