【CUDA】大规模测试场景下的数据生成问题

在开发gemm或attention之类的算子时，通常面临着因规模过大造成的溢出问题，体现为虽然单个数据的值很小，但由于大规模的MMA操作，导致结果变成inf。在进行测试时，为覆盖不同的场景同时方便调试，设置值为全1和idx是两种通常的情况，但在大规模MMA中，需要注意：

1. 设置一定的缩放，例如可以将全1变成0.001f。
2. 最好不要用idx，或者改成某个周期内的idx，因为idx会随着问题规模的增大而变大，导致后面的结果虽然通过了缩放，但仍然是很大的情况。
   血泪教训，debug了很久发现是因为测试数据生成不合适造成的问题，悲乎！