cuda-learning

cuda学习入门

Note: https://www.yuque.com/huangzhongqing/hpc/pz921g （暂未公开）

编译运行

mkdir build
cd build
cmake ..
make

nvcc hello-gpu.cu -o hello-gpu
# 调试
nvcc -g -G hello-gpu.cu -o hello-gpu

PyTorch加入自定义Cuda算子demo

• docs: https://www.yuque.com/huangzhongqing/cuda/wqexr9
• code: python_using_cpp_cuda
• ref: https://github.com/JeffWang987/Python_Using_Cpp_CUDA

# 编译cuda生成.so文件
python setup.py develop
# 测试运行
python ball_query_example.py

CUDA相关库

• cub
• thrust
• cublas
• cutlass

cub

• TODO

thrust

• TODO

cublas

下面是测试demo

# 编译：
nvcc test_gemm.cpp -o test_gemm -L/usr/local/cuda/lib64 -lcudart -lcuda -lcublas
# 运行：
./test_gemm

链接：https://zhuanlan.zhihu.com/p/403247313

cutlass

• TODO