天珊雪前几天一个做科研计算的朋友找我，说他们一套跑了几年的CUDA流体仿真程序，要迁到新采购的天数智芯GPU上去，问我到底要改多少代码。这个问题其实没法一句话回答，因为“CUDA程序迁移至天数智芯GPU”这件事，表面上看着是换一块显卡、改个编译命令，实际牵扯到编程模型、运行库、编译工具链和性能特征的一整套适配。这篇是CUDA编程系列的第四篇，前面几篇讲的都是NVIDIA平台上怎么把程序写对、写快，这篇换个方向，把迁移过程中的真实经验、踩坑和判断方法完整梳理一遍，给同样需要把CUDA程序跑在其他GPGPU平台上的同学一个可参考的路径。
先说明一下，我这里的迁移对象是通用计算场景下的CUDA程序，包括自研内核、第三方库调用、以及嵌入在深度学习框架里的自定义算子。如果你用的是纯PyTorch/TensorFlow训练脚本，那属于框架层迁移，不在今天讨论的重点，但最后我会提到怎么处理。
1. 迁移前先别急着改代码：盘点CUDA工程的实际兼容面
很多人拿到新硬件后的第一反应是打开代码改API，这是错误顺序。迁移这件事，第一步永远是搞清楚你的工程到底依赖了CUDA生态的哪几层。
1.1 天数智芯GPU的软件生态到底做了什么
天数智芯的GPGPU产品在编程模型上走的是兼容CUDA的路线，这对做迁移的人来说是天大的利好。它提供的软件栈里包含自己的驱动、运行时库和编译工具链，应用层用到的CUDA Runtime API会被映射到对应的实现上，内核编写的CUDA C++语法也能被官方编译工具识别并翻译成目标GPU的指令。
但有一个核心差异你得先刻在脑子里：这套兼容不是二进制兼容。NVIDIA编译出来的cubin、fatbin、PTX代码都不能直接拿去跑，甚至编译期嵌入的架构参数也没法复用。也就是说，凡是编译产物层面的东西全部作废，必须重新编译；凡是源码层面的CUDA语法和Runtime API调用，绝大部分能保留。这个边界直接决定了迁移工作量的下限。
另外还要说清楚一个概念，“兼容CUDA”不等于“和CUDA完全一致”。它更像是一个面向CUDA语法和API的方言系统，底层硬件结构和NVIDIA完全不同，所以哪怕是完全相同的源码，编出来的机器码、运行时的调度行为、访存路径都是两套东西。这就带来了后面要说的性能差异和精度差异。
1.2 代码盘点：哪些是“编译过就能跑”，哪些要动手改
我一般把CUDA工程按依赖深度分成四类，迁移成本递增：
- 纯CUDA Runtime + 自研内核：最常见的情况，主体是
__global__核函数和cudaMalloc/cudaMemcpy这类接口。这类源码迁移成本最低，核心工作是改构建脚本、换编译工具、验证每个内核的正确性。 - 依赖CUDA标准库（cuBLAS、cuFFT、cuSparse等）：需要把库调用换成目标平台提供的等价库。不同平台的库API未必完全一样，参数结构、句柄类型、流同步语义都可能存在细微差异。这块要按下述的“API差异清单”逐一核对。
- 使用了CUDA高级特性（纹理内存、动态并行、CUDA Graph、多卡P2P、统一寻址）：这是最容易翻车的区域。不同平台对这些特性的支持度参差不齐，可能在编译期没问题，运行期才报错，或者能跑但性能一塌糊涂。
- 深度学习中继承自框架的算子：例如通过PyTorch extension写的自定义CUDA算子，迁移时要同时考虑框架适配层和算子本身的兼容性，工作量会往上走一个台阶。
建议你在动手之前，对整个代码仓库做一次静态扫描，把<<<、__global__、cuda开头的API调用、cuda_开头的头文件引用、sm_架构参数全部列出来，形成一张清单。这份清单就是迁移计划的底座。我见过太多人改到一半才发现某个模块用了动态并行，然后整个架构都要返工。
1.3 迁移验收标准：功能、精度、性能三个维度
迁移前一定要和项目需求方对齐验收标准，不然很容易陷入“功能跑通了但甲方觉得性能不行”的拉锯战。我建议按下面三个层次定标准：
- 功能正确：所有测试用例的输出结果与迁移前一致（或误差在允许范围内），这是一个硬指标，没有任何商量的余地。
- 精度达标：浮点计算在不同硬件上本身就有顺序差异，特别是涉及归约、累加、融合运算时，结果最后几位可能不同。要提前定义“可接受误差”，比如相对误差小于1e-5。后面第4章会详细讲精度排查，这里先埋个伏笔。
- 性能可接受：这里需要非常务实。迁移的终极目标可能是成本、供应链、合规，而不是“跑得比NVIDIA快”。所以性能验收标准应该参考业务实际需求——是训练时间不翻倍，还是推理延迟控制在某个毫秒级，还是每秒处理的请求数达标。先把指标定清楚，后面调优才有方向。
需要模型API调用？ 免费领10W Token，多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 兼容层底层原理：从NVCC到天数智芯编译器的路径
源码能复用，是因为天数智芯在语言和API层面做了兼容适配。但你在迁移时会发现，编译命令、链接方式、运行时行为都跟NVIDIA平台不完全一样。理解清楚这层关系，遇到问题才能定位到正确的层级