标签: 推理优化

此标签下的所有文章 "推理优化".

• CUDA 优化：先减少搬运，再隐藏等待

  2026年10月7日

  从一个推理服务的矩阵乘瓶颈出发，理解 shared memory tile 与 double buffer pipeline，并把优化落实到测量和交付。