算力基础 / TOKEN WIKI
GPU / 图形处理器
一句话理解
GPU 是适合大规模并行计算的处理器，常用于深度学习训练、推理和科学计算。
为什么与业务相关？
不同芯片的显存、带宽、精度支持和软件生态会影响可部署模型与单位成本。
应用时如何判断？
先确认模型内存需求、并行方式及框架兼容，再通过目标任务压测比较。
常见问题
选 GPU 只看显存大小够吗？
不够，还需考虑带宽、算力、互联、驱动及推理框架支持。
GPU 是适合大规模并行计算的处理器，常用于深度学习训练、推理和科学计算。
不同芯片的显存、带宽、精度支持和软件生态会影响可部署模型与单位成本。
先确认模型内存需求、并行方式及框架兼容，再通过目标任务压测比较。
不够，还需考虑带宽、算力、互联、驱动及推理框架支持。
一起出海 ↗