A100
性价比之选，覆盖中小模型训练、推理与科研计算，适合验证期与预算敏感场景。
先想清楚：你要算力的目的是什么
选型的起点不是"买哪张卡"，而是"要解决什么任务"。训练、推理、AIGC 与科研计算对 GPU 的要求差异很大：训练看重显存与互联，推理看重吞吐与延迟，AIGC 看重大显存与批量能力。先定义任务，再反推配置，是避免浪费的第一步。
四个关键维度
- 显存：模型参数、序列长度与批次越大，需要的显存越多；显存不足会被迫多卡切分，增加通信开销。
- 算力：FP16/FP8 等精度下的峰值算力决定单步速度，直接影响训练时长。
- 互联带宽：多卡训练时，NVLink / 高速网络决定扩展效率，带宽不足会严重拖慢大规模训练。
- 稳定性：长周期训练对中断极其敏感，机房供电、制冷与运维机制必须过关。
主流型号怎么选
H100
生态成熟、交付稳定，是很多训练项目的稳妥主力卡。
H200
大显存版本，适合超大模型训练与长上下文推理，缓解显存瓶颈。
B200
Blackwell 新一代，适合追求更高训练效率与集群扩展性的团队。
计费方式怎么匹配
我们建议用"任务节奏"决定计费：临时验证与压测用按需；持续训练与长期推理用包月/包年；完整训练或交付项目用项目制。把计费方式与负载曲线对齐，往往比单纯压低单价更省成本。
一个实用的选型流程
- 明确任务类型（训练/推理/AIGC/科研）与模型规模；
- 估算显存与并发，圈定候选 GPU 型号；
- 用小任务实测吞吐与中断率；
- 按稳定负载选择包月/包年，按峰值保留弹性。