GPU

GPU (Graphics Processing Unit) 拥有数千个并行运行的小处理核心，因此在矩阵运算方面比 CPU 快得多 — 这是机器学习和图形渲染的基础。

在查看 GPU 租赁价格表时，有三个决定性参数：芯片系列（H100、A100、L40S……各系列之间的性能相差数倍）、VRAM 容量（决定可加载的模型规模）以及每台服务器的 GPU 数量。

成本注意：间歇性运行时按小时租用 GPU 较为便宜，但若负载持续运行，则超过特定使用阈值后固定基础设施通常更划算。