NVIDIA HGX A100 用于高性能 AI 训练、Inference 和 HPC

适用于 AI training、fine-tuning、inference、HPC、simulation、rendering 以及需要高性能 GPU A100 的各类 workload。

1 个 GPU 适用于测试、小型 fine-tuning 和 inference。2、4、8 或 16 个 GPU 适用于 training、高负载 inference 及大型模型。

是。HGX A100 适用于 Distributed training、大模型 Fine-tuning、高负载 inference 以及需要多 GPU 的 Workload。

当需要更高的 GPU 密度、更出色的可扩展性以及针对大规模 training 或 HPC 的稳定性能时。

是的。HiTechCloud 支持就 driver、CUDA、framework、storage、container 以及适合 workload 的 runtime 配置提供咨询。

支持 1 个月、3 个月、6 个月、12 个月和长期周期。