更快的模拟、更高的每瓦性能。
显著缩短大型及复杂模型的训练时间。
极低时延、高吞吐量，适用于实际部署规模的 AI 应用。
Bare Metal AI Infrastructure
专享物理 GPU，适用于需要稳定性能的 AI 训练、inference 和 HPC
HiTechCloud Bare Metal GPU 提供专用 GPU 资源，帮助企业自主控制操作系统、driver、framework、数据和 workload 运行计划。
该服务同时适用于 distributed training 和 AI inference，提供 H100、B200、GH200 和 AMD Instinct 配置，支持选填灵活 networking 以及满足性能需求的高速 NVMe。
服务差异化
是什么让 HiTechCloud Bare Metal GPU 与众不同？
专用 GPU 基础设施、高速网络和部署专家确保 AI workload 运行稳定、安全且易于扩展。
专用 GPU
独享 GPU 完整使用权，不分享资源，且不受其他系统影响。
高性能网络架构
AI 训练和 inference 的灵活基础设施，配备高性能 GPU 集群、高带宽和优化的节点间数据传输。
轻松迁移 Workload
为 NVIDIA 和 AMD GPU 工作负载优化，支持以最少改动迁移现有系统。
AI 专家支持
通过SLURM、container、AI framework简化部署，并由专家团队支持集成。
灵活适用于 inference
根据实际需求进行弹性计算，针对 AI inference 场景优化性能与成本。
控制 OS 与软件
根据项目需求自由安装操作系统、GPU driver、CUDA、ROCm 和 framework。
主要优势
为所有 AI Workload 选择合适配置
支持采用专用 GPU 进行 Distributed training 以及 AI inference，提供灵活的 networking 选项，并根据性能和成本需求优化 storage 配置。
成本优化
选择合适的 GPU、存储和计费周期，在预算和性能间达到平衡，满足大规模 AI 需求。
完全控制权
根据自身需求管理OS、驱动程序、runtime、安全策略、数据和任务调度。
扩展就绪
从用于 inference 的 GH200 到用于 training 的 HGX H100、HGX B200、MI300X、MI325X 和 MI355X 集群。
高速 Network
25 Gbps、100 Gbps、200 Gbps 选项，以及所选配置下的 400 Gbps GPU 互连。
快速部署
HiTechCloud 提供关于 GPU、CPU、RAM、NVMe、framework 和运营方案的咨询。
适用于多种 Workload
用于分布式训练、模型服务、HPC 模拟、计算机视觉和生产环境下的 GenAI。
Bare Metal GPU 价格表
根据 AI Workload 选择 GPU Bare metal
价格不含 VAT。选择计费周期时，滑块上的全部价格将同步更新，便于配置对比。
| 服务套餐 | 价格/月 | GPU | CPU | RAM | GPU Network | Network | 操作 |
|---|---|---|---|---|---|---|---|
| AMD MI355X | 552,018,240 VND/月 | 8 x AMD MI355X 288 GB | 2 x AMD EPYC 9575F | 3 TB RAM | 8 x 400 Gbps | 100 Gbps | 注册 |
| NVIDIA HGX B200 | 696,651,840 VND/月 | 8 x NVIDIA B200 192 GB | 2 x AMD EPYC 9575F | 3 TB RAM | 8 x 400 Gbps | 200 Gbps Network | 注册 |
| AMD MI325X | 241,056,000 VND/月 | 8 x AMD MI325X 256 GB | 2 x AMD EPYC 9575F | 3 TB RAM | 8 x 400 Gbps | 100 Gbps Network | 注册 |
| AMD MI300X | 445,953,600đ/月 | 8 x AMD MI300X 192 GB | 2 x AMD EPYC 9534 | 2 TB RAM | 8 x 400 Gbps | 100 Gbps Network | 注册 |
| NVIDIA HGX H100 | 554,428,800 VND/月 | 8 x NVIDIA H100 80 GB SXM | 2 x Intel Platinum 8480+ | 2 TB RAM | 8 x 400 Gbps | 25 Gbps Network | 注册 |
| NVIDIA GH200 | 59,962,680 VND/月 | 1 x NVIDIA GH200 Superchip 96 GB | NVIDIA Grace CPU | 480 GB RAM | 无要求 | 25 Gbps Network | 注册 |
| 服务套餐 | GPU | CPU | Core | RAM | Disk OS | Disk Addons | GPU Network | Network | Bandwidth | IP | 价格/月 | 操作 |
|---|---|---|---|---|---|---|---|---|---|---|---|---|
| AMD MI355X | 8 x AMD MI355X 288 GB | 2 x AMD EPYC 9575F | 128 cores / 256 threads @ 3.3 GHz | 3 TB RAM | 2 x 960 GB NVMe | 8 x 7.68 TB NVMe | 8 x 400 Gbps | 100 Gbps | Unlimited | 1 IPv4 / 1 IPv6 | 552,018,240 VND/月 | 注册 |
| NVIDIA HGX B200 | 8 x NVIDIA B200 192 GB | 2 x AMD EPYC 9575F | 128 cores / 256 threads @ 3.3 GHz | 3 TB RAM | 2 x 1.92 TB NVMe | 8 x 3.84 TB NVMe | 8 x 400 Gbps | 200 Gbps Network | Unlimited | 1 IPv4 / 1 IPv6 | 696,651,840 VND/月 | 注册 |
| AMD MI325X | 8 x AMD MI325X 256 GB | 2 x AMD EPYC 9575F | 128 cores / 256 threads @ 3.3 GHz | 3 TB RAM | 2 x 960 GB NVMe | 8 x 3.84 TB NVMe | 8 x 400 Gbps | 100 Gbps Network | Unlimited | 1 IPv4 / 1 IPv6 | 241,056,000 VND/月 | 注册 |
| AMD MI300X | 8 x AMD MI300X 192 GB | 2 x AMD EPYC 9534 | 128 cores / 256 threads @ 2.45 GHz | 2 TB RAM | 2 x 960 GB NVMe | 8 x 3.84 TB NVMe | 8 x 400 Gbps | 100 Gbps Network | Unlimited | 1 IPv4 / 1 IPv6 | 445,953,600đ/月 | 注册 |
| NVIDIA HGX H100 | 8 x NVIDIA H100 80 GB SXM | 2 x Intel Platinum 8480+ | 112 cores / 224 threads @ 2.0 GHz | 2 TB RAM | 2 x 480 GB NVMe | 8 x 3.84 TB NVMe | 8 x 400 Gbps | 25 Gbps Network | Unlimited | 1 IPv4 / 1 IPv6 | 554,428,800 VND/月 | 注册 |
| NVIDIA GH200 | 1 x NVIDIA GH200 Superchip 96 GB | NVIDIA Grace CPU | 72 Cores @ 3.1 GHz | 480 GB RAM | 1 x 960 GB NVMe | 1 x 3.84 TB NVMe | 无要求 | 25 Gbps Network | Unlimited | 1 IPv4 / 1 IPv6 | 59,962,680 VND/月 | 注册 |
Áp dụng cho tất cả các cấu hình
- Toàn quyền OS và driver
- GPU chuyên dụng, không chia sẻ
- Unlimited bandwidth
AI Workload Fit
Training cluster
Inference node
HPC simulation
GPU framework tuning
配置咨询
还在寻找合适的配置？
选择合适的 GPU 集群
HiTechCloud团队帮助您在training集群与inference集群之间进行选择、确定cluster规模，并为每个use case提供合理的成本建议。
framework 优化
支持选择驱动程序、CUDA、ROCm、container runtime、SLURM、PyTorch、TensorFlow 或合适的 MLOps 解决方案。
设计 storage 和 network
提供 NVMe、25 Gbps 至 200 Gbps 网络以及高速 GPU 互连咨询，以减少大型 dataset 的瓶颈。
东南亚
在东南亚地区自信地扩展
将系统和应用部署在更靠近用户的位置，降低时延并满足本地合规要求。
Bangkok
01- BKK-01
Ho Chi Minh
03- HCM-01
- HCM-02
- HCM-03
Ha Noi
02- HAN-01
- HAN-02
06可用区
20+位于各地区的CDN节点
1000+客户
24/7客户支持
ISO/IEC 27017
ISO/IEC 27018
ISO/IEC 27001
SISA
SOC 2
Uptime Tier
TVRA
适用的应用
与 1,000+ 企业携手踏上数字化转型之旅
快速增长的企业和初创公司选择 HiTechCloud 的 AI Cloud 解决方案，因其安全、高性能和易于扩展。
TrainingDistributed training & fine-tuning
训练 LLM、computer vision、multimodal AI、大型 checkpoint 和复杂数据 pipeline。
Inference高负载 AI inference
为 chatbot、RAG、embedding、recommendation 和 model serving 提供低时延服务。
HPC模拟与研究
加速 simulation、rendering、data science、computational Workload 以及大数据分析。
MLOpsAI production 平台
构建 job 运行环境、管理 model、保存 checkpoint 并平稳扩展资源。
FAQ
常见问题
在 HiTechCloud 选择 Bare Metal GPU 前的快速信息。
Bare Metal GPU 适用于哪些 Workload？
适合 AI 训练、Fine-tuning、inference、HPC、simulation、Computer vision、rendering 和任何需要专用 GPU 的 Workload。
与 GPU 分享相比的不同项是什么？
Bare Metal GPU 提供独占物理资源，使您能够掌控操作系统、驱动程序、数据、任务调度，并获得更稳定的性能。
应该选择 H100、B200、GH200 还是 AMD Instinct？
H100 和 B200 适用于 training、fine-tuning 和大规模 inference。GH200 适用于高性价比的 inference。AMD Instinct 适用于 training 和需要大 VRAM 的 Workload。
HiTechCloud 是否支持 framework 部署？
是的。HiTechCloud支持咨询driver、CUDA、ROCm、container runtime、SLURM、PyTorch、TensorFlow和MLOps。
有哪些计费周期？
服务根据不同配置支持 1、3、6、12、24、36、48 和 60 个月周期。
价格是否已包含 VAT？
价格表不含VAT，可能因追加的存储、网络、运维或定制部署需求而调整。
