Bộ xử lý đồ hoạ, dùng cho huấn luyện và chạy mô hình AI, dựng hình và tính toán song song.
GPU (Graphics Processing Unit) có hàng nghìn nhân xử lý nhỏ chạy song song, nên nhanh hơn CPU rất nhiều ở các phép toán ma trận — nền tảng của học máy và dựng hình.
Khi đọc bảng giá GPU cho thuê, ba thông số quyết định: dòng chip (H100, A100, L40S… mỗi dòng cách nhau nhiều lần về hiệu năng), dung lượng VRAM (quyết định mô hình cỡ nào nạp được), và số GPU trên mỗi máy.
Lưu ý về chi phí: thuê GPU theo giờ rẻ khi chạy ngắt quãng, nhưng nếu tải chạy liên tục thì hạ tầng cố định thường rẻ hơn từ một ngưỡng sử dụng nhất định.
