AI 모델 학습 및 실행, 렌더링, 병렬 연산에 사용되는 그래픽 프로세서입니다.
GPU(Graphics Processing Unit)는 병렬로 작동하는 수천 개의 소형 처리 코어를 갖추고 있어 머신러닝과 렌더링의 기반인 행렬 연산에서 CPU보다 훨씬 빠릅니다.
GPU 임대 가격표를 확인할 때 결정적인 세 가지 매개변수는 칩 제품군(H100, A100, L40S… 각 제품군마다 성능 차이가 수배에 달함), VRAM 용량(로드 가능한 모델 크기 결정), 서버당 GPU 수량입니다.
비용 관련 참고: 간헐적으로 실행할 때는 시간당 GPU 대여가 저렴하지만, 워크로드가 지속적으로 실행되는 경우에는 특정 사용량 임계값부터 고정 인프라가 더 저렴한 경우가 많습니다.
