Thêm/bớt instances để phân phối load.
Horizontal scaling không giới hạn, zero-downtime, cost-effective. Yêu cầu: stateless applications, shared storage, session management, load balancer. Phù hợp cho web servers, APIs.
Thuật ngữ liên quan
- Auto Scaling Tự động điều chỉnh số lượng instances dựa trên load hoặc schedule.
- Colocation Thuê chỗ đặt máy chủ của chính mình trong trung tâm dữ liệu của nhà cung cấp.
- Dedicated Server Máy chủ vật lý nguyên chiếc dành riêng cho một khách hàng, không chia sẻ với ai.
- Failover Chuyển đổi tự động sang hệ thống dự phòng khi hệ thống chính bị lỗi.
- GPU Bộ xử lý đồ hoạ, dùng cho huấn luyện và chạy mô hình AI, dựng hình và tính…
- Health Check Kiểm tra định kỳ để xác định instance có healthy và sẵn sàng nhận traffic.
- High Availability Thiết kế hệ thống để đảm bảo uptime cao, thường 99.9% trở lên.
- Hypervisor Lớp phần mềm tạo và quản lý các máy ảo trên một máy chủ vật lý.
