Tự động điều chỉnh số lượng instances dựa trên load hoặc schedule.
Auto Scaling dựa trên: CPU, memory, request count, custom metrics, schedule. Cần: min/max/desired capacity, cooldown period, termination policy. Cloud: AWS ASG, Azure VMSS, GCE MIG.
Thuật ngữ liên quan
- Colocation Thuê chỗ đặt máy chủ của chính mình trong trung tâm dữ liệu của nhà cung cấp.
- Dedicated Server Máy chủ vật lý nguyên chiếc dành riêng cho một khách hàng, không chia sẻ với ai.
- Failover Chuyển đổi tự động sang hệ thống dự phòng khi hệ thống chính bị lỗi.
- GPU Bộ xử lý đồ hoạ, dùng cho huấn luyện và chạy mô hình AI, dựng hình và tính…
- Health Check Kiểm tra định kỳ để xác định instance có healthy và sẵn sàng nhận traffic.
- High Availability Thiết kế hệ thống để đảm bảo uptime cao, thường 99.9% trở lên.
- Horizontal Scaling Thêm/bớt instances để phân phối load.
- Hypervisor Lớp phần mềm tạo và quản lý các máy ảo trên một máy chủ vật lý.
