Air Container에서는 Autoscaling과 시간 기반 스케일링을 통해 트래픽 패턴에 맞춰 Replica 수를 유연하게 운영할 수 있습니다.
Autoscaling
Autoscaling은 트래픽에 따라 Replica 수를 자동으로 늘리거나 줄이는 기능입니다. 아래와 같은 상황에 유용하며 컨테이너 배포 시 또는 Settings에서 활성화할 수 있습니다.
- 요청량이 시간대별로 크게 달라지는 경우
- 응답 지연을 줄이면서 운영 효율을 높이고 싶은 경우
- 수동으로 Replica 수를 계속 조정하기 어려운 경우
설정 항목
| 항목 | 설명 |
|---|
| 최소 레플리카 | 항상 유지할 최소 Replica 수 |
| 최대 레플리카 | 트래픽이 증가할 때 확장할 최대 Replica 수 |
| 스케일링 감도 | 확장/축소 반응 속도 (Low / Medium / High) |
스케일링 감도
스케일링 감도는 트래픽 변화에 얼마나 빠르게 반응할지를 결정합니다.
| 감도 | 특성 | 적합한 경우 |
|---|
| Low | 보수적 확장/축소 | 트래픽이 완만하게 변하고 과도한 스케일아웃을 피하고 싶을 때 |
| Medium | 균형 잡힌 확장/축소 | 일반적인 API 서버나 모델 서버 운영 시 (기본값 권장) |
| High | 적극적 확장/축소 | 트래픽이 급격히 변동하고 응답 지연에 민감할 때 |
시간 기반 스케일링
운영 팁
-
최소 Replica를 0으로 설정하면 트래픽이 없을 때 완전히 꺼지므로, 항상 응답이 필요한 서비스라면 최소 1로 유지
-
스케일링 감도는 Medium으로 시작하고, 실제 Usage 지표를 보면서 조정
-
예약 작업은 여러 개를 만들어 시간대별로 다른 설정을 적용할 수 있음
-
전환 시 재시작이 발생하므로, 트래픽이 거의 없는 시간대에 일정을 설정하는 것을 권장
예약 작업 생성
컨테이너에서 시간 기반 스케일링 > + 일정 추가 버튼을 눌러 예약 작업을 생성합니다. 예약 작업마다 독립적인 스케일링 설정을 적용할 수 있습니다.
| 항목 | 설명 |
|---|
| 이름 | 예약 작업을 구분하기 위한 설명적인 이름 (예: 업무 시간 스케일 업) |
| 오토스케일링 활성화 | 해당 시간대에 오토스케일링(최소/최대)을 사용할지, 고정 Replica로 운영할지 선택 |
| 최소 레플리카 | 오토스케일링 활성화 시 유지할 최소 Replica 수 |
| 최대 레플리카 | 오토스케일링 활성화 시 확장할 최대 Replica 수 |
| 초기 레플리카 | 스케줄이 적용될 때 처음 시작할 Replica 수 |
| 스케일링 감도 | 오토스케일링의 반응 속도 (Low / Medium / High) |
| 스케줄링 주기 | 현재 매일 반복 실행 |
| 시작 시간 | 스케줄이 적용될 날짜와 시각 (선택사항, KST 기준) |
| 종료 시간 | 스케줄이 종료될 시각 (선택사항) |
| 활성 | 예약 작업을 활성화 또는 비활성화 |
고정 레플리카 ↔ 오토스케일링 전환 시 컨테이너가 재시작됩니다. 무중단 배포가 보장되지 않으며, 초기화 및 배포에 시간이 추가로 소요될 수 있습니다.
예시: 업무 시간 트래픽 대응
매일 오전 9시부터 오후 7시까지 트래픽이 집중되는 경우:
- 예약 작업 1 — 이름: 업무 시간 스케일 업 / 오토스케일링 ON / Min 2 · Max 5 / 시작 09:00 KST
- 예약 작업 2 — 이름: 야간 축소 / 오토스케일링 OFF / 고정 Replica 1 / 시작 19:00 KST
관련 문서
컨테이너 배포
컨테이너 배포 단계와 주요 설정 흐름을 안내합니다.
모니터링 및 문제 해결
Usage/Logs/Settings 등 운영 중 확인할 항목을 정리합니다.
