Cloud Type
워크로드 특성에 따라 두 가지 Cloud Type 중 하나를 선택할 수 있습니다.AirCloud Plus
높은 안정성, 성능, 예측 가능한 운영 환경이 필요한 워크로드에 적합합니다. 프로덕션 환경에 권장됩니다.
AirCloud Zero
개인, PC방, 공급 파트너사 기반 인프라를 활용하는 옵션입니다. 비용 최적화가 최우선인 경우에 적합합니다.
인스턴스 타입
AirCloud Plus에서 제공하는 GPU 인스턴스 타입과 스펙은 다음과 같습니다.| GPU 모델 | VRAM | RAM | vCPU |
|---|---|---|---|
| NVIDIA RTX 4070 Super | 12GB | 9GB | 8 |
| NVIDIA RTX 4070 Ti Super | 16GB | 58GB | 8 |
| NVIDIA RTX 4090 | 24GB | 58GB | 8 |
| NVIDIA RTX 5090 | 32GB | 58GB | 16 |
| NVIDIA RTX PRO 6000 | 96GB | 58GB | 16 |
모델 크기별 VRAM 권장 기준
실행할 모델 크기에 따라 충분한 VRAM을 갖춘 인스턴스를 선택하세요.| 모델 크기 | 권장 VRAM | 권장 인스턴스 |
|---|---|---|
| 7B 이하 | 12GB 이상 | RTX 4070 Super 이상 |
| 13B | 16GB 이상 | RTX 4070 Ti Super 이상 |
| 30B | 24GB 이상 | RTX 4090 이상 |
| 70B | 32GB 이상 | RTX 5090 이상 |
| 멀티모달 / 초대형 모델 | 96GB | RTX PRO 6000 |
선택 시 고려할 사항
- 필요한 응답 속도
- 모델 크기와 메모리 요구사항
- 예상 요청량
- Replica 운영 계획
- Autoscaling 사용 여부
관련 문서
컨테이너 배포
컨테이너 배포 단계와 주요 설정 흐름을 안내합니다.
오토스케일링 및 스케줄링
Autoscaling/Scheduled Scaling 설정을 정리합니다.