Cloud Type
워크로드 특성에 따라 두 가지 Cloud Type 중 하나를 선택할 수 있습니다.AirCloud Plus
높은 안정성, 성능, 예측 가능한 운영 환경이 필요한 워크로드에 적합합니다. 프로덕션 환경에 권장됩니다.
AirCloud Zero
개인, PC방, 공급 파트너사 기반 인프라를 활용하는 옵션입니다. 비용 최적화가 최우선인 경우에 적합합니다.
인스턴스 타입
AirCloud Plus에서 제공하는 GPU 인스턴스 타입과 스펙은 다음과 같습니다.위 표는 현재 일반적으로 제공되는 GPU 인스턴스 타입입니다. NPU나 CPU 티어 인스턴스처럼 조직별로 열어 주는 타입도 있어, 권한이 있는 조직에서만 컨테이너 생성 화면에 나타납니다. 정확한 목록은 항상 콘솔 화면을 기준으로 하세요.
모델 크기별 VRAM 권장 기준
실행할 모델 크기에 따라 충분한 VRAM을 갖춘 인스턴스를 선택하세요.선택 시 고려할 사항
- 필요한 응답 속도
- 모델 크기와 메모리 요구사항
- 예상 요청량
- Replica 운영 계획
- Autoscaling 사용 여부
관련 문서
컨테이너 배포
컨테이너 배포 단계와 주요 설정 흐름을 안내합니다.
오토스케일링 및 스케줄링
Autoscaling/Scheduled Scaling 설정을 정리합니다.