일반 GPU와 전용 GPU의 차이

• 일반 GPU 컨테이너: 대시보드에서 표시되는 가용 GPU 중 하나를 선택해 생성합니다. 가용성은 실시간 상황에 따라 달라질 수 있습니다.
• 전용 GPU 예약: 특정 기간 동안 특정 조직을 위해 GPU를 예약하는 계약형 리소스입니다.
• MIG 분할 리소스: 지원 GPU에서 하나의 물리 GPU를 여러 개의 독립적인 GPU 인스턴스로 나누어 사용하는 방식입니다.

MIG란?

MIG(Multi-Instance GPU)는 지원되는 NVIDIA GPU에서 GPU 메모리와 연산 자원을 여러 인스턴스로 분할하는 기능입니다. StreamGPU에서는 고객이 이해하기 쉽도록 분할 GPU 인스턴스 또는 MIG 인스턴스라고 안내할 수 있습니다.

모든 GPU가 MIG를 지원하는 것은 아니며, 지원 여부와 가능한 분할 구성은 GPU 모델과 운영 상태에 따라 달라집니다.

언제 사용하나요?

• 한 조직이 일정 기간 안정적인 GPU 용량을 확보해야 할 때
• 여러 팀원이 작은 GPU 단위를 나누어 사용해야 할 때
• 교육, 실습, 추론 워크로드처럼 리소스 단위가 예측 가능한 경우
• 공유 가용성보다 계약형 리소스 보장이 중요한 경우

신청 및 적용 흐름

1. StreamGPU 영업/지원팀에 조직명, 필요 GPU, 기간, 예상 사용량을 전달합니다.
2. 지원팀이 GPU 모델, 가용성, MIG 지원 여부, 예상 비용을 확인합니다.
3. 계약 또는 승인 후 조직 리소스 예약이 생성됩니다.
4. MIG가 필요한 경우 지원팀이 안전 점검 후 구성 변경을 진행합니다.
5. 적용 후 조직 컨테이너에서 예약 리소스를 사용할 수 있습니다.

운영 중 주의사항

• MIG 구성 변경은 해당 GPU의 실행 중인 작업에 영향을 줄 수 있습니다.
• 구성 변경 전에는 작업 중지, 데이터 백업, 변경 시간을 사전에 조율해야 합니다.
• 전용 예약은 시작/종료 시간이 있으며, 기간 종료 후 사용 조건이 달라질 수 있습니다.
• 조직 잔액 또는 계약 조건이 부족하면 신규 생성이나 연장에 제한이 있을 수 있습니다.

과금 방식

전용 GPU와 MIG 인스턴스의 과금은 일반 컨테이너 사용량 과금과 다를 수 있습니다. 계약 조건에 따라 선결제, 예약 금액 차감, 조직 잔액 차감 또는 별도 청구 방식이 적용될 수 있습니다.

정확한 요금과 적용 기간은 견적 또는 계약 문서를 기준으로 확인하세요.

지원 요청 시 필요한 정보

• 조직명 또는 고객 코드
• 필요 GPU 모델 또는 VRAM/성능 요구사항
• 필요 기간과 사용 시간대
• MIG 분할이 필요한 경우 원하는 인스턴스 수와 대략적인 메모리 요구사항
• 컨테이너 이미지, 프레임워크, 예상 워크로드