요즘에도 여전히 AI에 대한 기대가 높아서 AI를 도입하려는 기업들이 많이 있습니다.
하지만, AI 시스템 도입에는 초기 비용이 많이 들 수 있기에 이로 인해 다들 도입에 대해 조심스러운 접근을 하고 있습니다.
그리고 그런 초기 비용의 부담을 완화할 수 있도록 다양한 방식들을 사용하고 있습니다.
예를 들어, PoC(개념 증명, Proof of Concept)와 같은 방법으로 소규모로 시작, 오픈 소스 도구 활용, 정부 지원 사업 활용, GPUaaS나 IaaS와 같은 클라우드 기반 리소스를 사용하는 방식 등으로 비용 부담을 완화하는 것입니다.
오늘은 이런 비용 부담을 완화하는 방식들 중에서 GPUaaS를 제공하는 플랫폼들에 대해서 공유해 드리려고 합니다.
GPUaaS(GPU as a Service)란?
GPUaaS란 GPU as a Service의 약어로 인프라를 서비스로 제공하는 IaaS와 유사하게 GPU를 서비스로 제공하는 것입니다.
즉, 물리적 GPU 하드웨어를 구매하는 것이 아니라 GPUaaS 플랫폼에서 제공하는 가상화된 GPU를 인터넷을 통해서 사용할 수 있게 되는 것입니다.
GPUaaS에 대한 자세한 내용은 아래 글을 참고해 보세요.
* AI 시대의 필수, GPUaaS(GPU as a Service)!
위에서도 언급해 드렸지만, GPUaaS를 사용하는 가장 큰 이유는 바로 초기 비용 부담을 완화할 수 있다는 것입니다.
AI가 어떤 ROI(투자수익률, Return on Investment)를 가져다 줄지 명확하지 않은 상황에서 초기 하드웨어 비용에 너무 많은 투자를 하는 것은 그리 바람직하지 않을 테니까요.
이 외에도 GPUaaS를 사용하면 신속하게 리소스를 확장/축소할 수도 있고, 최신 기술이 적용된 리소스를 계속해서 사용할 수도 있고, 하드웨어 유지 관리 및 물리적 보안 등을 신경 쓰지 않아도 되기에 유지 및 운영 부담도 줄일 수 있습니다.
그럼 이런 GPUaaS를 제공하는 국내 플랫폼들에는 어떤 플랫폼들이 있을까요?
국내 GPUaaS 제공 플랫폼 목록
국내에서 GPUaaS를 제공하는 플랫폼에는 다양한 플랫폼들이 있습니다. 그리고 그런 플랫폼들에는 다음과 같은 플랫폼들이 있습니다.
1. kt cloud:
https://cloud.kt.com/product/productDetail?prodId=P000000006
kt cloud GPU Server는 kt cloud에서 제공하는 GPUaaS 형태의 리소스입니다. 제공하는 GPU 타입은 A100입니다.
2. NAVER CLOUD PLATFORM GPU Server:
https://www.ncloud.com/v2/product/compute/gpuServer
NAVER CLOUD PLATFORM GPU Server는 네이버 클라우드 플랫폼에서 제공하는 GPUaaS 형태의 리소스입니다. 제공하는 GPU 타입은 L4, L40S, A100, T4, V100, P40 등이 있습니다.
3. NHN CLOUD GPU Instance:
https://www.nhncloud.com/kr/service/compute/gpu-instance?lang=ko
NHN CLOUD GPU Instance는 NHN CLOUD에서 제공하는 GPUaaS 형태의 리소스입니다. 제공하는 GPU 타입은 V100, T4, A100 등이 있습니다.
4. 삼성SDS GPUaaS:
https://www.samsungsds.com/kr/gpuaas/gpuaas.html
삼성SDS GPUaaS는 삼성SDS에서 제공하는 GPUaaS입니다. 제공하는 GPU 타입은 A100, H100, L40S입니다.
5. K GPUaaS:
https://enterprise.kt.com/pd/P_PD_NE_00_357.do
K GPUaaS는 KT 엔터프라이즈에서 제공하는 GPUaaS입니다. 제공하는 GPU 타입은 NVIDIA H100입니다.
이 외에도 엘리스클라우드, SKT, 카카오클라우드 등의 국내 회사들도 GPUaaS를 제공하고 있습니다.
국내 GPUaaS 제공 플랫폼 비교
위에서 공유해 드렸듯이, 국내만해도 GPUaaS를 제공하는 플랫폼들이 많이 있습니다.
이런 플랫폼들 중에서 어떤 플랫폼을 선택할지 고민이 되시는 분들을 위해서 간략하게 플랫폼 비교 정보도 공유해 드리겠습니다.
| 기업 | 명칭 | 제공 GPU 타입 | 타깃 시장 |
| kt cloud | GPU Server | A100 | 금융업, 연구 기관 |
| NCP | NCP GPU Server | L4, L40S, A100, T4, V100, P40 | 엔터프라이즈, 연구 기관 |
| NHN CLOUD | NHN GPU Instance | V100, T4, A100 | 공공 기관 |
| 삼성SDS | 삼성SDS GPUaaS | A100, H100, L40S | 엔터프라이즈, 연구 기관 |
| SKT | SKT Enterprise GPUaaS | B200 | 기업, 연구 기관 |
| KT 엔터프라이즈 | K GPUaaS | H100 | 기업, 연구 기관 |
* 위 내용은 각 제공 플랫폼에서 제공하는 정보 및 언론자료를 바탕으로 하였고, 추후 내용이 갱신될 수 있습니다.
GPUaaS 제공 플랫폼 선택 시 고려 사항
위에서 공유해 드렸듯이, GPUaaS 제공 플랫폼도 많이 있고 각 플랫폼별 요금제도 다양합니다. 그리고 각 서비스별 옵션들도 다양합니다.
그렇기에 비즈니스 목적 및 예산에 맞는 적절한 플랫폼을 선택해야 할 뿐만 아니라, 다음과 같은 사항들도 같이 고려해야 합니다.
* 성능 및 GPU 사양: 당연하겠지만, 비즈니스 목적 및 예산에 맞는 GPU 사양에 대해 고려할 필요가 있습니다.
* 요금제 및 비용 효율성: GPUaaS 제공 플랫폼별로 다양한 요금제를 제공합니다. 이에 예산과 서비스 사용 기간에 따른 적합한 요금제 모델에 대해서도 고려해야 합니다.
* 확장성과 유연성: 일반적으로 GPUaaS는 어느 정도의 확장성과 유연성을 제공합니다. 하지만, 플랫폼 별로 다른 정책이나 프로세스가 적용될 수 있기에 이에 대해서도 고려할 필요가 있습니다.
* 안정성과 가동률: 비즈니스 목적에 따라 플랫폼에서 제공하는 안정성과 가동률에 대해서도 고려할 필요가 있습니다. 서비스 중요도가 낮으면 괜찮겠지만, 서비스 중요도가 높은 경우에는 이를 가장 먼저 생각해야 할 수도 있습니다.
* 기타 제공 옵션: 데이터 전송 및 저장 옵션, 보안 사항, 서비스 지원 및 운영 관련 사항 등 플랫폼에서 제공하는 다른 옵션들에 대해서도 확인을 해야 합니다. 그리고 조직 내부에 관련 전문가가 있다면 문제가 없겠지만, 그렇지 않은 경우에는 자사와 같은 매니지드 서비스 업체를 통해 진행하시는 것도 좋은 방법이 될 수 있습니다.
이런 고려 사항들에 대해서는 하기 글에 있는 내용도 같이 참고해 보시기 바랍니다.
* AI 시대의 필수, GPUaaS(GPU as a Service)!
오늘은 GPUaaS 제공 플랫폼들에 대해서 공유해 드렸습니다.
AI 도입을 위해서는 GPU가 필수이지만, 초기 하드웨어 도입 비용으로 인해서 망설여지실 수도 있다는 생각이 듭니다. 만약 그런 상황이라면 GPUaaS로 초기 비용은 낮추고 신속하게 진행해 보시면 어떨까 합니다.
급변하는 현재 상황에서 망설이는 순간 비즈니스의 기회가 지나가 버릴 수도 있으니까요.
GPU에 대한 도움이 필요하십니까?
Didim365에서는 GPUaaS 컨설팅, 구축, 운영까지의 모든 과정에 대한 서비스를 제공하고 있습니다. GPU에 대한 고민이 있으시면 언제든지 Didim365에 문의해 주세요.