'원하는 만큼만 GPU 쓴다'…KT, '하이퍼스케일 AI 컴퓨팅' 출시

 

 

 

 KT는 클라우드 기반의 그래픽처리장치(GPU) 인프라 제공 서비스 ‘하이퍼스케일 인공지능(AI) 컴퓨팅’을 출시했다고 10일 밝혔다.

이는 올해 10월 밝힌 AI 인프라 솔루션 전문기업 ‘모레’와의 협력 결과다.

‘하이퍼스케일 AI 컴퓨팅’은 국내 최초로 고비용의 GPU 인프라를 동적 할당 방식으로 제공하는 실 사용량 기반 종량제 서비스다. AI 서비스 전문기업 또는 AI 개발자 등은 GPU 자원을 원하는 시점에 원하는 만큼만 할당 받아 사용하고 이후엔 반납하면 된다.

실제 개발과정에서 GPU는 개발기간 전체에 필요하지 않고 데이터 분석, 모델학습 등에만 활용된다. 이 서비스를 이용하면 GPU를 필요한 기간에만 사용할 수 있어 개발비용을 대폭 절감할 수 있다.

AI 응용 서비스 개발을 위한 데이터 분석 및 AI 모델 개발에 대규모 GPU 인프라는 필수적이다. 그러나 GPU 시장은 특정 벤더의 독과점 이슈 등으로 비용이 높게 형성돼있어 인프라를 활용하고자 하는 기업에 부담으로 작용하고 있다.

AI 서비스 개발과 운용이 필요한 기업들은 자체적으로 자사의 전산실에 GPU 팜(컴퓨터 서버와 운영시설을 모여놓은 곳)을 구성하거나 클라우드 서비스 공급자(CSP)로부터 고정 할당 방식의 인프라 서비스를 이용해야만 했다.고정할당 방식의 서비스를 이용하면 할당 GPU 이용료를 고정적으로 지불해 GPU를 사용하지 않는 기간에도 비용을 소요된다는 단점이 있다.

하이퍼스케일 AI 컴퓨팅은 대규모 GPU 자원 필요 시 원활한 확장을 지원한다. 물리적으로 한 개의 서버에서 구동할 수 있는 최대의 GPU 수량 이상의 GPU를 클러스터링해 연산에 활용할 수 있다. 특정 시점에 준비된 전체 GPU가 모두 활용돼 일시적으로 자원이 부족하더라도 요청들을 자동으로 대기시키고 순차적으로 처리해 서비스 안정성이 뛰어나다는 점도 큰 특징이다.

(출처: https://news.naver.com/main/read.naver?mode=LSD&mid=sec&sid1=001&oid=119&aid=0002556131   )

 

 

 

(광고1)

최신 IT와 테크 관련 뉴스 소식을 한번에 모아서 볼 수 있습니다.

-다운로드:=> https://play.google.com/store/apps/details?id=com.opensupport.ITNewsMoa 

 

(광고2)

펌웨어 개발자들의 모든 커뮤니티 모아보기 입니다.

-다운로드:=> https://play.google.com/store/apps/details?id=com.opensupport.ModuFirmware 

 

(광고3)

리눅스 관련 질문과 답변을 위한 정보와 커뮤니티 소식을 한번에 모아서 볼 수 있습니다.

-다운로드:=> https://play.google.com/store/apps/details?id=com.opensupport.LinuxQnA 

 

(광고4)

한국의 개발자 커뮤니티의 링크 제공과 더불어 검색기능을 제공합니다.

-다운로드:=> https://play.google.com/store/apps/details?id=com.opensupport.DevMoa 

 

 

 

그럼,

    공유합니다.