엔비디아, 기업의 AI 도입 및 개발 돕는 솔루션 소개

데이터센터 관련 이미지 (사진=엔비디아)
데이터센터 관련 이미지 (사진=엔비디아)

KT의 AI 음성 비서 ‘기가 지니’는 수십억개의 매개 변수가 작용하는 기계학습 알고리즘인 대형언어모델(LLM)로 만들어졌다. 이에 따라 LLM 개발이 먼저 이뤄져야 하지만, 이런 모델 개발은 기술과 투자, 시간 등 소모적인 절차를 거쳐야만 한다. 

이 과정을 효율적으로 만드는데 활용되는 AI가 있다. 엔비디아가 21일 GTC 2022에서 소개한 AI 플랫폼인 ‘DGX SuperPOD’는 KT의 LLM개발 과정을 간소화하고 가속화했다. KT는 또 같은 회사의 AI 도구인 네모 메가트론(Nemo Megatron)을 이용해 알고리즘 교육과 추론을 위한 가장 적절한 구성요소들을 찾아 개발을 진행했다.

엔비디아의 이런 기술들은 기업 차원의 AI 도입이나 개발을 지원하는 AI 솔루션들로, 이날 업그레이드된 시스템이 공개됐다. 이 회사는 새로운 DGX H100 시스템이 이전 세대에 비해 에너지 효율성은 3.5배, 비용은 3분의 1이라고 밝혔다. 

엔비디아는 또 소셜 미디어와 비디오 공유 서비스 회사들을 위해 방대한 이미지를 더욱 빠르고 효율적으로 처리할 수 있도록 지원하는 오픈 소스 라이브러리 CV-CUDA를 도입했다고 이날 발표했다. 엔비디아는 인터넷 트래픽의 대부분이 비디오여서 클라우드 컴퓨팅 비용 상승과 병목 현상을 초래하고 있어, AI 기반의 이미지 처리와 컴퓨터 비전 기술 지원을 위해 이 라이브러리를 구축했다고 설명했다.

CV-CUDA는 개발자에게 50개 이상의 고성능 컴퓨터 비전 알고리즘과 병목 현상 제거를 위한 개발 프레임워크 등을 제공한다. 이에 따라 개발자는 비디오 콘텐츠 생성, 이미지 기반 추천 시스템, 이미지 인식 및 화상 회의를 다룰 때 훨씬 더 속도를 낼 수 있다고 회사 측은 강조했다. 이 라이브러리는 오는 12월에 코드에 접근할 수 있으며 내년 3월 베타 버전으로 배포한다. 

한편 라구 라구람 VM웨어 CEO는 이날 GTC2022에 참여해 젠슨 황 엔비디아 CEO와 대담하면서 “현대 기업은 대량의 데이터를 계속 생성하고 처리하고 있다”면서 “데이터 센터와 멀티 클라우드 등에서 고도로 분산된 워크로드의 새로운 물결이 나타나기 시작했다”고 말했다. 이어 “AI는 모든 기업의 결정적 과업이 됐다”며 기업 컴퓨팅이 바뀌고 있다고 지적했다.

젠슨 황 CEO도 "클라우드 컴퓨팅과 AI가 데이터 센터 구조의 재창조를 주도하고 있으며 데이터 센터는 이제 새로운 컴퓨팅의 단위"라고 말했다.

정병일 위원 jbi@aitimes.com

키워드 관련기사
  • 디지털 트윈이 기업을 돕는 방법
  • 엔비디아, AI 고성능 컴퓨팅을 위한 ‘그레이스 호퍼’ 슈퍼칩 제공
  • 엔비디아, AI 워크플로 차세대 RTX GPU 공개