SKT, '누구'에 AI 가속 솔루션 적용…"딥러닝 속도 20배↑"

"서버 증설 없이 속도 향상…SKT AI 서비스에 최적화"

[뉴스토마토 박현준 기자] SK텔레콤이 21일 인공지능(AI) 서비스 처리 속도를 높이는 'AI 가속 솔루션(AIX) 1.0'을 자사의 AI 플랫폼 '누구'에 적용했다.

 

AIX는 소프트웨어로, 손바닥 크기의 소형 카드 모양 가속기에 탑재된다. SK텔레콤은 데이터센터의 누구 AI 서버에 AIX가 탑재된 가속기를 장착했다. SK텔레콤에 따르면 이를 통해 별도의 서버 증설 없이 딥러닝(기계심화학습) 연산 속도가 기존보다 20배 빨라진다.

 

AI 서비스를 하는 주요 기업들은 AI 서버에 기존의 그래픽처리장치(GPU)를 주로 쓴다. 병렬로 연산을 하는 GPU의 특성이 AI 연산과 유사하기 때문이다. 하지만 AI 서비스의 종류와 수가 늘어나면서 GPU가 아닌 AI 전용 처리장치(NPU)에 대한 수요와 관심이 늘었다. 현재 전 세계 NPU 시장은 엔비디아·구글·인텔 등이 주도하고 있다. 이들은 다양한 AI 서비스 기업들에게 NPU를 판매 중이다.

 

SK텔레콤은 우선 자사의 AI 서비스에 AIX를 적용해 속도를 올린다 정무경 SK텔레콤 소프트웨어기술원 머신러닝 인프라 랩장은 이날 서울 중구 삼화타워에서 열린 기자간담회에서 "외부에 판매하기보다 우선 내부 서비스 품질 향상을 위해 사용할 것"이라며 "AIX는 SK텔레콤의 AI 서비스에 최적화됐다"고 말했다.

 

SK텔레콤이 AI 가속 솔루션을 개발한 이유는 누구의 월간 실 사용자 수(MAU)가 급증했기 때문이다. 지난해 8월 11만명이었던 누구의 MAU는 올 1분기 기준 300만명을 돌파했다. SK텔레콤은 AI 스피커에 이어 내비게이션·키즈폰·셋톱박스 등에 누구를 탑재했다.

 

SK텔레콤은 약 2년 간의 연구개발 끝에 AIX를 개발했다. 정 랩장은 "AI 연산과 관계없는 연산을 없앤 것이 AIX의 가장 큰 특징"이라며 "기존 GPU의 연산을 없애 연산양이 확 줄어들면서 서비스 속도가 올라가는 것"이라고 말했다.

 

SK텔레콤 분당 사옥에서 연구원들이 AI 가속 솔루션을 테스트하고 있다. 사진/SK텔레콤

 

SK텔레콤의 머신러닝 인프라 랩의 인원은 엔비디아나 구글의 해당 인력에 비해 적다. 다양한 기업에게 제품을 공급하는 글로벌 기업과 달리 SK텔레콤은 우선 자사의 서비스에만 집중하고 있어, 적은 인력으로도 가능하다는 설명이다. SK텔레콤은 최근 컴퓨팅 설계 전문 엔지니어도 영입했다. 이번 AIX 1.0에 이어 2019년 2.0, 2020년 3.0 등으로 고도화할 계획이다.

 

AI 가속기가 활용될 수 있는 AI 분야는 다양하다. 가령, AI 비서 서비스용 서버에 솔루션을 적용하면 응답시간이 빨라진다. 더 많은 고객들을 동시에 응대할 수 있다. AI가 탑재된 폐쇄회로(CC)TV도 한 번에 더 많은 영상을 분석할 수 있다. 미국 시장조사업체 트랙티카가 지난 3월 발표한 보고서에 따르면 가속 솔루션을 포함한 글로벌 AI 칩셋 시장 규모는 오는 2025년까지 660억달러에 이를 전망이다.

 

박현준 기자 [e-mail]