[다이어리포인트=엄주용 기자] SK텔레콤과 엔비디아, 리벨리온이 9일 서울 코엑스에서 GPU와 NPU를 결합한 인공지능(AI) 데이터센터 시스템 개발 업무협약(MOU)을 맺었다. 엔비디아 GPU가 질문을 분석하고 리벨리온의 차세대 NPU ‘Rebel R200’이 답변을 생성하는 방식으로, 세 회사는 통합 시스템을 개발해 SKT 데이터센터에서 성능과 운영 가능성을 검증할 계획이다.
세 회사가 연결에 쓰기로 한 기술은 엔비디아의 NVLink Fusion이다. 엔비디아는 이 기술로 자사 플랫폼과 외부 기업의 AI 가속기를 연결하며, 이번 협약에서는 R200 NPU를 엔비디아 시스템에 붙이고 MGX 랙 설계를 적용해 랙 단위 시스템을 만드는 방안이 담겼다.
시스템은 AI가 답을 만드는 추론 과정을 두 칩에 나눠 맡긴다. 입력된 질문을 계산해 맥락을 분석하는 프리필 단계는 GPU가, 답변을 토큰 단위로 이어 만드는 디코드 단계는 NPU가 담당한다. 세 회사는 각 단계의 작업 특성에 맞춰 칩을 배치해 처리량과 전력 효율을 높이는 것을 목표로 삼았다.
이 구성이 실제 서비스에 들어가면 이용자는 AI 응답 서비스의 처리 속도와 운영 안정성 측면에서 변화를 체감할 수 있다. 다만 이번 발표는 개발·검증을 위한 업무협약 단계다. SKT는 통합 시스템을 자사 AI 데이터센터에 적용해 성능과 안정성을 실증하고, 자사 모델 A.X K2와 ‘모두의 AI’ 등 서비스에 연결할 가능성을 살필 계획이다.
협력의 의미는 국산 NPU가 엔비디아의 랙 설계와 고속 연결 체계 안에서 작동하도록 함께 검증한다는 데 있다. 엔비디아는 “NVLink Fusion은 한국의 ASIC을 엔비디아 AI 팩토리 플랫폼과 결합할 수 있도록 지원한다”고 밝혔다. SKT 정석근 CTO는 이번 협력이 “추론 성능과 전력 효율을 높일 수 있는 한국형 소버린 AI 인프라의 가능성을 검증”한다고 말했다.
엔비디아의 미국 뉴스룸은 발표일을 11월 8일로 표기했지만, 서울 코엑스 행사에서 협약을 맺은 날짜와 SKT 뉴스룸의 보도자료 날짜는 모두 한국시간 9일이다. SKT는 실증 결과를 바탕으로 실제 서비스 활용과 상용화 가능성을 검토할 예정이다.
0개의 댓글