［ダイアリーポイント＝オム・ジュヨン記者］SKテレコム、NVIDIA、リベリオンは9日、ソウルのCOEXで、GPUとNPUを組み合わせたAIデータセンターシステムの開発に関する業務協約（MOU）を締結した。NVIDIAのGPUが質問を分析し、リベリオンの次世代NPU「Rebel R200」が回答を生成する構成で、3社は統合システムを開発し、SKテレコムのデータセンターで性能と運用可能性を検証する計画だ。
接続技術にはNVIDIAの「NVLink Fusion」を採用する。NVIDIAはこの技術を使い、自社プラットフォームと他社製AIアクセラレーターを接続している。今回の協約では、R200 NPUをNVIDIAのシステムに接続し、MGXラック設計を適用してラック単位のシステムを構築する案が盛り込まれた。
システムでは、AIが回答を生成する推論処理を2種類のチップで分担する。入力された質問を計算し、文脈を分析するプリフィル段階はGPUが担い、回答をトークン単位で順に生成するデコード段階はNPUが担当する。各段階の処理特性に応じてチップを割り当て、処理量と電力効率を高めることを目指す。
実際のサービスに導入されれば、AIの応答速度や運用の安定性に変化が表れる可能性がある。ただし、現段階では開発・検証に向けた業務協約だ。SKテレコムは統合システムを自社のAIデータセンターに導入して性能と安定性を実証し、自社モデル「A.X K2」や「みんなのAI」などのサービスに活用できるか検討する。
今回の協力では、韓国製NPUがNVIDIAのラック設計と高速接続基盤の中で動作するかを共同で検証する。NVIDIAは「NVLink Fusionにより、韓国のASICをNVIDIA AIファクトリープラットフォームと組み合わせられる」と説明した。SKテレコムのチョン・ソックンCTOは、今回の協力について「推論性能と電力効率を高める韓国型ソブリンAIインフラの可能性を検証する」と述べた。
NVIDIAの米国ニュースルームは発表日を11月8日としているが、ソウルのCOEXで協約を結んだ日とSKテレコムのニュースルームに掲載された資料の日付はいずれも韓国時間の9日だ。SKテレコムは実証結果を踏まえ、サービスへの活用や商用化の可能性を検討する。