介绍SK电信、英伟达与Rebellions合作打造GPU与NPU一体化AI基础设施的官方信息图
图片:SK电信

[DiaryPoint记者严柱勇]SK电信、英伟达和Rebellions于9日在首尔COEX签署谅解备忘录(MOU),将共同开发整合GPU与NPU的人工智能(AI)数据中心系统。按照规划,英伟达GPU负责分析问题,Rebellions新一代NPU“Rebel R200”负责生成回答。三家公司计划开发整合系统,并在SK电信数据中心验证其性能和运行可行性。

三家公司计划采用英伟达的NVLink Fusion技术进行连接。英伟达利用这项技术将自家平台与其他企业的AI加速器相连。此次合作方案包括将R200 NPU接入英伟达系统,并采用MGX机架设计,打造机架级系统。

该系统将AI生成回答的推理过程分配给两种芯片。GPU负责预填充(prefill)阶段,计算输入的问题并分析上下文;NPU则负责解码(decode)阶段,逐个生成回答中的词元(token)。三家公司希望根据各阶段的工作特点分配芯片,从而提升吞吐量和能效。

如果这一配置投入实际服务,用户可能会感受到AI响应速度和运行稳定性的变化。不过,此次发布目前仍处于开发和验证的合作阶段。SK电信计划在自家AI数据中心测试该系统的性能与稳定性,并评估其用于A.X K2模型、“全民AI”等服务的可能性。

此次合作的意义在于共同验证韩国国产NPU能否在英伟达的机架设计和高速互连体系中运行。英伟达表示:“NVLink Fusion支持将韩国的ASIC整合到英伟达AI工厂平台中。”SK电信首席技术官郑锡根表示,此次合作将“验证韩国自主AI基础设施提升推理性能和能效的潜力”。

英伟达美国新闻中心将发布日期标为11月8日,但首尔COEX签约活动的日期以及SK电信新闻中心新闻稿的日期均为韩国时间11月9日。SK电信将根据验证结果,评估该系统用于实际服务及商业化的可能性。