【DiaryPoint＝オム・ジュヨン記者】Googleは11月9日、第8世代のTensor Processing Unit（TPU）システム「8tx」と「8i Max」を発表した。8txは機密性の高いデータを処理中も保護する「機密推論」向け。8i Maxは、長いコンテキストを一度に扱うAI処理を想定している。
両製品はまったく新しいチップ設計ではなく、既存の8t・8iチップをベースにメモリー、ネットワーク、セキュリティ構成を調整したシステムだ。Googleは4月、8tを大規模AIモデルの学習用、8iをリアルタイム推論用として発表しており、今回の発表で第8世代の製品群は4システムに広がった。
8txは処理中のデータもハードウェアで隔離
8txは8tと同じシリコンを採用し、第5世代AMD EPYC中央処理装置（CPU）をホストとして組み合わせる。保存時や転送時に暗号化されたデータも、演算中はメモリー上で復号する必要がある。8txは機密コンピューティングを採用し、こうした処理中のデータやモデルの重みをハードウェアレベルで保護する。
AMDによると、CPUのセキュリティ機能「SEV」をTPUアクセラレーターまで拡張し、保護範囲を広げる。保護メモリーへのアクセス前にアクセラレーターの身元とセキュリティ設定を確認し、CPUメモリー内のデータやCPUとアクセラレーター間を移動するデータを暗号化。アクセラレーターの演算中はハードウェアによる隔離を行う。Googleは、8txのBoardflyネットワークにより、8tと比べて遅延を最大2分の1に抑えながら、性能低下をほぼ回避できるとしている。
8i Maxは2つのチップを統合し、長いコンテキストに対応
8i Maxは低遅延TPUの8iを2基、1つのパッケージに統合した。Googleによると、8iに比べて演算性能、SRAM容量、HBM帯域幅がそれぞれ2倍になった。既存のラックスペースにシリコンを2倍搭載し、スペースと電力あたりの演算密度も高めている。
複数のAIエージェントが、ソフトウェアのコード全体や長時間の動画のような大量の情報を一緒に分析する場合、必要なデータをすばやく供給するメモリー帯域幅がボトルネックになりうる。8i Maxは、コーディング支援や複雑な推論など、大きなコンテキストを扱う処理でこの制約を減らすことを目指す。
TPUはGoogle検索、YouTube、Geminiなど自社サービスに使われるほか、Google Cloudの顧客にも提供されている。ロイター通信によると、9月期のGoogle Cloud売上高は307億1000万ドルと2倍以上に増え、TPUの売上も業績に大きく寄与した。Googleは、規制産業や政府機関の機密性の高いAI処理、大規模なコンテキストを扱う企業需要を取り込み、Nvidiaが主導するAIチップ市場で選択肢を広げようとしている。