NVIDIA(エヌビディア)、Groqと提携しAI推理技術を強化

半導体産業の新たな動向

NVIDIA(エヌビディア)とGroqは、200億ドルで非排他性ライセンス契約を締結し、Groqの技術を取得しました。この契約は、エヌビディアの歴史上最大の投資となります。

AI推理技術の強化

Groqの創設者兼CEOであるジョナサン・ロスは、グーグルのTPUチップの開発者です。GroqのLPUアーキテクチャは、ソフトウェア定義ハードウェアの可変データフロー・アーキテクチャを採用しており、内存帯域幅のボトルネックを解消しています。このアーキテクチャにより、LPUは大規模言語モデルを処理する際に、TPUや従来のGPUでは達成できない物理的な限界を超えるパフォーマンスを発揮します。

半導体産業の動向

AIの大規模モデルは、計算能力の〜する必要があるを大幅に増加させています。エヌビディアのGroqとの提携は、GPUがAI推理タスクの理想的な選択ではないことを示唆しています。非GPUアーキテクチャの重要性が高まっています。

エヌビディアのCEO、黄仁勲は、AI推理〜する必要があるが100倍に増加することを予測しています。Groqの技術を取得することで、エヌビディアはAI推理タスクの高速化と低遅延化を実現することができます。

ソース情報

元記事公開日
翻訳・編集
最終更新

本記事は上記ソースを基に翻訳・編集したものです。 内容の正確性については元記事をご確認ください。

コメント 0

0/2000
コメントを読み込み中...
半導体の記事一覧へ戻る