NVIDIA(エヌビディア)とGroqは、200億ドルで非排他性ライセンス契約を締結し、Groqの技術を取得しました。この契約は、エヌビディアの歴史上最大の投資となります。
AI推理技術の強化
Groqの創設者兼CEOであるジョナサン・ロスは、グーグルのTPUチップの開発者です。GroqのLPUアーキテクチャは、ソフトウェア定義ハードウェアの可変データフロー・アーキテクチャを採用しており、内存帯域幅のボトルネックを解消しています。このアーキテクチャにより、LPUは大規模言語モデルを処理する際に、TPUや従来のGPUでは達成できない物理的な限界を超えるパフォーマンスを発揮します。
半導体産業の動向
AIの大規模モデルは、計算能力の〜する必要があるを大幅に増加させています。エヌビディアのGroqとの提携は、GPUがAI推理タスクの理想的な選択ではないことを示唆しています。非GPUアーキテクチャの重要性が高まっています。
エヌビディアのCEO、黄仁勲は、AI推理〜する必要があるが100倍に増加することを予測しています。Groqの技術を取得することで、エヌビディアはAI推理タスクの高速化と低遅延化を実現することができます。
エヌビディアのCEO、黄仁勲は、AI推理〜する必要があるが100倍に増加することを予測しています。Groqの技術を取得することで、エヌビディアはAI推理タスクの高速化と低遅延化を実現することができます。
コメント 0
まだコメントはありません
最初のコメントを投稿してみましょう!⚠️ エラーが発生しました