AI Trend Note
    ← ホームへ

    ハードウェアとインフラ

    AIを実際に動かすチップと電力、そしてロボット

    全7本の記事

    スチームパンクの工房で、職人が大きな汎用の蒸気機関の横にある専用の機械へ緑に光るエンジンモジュールをはめ込む場面

    独自AIチップ

    ビッグテックがGPUの外に答えを探す理由

    GoogleのTPU、AmazonのTrainium、MicrosoftのMaia、OpenAIとBroadcomが共同設計するチップまで。ビッグテックが汎用GPUの代わりに自社モデルに合わせたASICを自ら作る理由と、その限界を整理します。

    7分で読めます
    複数のGPUを高速な配線で結んだインターコネクトの構造を表現したイラスト

    インターコネクト

    GPUをつなぐ配線が性能を決める

    大規模な学習の速さを左右するのは、GPU1枚の性能よりも、それらをどうつなぐかです。スケールアップとスケールアウトの違いと、NVLinkとUALinkが競い合うポイントを整理します。

    6分で読めます
    電力のボトルネック、AIの拡大を阻んでいるのは電気

    電力のボトルネック

    AIの拡大を阻んでいるのは電気

    GPUをどれだけ増やしても、電力の供給を受けられなければデータセンターは建てられません。電力がAI拡大の新たなボトルネックとして浮上しています。

    4分で読めます
    チップフレーション、AI半導体の需要が押し上げた物価

    チップフレーション

    AI半導体の需要が押し上げた物価

    メモリ半導体の品薄がPCやスマートフォンの価格まで押し上げる「チップフレーション」が、実際の統計で確かめられつつあります。

    5分で読めます
    エッジAI、クラウドに問い合わせずデバイスの中でそのまま処理する

    エッジAI

    クラウドに問い合わせずデバイスの中でそのまま処理する

    毎回サーバーへリクエストを送る代わりに、スマートフォンやPCそのものでAIの処理を終える方式が増えています。

    4分で読めます
    HBM、AIチップの本当のボトルネックは計算ではなくメモリ

    HBM

    AIチップの本当のボトルネックは計算ではなくメモリ

    GPUの性能がどれだけ上がっても、メモリがデータを必要なタイミングで届けられなければ力を発揮できません。HBMはこのボトルネックを解く中心的な部品です。

    5分で読めます
    AIファクトリー、データセンターは「計算の工場」になった

    AIファクトリー

    データセンターは「計算の工場」になった

    汎用サーバーを集めた施設を超え、大規模な学習と推論のためだけに設計された専用施設が増えています。

    4分で読めます