ハードウェアとインフラ
AIを実際に動かすチップと電力、そしてロボット
全7本の記事
独自AIチップ
ビッグテックがGPUの外に答えを探す理由
GoogleのTPU、AmazonのTrainium、MicrosoftのMaia、OpenAIとBroadcomが共同設計するチップまで。ビッグテックが汎用GPUの代わりに自社モデルに合わせたASICを自ら作る理由と、その限界を整理します。
インターコネクト
GPUをつなぐ配線が性能を決める
大規模な学習の速さを左右するのは、GPU1枚の性能よりも、それらをどうつなぐかです。スケールアップとスケールアウトの違いと、NVLinkとUALinkが競い合うポイントを整理します。
電力のボトルネック
AIの拡大を阻んでいるのは電気
GPUをどれだけ増やしても、電力の供給を受けられなければデータセンターは建てられません。電力がAI拡大の新たなボトルネックとして浮上しています。
チップフレーション
AI半導体の需要が押し上げた物価
メモリ半導体の品薄がPCやスマートフォンの価格まで押し上げる「チップフレーション」が、実際の統計で確かめられつつあります。
エッジAI
クラウドに問い合わせずデバイスの中でそのまま処理する
毎回サーバーへリクエストを送る代わりに、スマートフォンやPCそのものでAIの処理を終える方式が増えています。
HBM
AIチップの本当のボトルネックは計算ではなくメモリ
GPUの性能がどれだけ上がっても、メモリがデータを必要なタイミングで届けられなければ力を発揮できません。HBMはこのボトルネックを解く中心的な部品です。
AIファクトリー
データセンターは「計算の工場」になった
汎用サーバーを集めた施設を超え、大規模な学習と推論のためだけに設計された専用施設が増えています。
選んだ職種に当てはまる記事はありません。