Meta が 2 つ目のカスタムプロセッサを公開

メタ「MTIA」V1 (メタトレーニングおよび推論アクセラレーター) のダイショット

ほとんどの人はメタについて考えるとき、Facebook、Instagram、WhatsApp、または今後登場するメタバースなどのアプリを思い浮かべます。多くの人は、同社がこれらのサービスを運用するために世界最大規模で最も洗練されたデータセンターのいくつかを設計、構築していることを知りません。

AWS、GCP、Azure などのクラウドサービスプロバイダーとは異なり、Meta は購入者に好印象を与えるために、OCP 設計以外にもシリコンの選択、インフラストラクチャ、データセンター設計の詳細を開示する必要がありません。メタユーザーは、それがどのように起こるかには関係なく、より優れた、より一貫したエクスペリエンスを望んでいます。

前例のない開示

今日、同社の最新の AI 推論アクセラレータ、実稼働ビデオトランスコーダ、AI 用に設計された次世代データセンターアーキテクチャ、および 16,000 GPU AI 研究の第 2 フェーズの詳細に関する前例のない開示により、詳細の欠如は変わりました。スーパーコンピューターは、LLaMA 生成 AI モデルを強化する最初のフェーズです。

この開示は、市場投入までの時間、差別化、コストに影響を与えるため、投資家を含むメタの利害関係者にとって興味深いものとなるはずです。

今週初めに、私は Meta のインフラストラクチャ担当副社長である Alexis Björlin に話を聞き、同社のシリコンに対するフルスタックアプローチについて、また新しい AI 推論とビデオアクセラレータについてさらに詳しく聞きました。

これまでのメタの進歩には感銘を受けていますが、これはほんの始まりにすぎません。

Meta のフルスタックアプローチ

「MTIA」または「Meta Training and Inference Accelerator」に飛び込む前に、シリコンに対する Meta のアプローチを確認しておきたいと思いました。 1年半前に私が同社と話し合ったときからシリコン戦略は変わっていない、と言えることをうれしく思います。その書き込みはここで読むことができます。 Meta は今後も AMD、Broadcom、Intel、Marvell、NVIDIA から大量の商用シリコンを購入し続ける予定です。ただし、ワットあたりの最高のパフォーマンスと TCO を実現するためにマーチャントのシリコンが最適ではない独自のワークロードに合わせて独自に設計します。

Meta は「フルスタック」インフラストラクチャアプローチを採用しており、インフラストラクチャからアプリ、およびその間のすべてのスタックのほぼすべてのレベルを所有しているため、このアプローチは私にとって戦略的に完全に理にかなっています。業界標準がフルスタック向けに最適化されている場合はそれらを使用し、そうでない場合は OCP や PyTorch などの業界標準の作成に役立ちます。

Meta のアプリとサービスはユニークであり、信じられないほどの規模で動作するため、カスタムシリコンの必要性とメリットがさらに拡大すると私は考えています。 Facebook と Instagram のユーザーは膨大な量のビデオを視聴しており、つながりを持てる人、交流すべき投稿、そしてもちろんクリックすべき広告の推薦が常に提供されています。 AI を導入したメタバースと生成 AI によって、より低消費電力でより高度に最適化されたソリューションの必要性がどのように高まるかは想像できるでしょう。

MSVP: メタスケーラブルビデオプロセッサ

MTIA は Meta の最初のカスタムシリコンではありません。 MSVP (「メタスケーラブルビデオプロセッサ」) は現在生産中です。ビデオトランスコーダに関するいくつかの詳細は昨年明らかになりましたが、同社は今日さらに詳細を公開することを決定しました。

Meta によると、Facebook ユーザーは 1 日あたりの時間の 50% を 4B ビデオの視聴に費やしています。各ビデオはアップロード、保存後に圧縮され、ユーザーが表示するときに適切な形式に解凍されます。これらのビデオは、H.264 や VP9 などの標準形式を使用してトランスコード (圧縮/解凍) されます。秘訣は、ファイルをすばやく小さくし、すばやく保存し、適切なデバイス (携帯電話、タブレット、PC) で可能な限り最高の品質でストリーミングすることです。

Meta の MSVP V1 (Meta Training and Inference Accelerator) パッケージ化されたチップ。

このタイプのワークロード特性は、固定規格全体で最高の効率が必要なワークロードである ASIC (特定用途向け集積回路) に最適です。 ASIC は最も効率的ですが、CPU や GPU ほどプログラム可能ではありません。ビデオ規格が H.264 および VP9 から AV1 に変更されると、これは将来起こる可能性が高く、Meta は新しい ASIC、つまり MSVP の新しいバージョンを作成する必要があります。

Meta が 2 つ目のカスタム プロセッサを公開