AIエージェントの普及によって、コンピューティングのあり方は大きく変わりつつあります。これからのデータセンターでは、数千に及ぶタスクを同時に進めながら、CPU、メモリ、ストレージ、AIアクセラレーター（AI専用の演算プロセッサー）の間でデータを絶えずやり取りしなければなりません。そのため、AIのワークロードはますます分散化し、高い性能を継続して維持できることがこれまで以上に重要になります。
従来のAI推論とは異なり、エージェント型AIでは、計算処理だけが負荷の中心になることはほとんどありません。AIエージェントは、情報を継続的に取得および検証し、外部ツールを利用し、問題を推論して解決し、複数の手順からなるワークフローを実行します。こうした処理は、従来とは負荷の性質が大きく異なり、システムのボトルネックも変わります。それに伴い、CPUの役割も変化します。CPUは単にAIアクセラレーターを補助する存在ではなく、AIインフラ全体のワークロードをオーケストレーションする中核的な役割を担います。ワークフローを管理し、AIアクセラレーターとのデータの受け渡しを担い、AI推論の流れを制御するとともに、多数のタスクを並行して実行します。
エージェント型AIのワークロードが拡大すると、従来のx86アーキテクチャではメモリやI/Oの制約を受け、サーバーの稼働率や処理性能が低下する場合があります。その結果、同じ性能を維持するために、より多くのサーバーが必要になります。
Arm AGI CPUは、計算処理、メモリ、I/O、消費電力のバランスを考慮して設計されており、コア当たりのメモリ帯域幅とI/O帯域幅を大幅に高めるとともに、熱設計電力（TDP）を抑え、ラック当たりの搭載密度も高めています。これにより、CPUが中心となる処理や、AIホストノード（AIアクセラレーターを管理するサーバー）で実行される処理でも、サーバーの稼働率を高く維持しながら、AIアクセラレーターを効率よく稼働させることができます。このバランスの取れたアーキテクチャにより、ラック当たりの処理能力と電力効率が向上し、負荷の高い用途でエージェント型AIの導入規模を拡大しても、安定した性能を維持できます。
動画処理におけるラック当たりの性能を向上
動画処理は、AIエージェントがデータセンターにもたらす変化を分かりやすく示す例です。動画をユーザー向けに処理・圧縮・変換する際には、フレームごとに物体検出・メタデータの付与・翻訳・要約などの処理が行われるため、インフラに継続的な負荷がかかります。また、動画処理には30fpsの安定した性能が求められるため、CPUは、AI推論やメモリ、データの流れをパイプライン全体で管理する中心的な役割を担うことになります。
上記のデモ動画では、x86ベースのラックは、リソースの割り当て率が約50%を超えると性能が低下し、フレームレートも落ち始めます。さらに負荷が高まるとサーバーを十分に活用できなくなるため、必要な性能を維持するにはラックを追加しなければなりません。
一方、Arm AGI CPUは、サーバーリソースの割り当て率が90%でも、同じワークロードを安定した性能で実行します。フレームレートを一定に保ち、高いコア稼働率とラック当たりの処理能力を実現できるため、AIエージェントの処理が増える中でも、データセンターの運用効率の向上や総保有コスト（TCO）の削減につながります。
高画質・高効率・よりスマートな動画ストリーミング
動画ストリーミングは、動画処理と並んで、インターネット上で最も規模が大きく、負荷も高いワークロードの一つです。ユーザーは、ライブ配信や製品レビュー動画の視聴、ビデオ会議への参加などの様々な場面で、動画がすぐに読み込まれ、バッファリングや遅延、画質の低下が発生することなく再生されることを、当たり前のこととして求めています。
こうした体験を支えるためには、大規模な処理基盤が必要です。現在、動画はインターネットトラフィック全体の約82%を占めており、データセンターでは膨大な数の動画配信データを処理・圧縮・配信しながら、安定した再生品質を維持しなければなりません。さらに、エージェント型AIの普及に伴い、動画はリアルタイムデータの重要な情報源になりつつあります。AIエージェントは動画内のシーンを解析し、イベントを検出し、意思決定を自動化します。それと同時に、データセンターではユーザーへ高品質な動画視聴体験を提供する必要があるのです。
Arm AGI CPUは、消費電力を抑えながら、ラック当たりでより多くの動画配信に対応し、高品質で滑らかな動画視聴体験を実現します。上記のデモ動画では、高性能なx86サーバーは4K・30fpsの動画を最大256本まで処理できますが、それを超えると性能が低下し始めます。
一方、Arm AGI CPUを搭載したサーバーは、4K・30fpsの動画256本を、フレーム落ちや再生の途切れなく同時に処理するとともに、同じ消費電力の条件で、ラック当たり55%多くの動画配信に対応できます。そのため、動画サービス事業者は、より多くのユーザーに向けて、高品質でスマートな動画サービスを少ない電力で安定して提供できるようになります。
財務業務でマルチエージェントAIの活用を支える
企業では毎日、大量の財務書類や業務データ、顧客とのやり取りが処理されています。財務システムやデータベース、承認プロセス全体で数千ものタスクが同時に実行されることも珍しくありません。そのため、複数のAIエージェントが連携して意思決定を行える仕組みが必要になります。例えば財務業務では、あるAIエージェントがSAPデータベースを検索して請求書を作成する一方で、別のAIエージェントがデータの整合性を確認し、過去の傾向との比較やガバナンスリスクの評価、不整合の検出といった業務を同時に行うことがあり得ます。
Arm AGI CPUは、このような複数のAIエージェントを継続的に並行稼働させ、ワークフロー全体でデータを滞りなく処理できるようにします。請求書を顧客や作業指示、請求リスク、作業指示リスク、検証率などに応じて分類できるため、SAPユーザーは、手作業による確認にかかる時間を削減し、より迅速な意思決定、業務効率の向上、一貫した業務成果の実現が期待できます。
EDAワークロードを高速化
最先端の半導体設計では、EDA（電子設計自動化）が欠かせません。EDAでは、膨大なデータを扱い、数千もの処理を同時に実行します。処理が数日から数週間に及ぶこともあるため、システム基盤には大きな負荷がかかります。従来、設計チームはこうした処理に対応するためにクラウドインフラに大きく依存してきました。しかし、クラウド環境とオンプレミス環境の間で、性能やコスト、ワークロードの振り分けを最適化することは容易ではありません。
Siemens Questa VisualizerやCadence Innovusは、Arm AGI CPU上で安定して動作し、クラウドとオンプレミスの両方の環境で大規模なEDAワークロードに対応できます。数百TBを超える設計データを扱う場合でも、規模を拡大しながら安定した性能を維持できます。そのため、設計チームは、通常の処理は社内環境で行い、大規模なシミュレーションではクラウドを利用するといった柔軟に運用を行えるようになり、インフラの利用効率やコストの最適化も図れます。
2倍の顧客対応を実現
カスタマーサービスは、ビジネスにおいてエージェント型AIの実用的な導入分野の一つとなっています。AIエージェントは、顧客の要望を理解し、処理内容に応じて専門のAIエージェントへ振り分け、ナレッジベースやCRM（顧客関係管理）、バックオフィスシステムをまたぐ複数のステップからなるワークフローを実行します。
Arm AGI CPUは、AIエージェント同士を連携させ、ワークフローの状態を管理し、システム全体でデータを滞りなくやり取りすることで、自律型のカスタマーサービスを大規模に運用できるようにします。また、AIアクセラレーターと組み合わせることで、高いシステム稼働率を維持しながら、複数の処理を含む顧客対応を素早く実行できます。
ラック当たりの消費電力を40kW未満に抑えた条件では、Arm AGI CPUとRebellionsのRebelCardアクセラレーターを組み合わせたシステムは、従来のx86ベースのシステムと比べて、1ラック当たり約2倍の問い合わせを自動処理できます。アクセラレーター当たりのトークン処理性能をほぼ同等に保ちながら、システム全体の消費電力は約半分に抑えられます（Armによる試算）。
次世代AIインフラのために設計されたCPU
エージェント型AIの普及によって、CPUに求められる性能は大きく変わっています。これからのAIインフラでは、AIエージェントへ十分なデータを供給できる高いメモリ帯域幅、AIアクセラレーターを効率よく動かせる高いI/O帯域幅、そして数千ものワークフローを同時に制御できる高いCPU稼働率が重要になります。さらに、これらをデータセンターの供給可能な電力や冷却性能の制限の中で実現しなければなりません。Arm AGI CPUは、こうした要件を満たすために設計されています。ラック当たりの高い性能と優れた電力効率に加え、現代のデータセンターのワークロードを再定義しつつある主要なユースケースにおいて、拡張性の高い性能を提供します。
関連リンク
英語記事：How the Arm AGI CPU supports the most demanding agentic AI workloads at scale
Armについて
著者：Arm編集部
翻訳・編集：AI⇒SoftBank Group編集部
