IntelとAMDが、x86プロセッサー向けのAI演算命令セット「ACE(AI Compute Extensions)」の仕様を共同で策定し、公開した。2024年10月に発足した業界団体x86 Ecosystem Advisory Group(EAG)を通じて開発したもので、仕様書のバージョン1.15がEAGのWebサイトからダウンロードできる。
ACEは、行列の掛け算を効率よく処理するための命令とレジスターを新たにx86に追加する。16×16の2次元タイルレジスターを8本導入し、外積アルゴリズムで1命令あたりの演算密度を従来のAVX10命令の16倍に高めた。GPUを使った大規模な学習ではなく、GPU非搭載の環境やレイテンシーが重要な場面で、CPUだけでAI推論を効率よく動かすことを狙う。
対応するデータ形式はINT8、FP8、BF16など合計11種類で、量子化した大規模言語モデルの推論に使われるOpen Compute Project(OCP)のブロックスケーリング形式にも対応する。IntelがXeonで先行して搭載していたAMX(Advanced Matrix Extensions)とは互換性がなく、AMXに代わる新しい標準として位置づけられる。
仕様書の著者11人のうち8人がAMDの技術者で、AMDが主導的な役割を担った。対応ハードウェアの出荷は1〜2年後の見通しで、AMDのZen 7アーキテクチャーが最初のACE搭載候補とされている。