手元で2000億パラメータのAIを動かすAMDの小型開発機、約64万円で予約開始

大規模なAIモデルは、これまでクラウドのデータセンターで動かすのが当たり前だった。AMDは、その処理を手元の小型PCで完結させる開発者向けマシン「Ryzen AI Halo」の予約受付を始めた。価格は3999ドル(約64万円)からだ。

心臓部は、プロセッサー「Ryzen AI Max+ 395」(開発名Strix Halo)。最大128GBのメモリーをCPUとGPUで共有し、最大2000億パラメータの大規模言語モデルを動かせるとうたう。予約はMicro Center経由で、このプロセッサーに128GBのメモリーと2TBのSSDを組み合わせた構成になる。NVIDIAのローカルAI向け製品「DGX Spark」と競合する位置づけだ。

開発者向けらしく、WindowsとLinuxのどちらでも追加費用なく選べる。Linuxは公式にサポートし、AMDのGPU計算基盤ROCmにも対応する。さらにAMDは、本体のRGB LEDライトバーを制御するLinux用ドライバーまで自社で開発した。まだLinuxカーネル本体には取り込まれていないが、動作はするという。

手元で完結するローカルAIは、データを外に出さずに済み、通信も要らない。個人の開発者や小規模なチームが、大きなモデルを試したり、AIを組み込んだ機器を作ったりする土台になりうる。約64万円という価格は気軽とは言えないが、クラウドに頼らずAIを動かす選択肢が、机の上に増えていく。

関連情報

Compact AMD-branded black box with a purple geometric facade on a slim base.

fabsceneの更新情報はXで配信中です

この記事の感想・意見をSNSで共有しよう
  • URLをコピーしました!

最新記事

YouTube / PodCast

【PR】読んで役立つ注目記事

目次