AMD Ryzen™ AI ソフトウェア

AMD Ryzen プロセッサ (NPU を含む) は Ryzen AI ソフトウェアに対応しています。サポートされているプロセッサのリスト

AMD Ryzen AI ソフトウェアを使用すると、Ryzen NPU、統合 GPU (iGPU)、または NPU と iGPU のハイブリッド構成に AI モデルを展開して、パフォーマンスと効率のバランスを取ることができます。AMD ROCm ソフトウェア スタックでは、Ryzen iGPU を含む AMD GPU 上での AI モデルのトレーニング、推論、最適化が可能です。

大規模なモデル、高いスループットや広いメモリ帯域幅を必要とするモデル、または重いグラフィックスやハイ コンピューティングを含むワークロードの場合、上級開発者は ROCm を使用してモデルを最適化し、iGPU を設定して管理する必要があります。

iGPU にモデルを展開するには、AMD ROCm ソフトウェア スタック、DirectML、または Lemonade が必要です。

• ROCm は、AMD GPU の構成と管理に加えて、モデル開発、トレーニング、最適化のための柔軟性を提供する開発プラットフォームです。
• DirectML は、モデルを ONNX に変換し、Ryzen プロセッサの iGPU でデプロイできるよう最適化するためのシンプルなワークフローを提供します。
• AMD が提供するオープンソースのマルチモーダル API である Lemonade を使用すると、多くの AI アプリを実行するよう、CPU、NPU、iGPU を自動的に設定して割り当てます。

ニューラル プロセッシング ユニット (NPU) 上で開発するのに最適なアプリは、低消費電力で効率的な AI 推論を必要とするものです。これには、画像認識、言語処理、リアルタイムのビデオおよびオーディオの強化などのタスクが含まれます。NPU は LLM、コンピューター ビジョン、画像生成などの中小規模の AI モデルを実行できます。

NPU アプリは、特にバッテリの寿命を優先する場合に、ノート PC、デスクトップ PC、モバイル ワークステーションに AI 機能をもたらす優れた方法です。NPU は、ユーザーがデータの機密性を保護する必要がある場合、低レイテンシが求められる場合、インターネット接続に依存できない場合のローカル AI にも最適です。

PyTorch が AI 開発で圧倒的な人気を博していることから、多くの開発者は PyTorch で開発したモデルを Windows PC 上で実行できるか知りたいと思っています。PyTorch や TensorFlow で事前学習済みの AI モデルは、ONNX 形式に変換して量子化することで、AMD Ryzen AI ソフトウェアとの互換性を確保できます。これにより、NPU を搭載した Ryzen プロセッサ向けに、Windows と Linux の両方で AI アプリの開発が可能になります。

NPU アプリ開発に最適なソフトウェア ツールは、特定の NPU ハードウェア向けに最適化されたものであり、オープンソースのフレームワークとモデルをサポートできるものです。これにより、開発者はパフォーマンスと柔軟性の組み合わせを追求できます。

AMD Ryzen AI ソフトウェアには、AMD NPU 用のアプリを構築するための開発ツールが含まれています。また、PyTorch や TensorFlow などの一般的なオープンソース フレームワークでトレーニングされたモデルを、NPU 実行用に最適化された ONNX 形式に変換するツールも提供しています。

ローカルな AI エージェントを構築するための最適なツールは、NPU と統合 GPU ハードウェア用に最適化されたものです。これにより、パフォーマンスと効率のバランスをとることができ、AI タスクが PC のバッテリを消耗しすぎるのを防げます。また、さまざまなオープンソースの事前学習済みモデルを使用できれば、開発者は自身のユース ケースに最適なものを選択できます。さらに、すべてのデータをローカルに保持し、クラウド サービスを必要としないソフトウェア ツールが推奨されます。

GAIA は、ローカル AI エージェントを構築するためのオープンソースの AMD ツールです。AMD Ryzen AI ハードウェア上で 100% ローカルに動作し、クラウド コストを排除し、API やサブスクリプションの費用がかからず、利用制限もありません。

AMD 開発者コミュニティ フォーラムや AMD 開発者 Discord サーバーを使用すると、ほかの開発者や AMD エキスパートと直接つながり、問題の解決に役立てることができます。また、GitHub でバグについて送信することもできます。