Erstellen oder konvertieren Sie KI-Apps für auf AMD Ryzen™ AI basierende PCs. Optimieren Sie für reine NPU- oder hybride NPU + integrierte GPU (iGPU)-Ausführung für schnelle, effiziente Performance und längere Akkulaufzeit. Führen Sie die KI-Verarbeitung auf dem Gerät durch, um Datenschutz und Sicherheit zu verbessern, sodass vertrauliche Daten auf Ihrem PC und nicht in der Cloud verbleiben.
Testen Sie echte Anwendungsfälle für Ryzen AI Software.
Die Ryzen AI Software wurde speziell für Entwickler konzipiert und bietet Tools und Laufzeitbibliotheken für Inferenz auf PCs. Anwendungen können auf AMD NPUs, integrierten GPUs (iGPUs) oder einem Hybrid ausgeführt werden.
Starten Sie schnell mit einfacher Installation, einer Sammlung vortrainierter Modelle und LLMs, die für ONNX optimiert sind.
Entdecken Sie Lernmittel und bleiben Sie informiert mit den neuesten Nachrichten von AMD.
Die AMD Ryzen Prozessoren, die eine NPU enthalten, sind mit Ryzen AI Software kompatibel. Liste der unterstützten Prozessoren
Die AMD Ryzen AI Software ermöglicht die Bereitstellung von KI-Modellen auf der Ryzen NPU, auf der integrierten GPU (iGPU) oder auf einem Hybrid aus NPU und iGPU für ausgewogene Performance und Effizienz. Der AMD ROCm Software-Stack ermöglicht KI-Modelltraining, Inferenz und Optimierung auf AMD GPUs, einschließlich der Ryzen iGPU.
Für große Modelle, Modelle, die einen hohen Durchsatz oder eine hohe Speicherbandbreite erfordern, oder Workloads, die eine hohe Grafik- oder Rechenleistung beinhalten, sollten fortgeschrittene Entwickler ROCm verwenden, um Modelle zu optimieren und die iGPU zu konfigurieren und zu verwalten.
Für die Bereitstellung von Modellen auf der iGPU ist der AMD ROCm Software-Stack, DirectML oder Lemonade erforderlich.
Die besten Anwendungen, die auf einer Neural Processing Unit (NPU) entwickelt werden können, sind diejenigen, die eine effiziente KI-Inferenz mit geringem Stromverbrauch erfordern. Dies kann Aufgaben wie Bilderkennung, Sprachverarbeitung und Echtzeit-Video- und Audioverbesserungen umfassen. NPUs können kleine bis mittlere KI-Modelle ausführen, einschließlich LLMs, Computer Vision und Bildgenerierung.
NPU-Anwendungen sind eine großartige Möglichkeit, KI-Funktionen auf Notebooks, Desktop-PCs und mobilen Workstations bereitzustellen, insbesondere wenn die Akkulaufzeit priorisiert wird. NPUs eignen sich auch ideal für lokale KI, bei der Benutzer Daten privat halten müssen, eine niedrige Latenz benötigen oder sich nicht auf eine Internetverbindung verlassen können.
Angesichts der überwältigenden Popularität von PyTorch für die KI-Entwicklung möchten viele Entwickler wissen, ob sie in PyTorch entwickelte Modelle auf Windows-PCs ausführen können. Vortrainierte KI-Modelle in PyTorch oder TensorFlow können in das ONNX-Format konvertiert und für die Kompatibilität mit AMD Ryzen AI Software quantisiert werden. Dies ermöglicht die Entwicklung von KI-Anwendungen unter Windows und Linux für Ryzen Prozessoren mit einer NPU.
Die besten Softwaretools für die Entwicklung von NPU-Anwendungen sind für bestimmte NPU-Hardware optimiert und können Open-Source-Frameworks und -Modelle unterstützen. Dies bietet Entwicklern eine Kombination aus Performance und Flexibilität.
Die AMD Ryzen AI Software enthält Entwicklertools zum Erstellen von Anwendungen für AMD NPUs. Sie bietet auch Tools zur Konvertierung von Modellen, die auf gängigen Open-Source-Frameworks wie PyTorch und TensorFlow trainiert wurden, in optimierte ONNX-Formate für die NPU-Ausführung.
Die besten Tools zum Erstellen lokaler KI-Agenten sind für NPU und integrierte GPU-Hardware optimiert. So können Performance und Effizienz in Einklang gebracht werden, damit KI-Aufgaben die PC-Akkus nicht übermäßig belasten. Außerdem arbeiten sie mit einer Vielzahl von vortrainierten Open-Source-Modellen, sodass Entwickler wählen können, was am besten zu ihrem Anwendungsfall passt. Schließlich sollten Softwaretools alle Daten lokal speichern und keine Cloud-Services erfordern.
GAIA ist ein Open-Source-Tool von AMD für den Aufbau lokaler KI-Agenten. Es läuft 100 % lokal auf AMD Ryzen AI Hardware, eliminiert Cloud-Kosten und hat keine API-Gebühren, Nutzungsbeschränkungen oder Abonnements.
Das AMD Entwickler-Community-Forum und der AMD Entwickler-Discord-Server ermöglichen es Ihnen, direkt mit anderen Entwicklern und AMD Experten zu kommunizieren, um Fragen zu erörtern und Probleme zu beheben. Sie können auch einen Bug auf GitHub melden.
Informieren Sie sich über die neuesten Produktversionen, Neuigkeiten und Tipps.
