Crea o convierte aplicaciones de IA para que se ejecuten en PC con tecnología AMD Ryzen™ AI. Optimiza la ejecución solo en NPU o en NPU híbrida y GPU integrada (iGPU) a fin de lograr un rendimiento rápido y eficiente, además de una mayor duración de la batería. Mantén el procesamiento de IA en el dispositivo para mejorar la privacidad y la seguridad, de modo que los datos confidenciales permanezcan en tu PC en lugar de la nube.
Prueba casos de uso reales para el software Ryzen AI.
Diseñado para desarrolladores, el software Ryzen AI ofrece herramientas y bibliotecas de tiempo de ejecución para la inferencia en las PC. Las aplicaciones se pueden ejecutar en NPU AMD, GPU integradas (iGPU) o una combinación de ambas.
Comienza rápidamente con una instalación simple, una colección de modelos preentrenados y LLM optimizados para ONNX.
Explora los recursos de aprendizaje para mantenerte al día con lo último de AMD.
Los procesadores AMD Ryzen que incluyen una NPU son compatibles con el software Ryzen AI. La lista de procesadores compatibles
El software AMD Ryzen AI permite la implementación de modelos de IA en la NPU Ryzen, en la GPU integrada (iGPU) o en una combinación híbrida de NPU e iGPU para un rendimiento y una eficiencia equilibrados. La pila de software AMD ROCm permite el entrenamiento, la inferencia y la optimización de modelos de IA en las GPU AMD, incluida la iGPU Ryzen.
Para los modelos grandes, los modelos que requieren un rendimiento o un ancho de banda de memoria altos, o las cargas de trabajo que incluyen gráficos pesados o informática de alto nivel, los desarrolladores avanzados deben utilizar ROCm a fin de optimizar los modelos, además de configurar y administrar la iGPU.
Para implementar modelos en la iGPU, se requiere la pila de software AMD ROCm, DirectML o Lemonade.
Las mejores aplicaciones que se desarrollan en una unidad de procesamiento neuronal (NPU) son aquellas que requieren una inferencia de IA eficiente y de baja potencia. Esto puede incluir tareas como reconocimiento de imágenes, procesamiento de idiomas y mejoras de video y audio en tiempo real. Las NPU pueden ejecutar modelos de IA pequeños a medianos, incluidos LLM, visión artificial y generación de imágenes.
Las aplicaciones para NPU son una excelente forma de ofrecer capacidades de IA a laptops, PC de escritorio y workstations móviles, especialmente cuando se prioriza la duración de la batería. Las NPU también son ideales para la IA local, en la que los usuarios necesitan mantener la privacidad de los datos, requieren una baja latencia o no pueden depender de una conexión a Internet.
Dada la gran popularidad de PyTorch para el desarrollo de IA, muchos desarrolladores quieren saber si pueden ejecutar modelos desarrollados en PyTorch en PC con Windows. Los modelos de IA preentrenados en PyTorch o TensorFlow se pueden convertir al formato ONNX y cuantificarse para lograr la compatibilidad con el software AMD Ryzen AI. Esto permite el desarrollo de aplicaciones de IA en Windows y Linux para procesadores Ryzen con una NPU.
Las mejores herramientas de software para el desarrollo de aplicaciones para NPU están optimizadas para hardware de NPU específico y pueden admitir marcos y modelos de código abierto. Esto ofrece a los desarrolladores una combinación de rendimiento y flexibilidad.
El software AMD Ryzen AI incluye herramientas para desarrolladores a fin de crear aplicaciones para NPU AMD. También proporciona herramientas para convertir modelos entrenados en marcos populares de código abierto, incluidos PyTorch y TensorFlow, en formatos ONNX optimizados para la ejecución de NPU.
Las mejores herramientas para crear agentes de IA locales están optimizadas para el hardware de NPU y GPU integrada. Esto ayuda a equilibrar el rendimiento y la eficiencia, de modo que las tareas de IA no agoten la batería de la PC. También trabajan con una variedad de modelos de código abierto y preentrenados para que los desarrolladores puedan elegir lo que mejor se adapte a su caso de uso. Por último, las herramientas de software deben mantener todos los datos locales y no deben requerir servicios en la nube.
GAIA es una herramienta de código abierto de AMD para crear agentes locales de IA. Se ejecuta al 100 % de forma local en el hardware AMD Ryzen AI, elimina los costos de la nube y no tiene tarifas de API, límites de uso ni suscripciones.
El foro de la comunidad de desarrolladores de AMD y el servidor de Discord de desarrolladores de AMD te permiten conversar directamente con otros desarrolladores y expertos de AMD para hacer preguntas y solucionar problemas. También puedes enviar un error en GitHub.
Mantente actualizado sobre los lanzamientos de productos, las novedades y los consejos más recientes.
