Microsoft lanza una vista previa del soporte de la Unidad de Procesador Neural (NPU) Intel para su API DirectML

Intel lanzó por primera vez sus chips Core Ultra basados ​​en “Meteor Lake” en diciembre de 2023 . Incluían chips NPU (Unidad de procesador neuronal) integrados para ayudar a acelerar el rendimiento del hardware de las aplicaciones de IA. Hoy, Microsoft anunció que ha lanzado una versión preliminar para desarrolladores de su API DirectML que agrega soporte para NPU, y específicamente las de las CPU Intel Core Ultra.

En una publicación de blog , Microsoft dijo que la versión preliminar de DirectML 1.13.1 y ONNX Runtime 1.17 admitirían la aceleración NPU en PC con CPU Intel Core Ultra. La compañía trabajó no solo con Intel sino también con Samsung para ayudar a mejorar el rendimiento de las aplicaciones de inteligencia artificial que usan DirectML.

En una publicación de blog separada sobre este desarrollo, Intel dice que Samsung usó DirectML de Microsoft y su tecnología Intel AI Boost en su computadora portátil Samsung Galaxy Book 4 recientemente lanzada con chips Intel Core Ultra. Intel dijo que Samsung descargó las funciones de clasificación de rostros y objetos en su aplicación Gallery de Windows en la CPU Intel Core Ultra con su NPU, utilizando la API DirectML de Microsoft. Intel afirma que esto resultó en un tiempo de desarrollo más rápido para el proyecto.

Dado que esta es una versión preliminar. Microsoft señala algunas limitaciones de esta versión de DirectML en PC basadas en Intel Core Ultra:

• Actualmente, la compatibilidad con NPU en DirectML solo es compatible con un subconjunto de modelos de aprendizaje automático que han sido objeto de soporte. Es posible que algunos modelos no se ejecuten en absoluto o que tengan una latencia alta o una precisión baja. Estamos trabajando para mejorar la compatibilidad y el rendimiento de más modelos en el futuro.
• Los modelos que son funcionales y no fueron seleccionados para esta vista previa para desarrolladores pueden tener algunos problemas de estabilidad y confiabilidad. Seguimos ampliando la cobertura para modelos adicionales adecuados para NPU.