MediaTek Dimensity 9300 integra Llama 2 para IA generativa en el dispositivo
MediaTek Dimensity 9300 con IA generativa en el dispositivo
En un paso significativo hacia la mejora de la experiencia del usuario y la privacidad de los datos, los principales fabricantes de chips MediaTek y Qualcomm han anunciado planes para integrar capacidades de IA generativa en el dispositivo en sus teléfonos inteligentes emblemáticos. Este desarrollo surge como respuesta a la creciente demanda de procesamiento local de tareas de IA generativa, minimizando la dependencia de la computación en la nube y salvaguardando los datos de los usuarios.
El mes pasado, Qualcomm dio a conocer su colaboración con Llama 2 Large Language Model (LLM) de Meta para habilitar la IA generativa en el dispositivo en sus teléfonos insignia, que debutarán en 2024. Tomando un paso similar, MediaTek ahora ha confirmado su compromiso de brindar servicios en línea. Capacidades de IA generativa del dispositivo. Actualmente, la mayor parte del procesamiento de IA generativa se basa en la computación en la nube, pero el uso de los modelos Llama 2 por parte de MediaTek abre la puerta a la ejecución de aplicaciones de IA generativa directamente en los dispositivos.
Las ventajas de la IA generativa en el dispositivo son múltiples. Tanto los desarrolladores como los usuarios se beneficiarán de un rendimiento perfecto, mayor privacidad, seguridad mejorada, menor latencia y la capacidad de funcionar en entornos de baja conectividad. Además, este enfoque presenta ahorros de costos, al reducir la necesidad de una infraestructura de nube extensa.
Para una implementación efectiva de la IA generativa en el dispositivo, los fabricantes de dispositivos perimetrales deben adoptar procesadores de IA de bajo consumo y alta capacidad de procesamiento y establecer una conectividad más rápida y confiable. MediaTek, un actor destacado en la industria de los semiconductores, está trabajando activamente para respaldar Llama 2 LLM en teléfonos con su próximo procesador insignia, que se espera sea el Dimensity 9300.
El próximo chipset insignia de MediaTek, cuyo lanzamiento está previsto para finales de este año, está preparado para presentar una pila de software especialmente optimizada para ejecutar Llama 2. El chipset también incorporará una unidad de procesamiento de IA (APU) mejorada equipada con aceleración troncal Transformer. Este diseño estratégico tiene como objetivo mejorar el rendimiento de LLM y AIGC (AI Graphics Computing) al tiempo que optimiza recursos como la memoria y el uso del ancho de banda.
Anticipándose al lanzamiento de aplicaciones de IA generativa habilitadas para Llama 2, MediaTek prevé que los teléfonos con su chipset de próxima generación estén disponibles a finales de 2023. Este desarrollo se alinea con el compromiso de MediaTek de ofrecer tecnología de vanguardia a los usuarios a tiempo.
La colaboración entre MediaTek y Meta representa una tendencia positiva en la industria tecnológica, aborda las preocupaciones sobre la privacidad de los datos y enfatiza la importancia de procesar las tareas de IA localmente. Al reducir la necesidad de enviar datos del usuario a servidores externos para su inferencia, la IA generativa en el dispositivo marca un paso fundamental hacia la salvaguardia de la privacidad del usuario y la integridad de los datos.
Mientras el mercado anticipa la llegada del chipset Dimensity 9300 de MediaTek, los rumores sobre su diseño agresivo han alimentado el entusiasmo. Con la incorporación de los núcleos de CPU Arm’s Cortex-X4 y A720 y la GPU Immortalis-G720, se espera que este chipset debute en la serie Vivo X100, ofreciendo a los usuarios una combinación convincente de potencia de procesamiento y eficiencia.
Deja una respuesta