Por primera vez, Opera ahora permitirá a los usuarios ejecutar LLM localmente

Opera ha agregado recientemente una nueva característica que permite a los usuarios de Opera One descargar y utilizar modelos de lenguaje grande (LLM) en sus computadoras personales. Esta función es accesible para los usuarios que reciben actualizaciones de flujo de desarrolladores y brinda acceso a más de 150 modelos de una variedad de familias, como Llama de Meta, Gemma de Google, Vicuña, Mistral AI y otros.

Según Krystian Kolondra, vicepresidente ejecutivo de navegadores y juegos de Opera, afirmó :

«La introducción de LLM locales de esta manera permite a Opera comenzar a explorar formas de crear experiencias y conocimientos dentro del espacio local de IA que emerge rápidamente».

Opera ha etiquetado estas últimas incorporaciones como parte de su “Programa de lanzamiento de funciones de IA” y promete que los datos del usuario permanecerán almacenados en su dispositivo, lo que les permitirá utilizar IA generativa sin el requisito de enviar ningún dato a un servidor. La empresa está empleando el marco de código abierto Ollama para ejecutar estos modelos directamente en las computadoras de los usuarios. Cada versión de los modelos ocupa entre 2 y 10 GB de espacio de almacenamiento en el dispositivo.

Opera está haciendo un gran esfuerzo para unirse a la tendencia de utilizar tecnología de inteligencia artificial con la introducción de estas nuevas funciones. Sin embargo, este no es el primer caso en el que el navegador incorpora IA, como se vio con el lanzamiento de Opera One el año pasado. Este movimiento solidificó el objetivo de la compañía de convertirse en un navegador líder centrado en IA, lo que quedó aún más demostrado con el lanzamiento de su asistente de IA, Aria. Al ofrecer características distintivas e innovadoras, se espera que estas actualizaciones ayuden a Opera a aumentar su participación de mercado. Según un informe de Statcounter de diciembre de 2023, Opera capturó una cuota de mercado del 3,8% y se ubicó entre los 5 mejores navegadores de escritorio.

Para experimentar esta nueva característica en Opera, simplemente actualice a la última versión de Opera Developer y siga estas instrucciones para habilitar los LLM locales en su dispositivo. Esto permitirá que la máquina del usuario utilice el LLM local en lugar del asistente de IA de Opera, Aria, a menos que el usuario inicie un chat con Aria o lo reactive.