Microsoft y OpenAI afirman que los piratas informáticos están utilizando IA generativa para mejorar los ciberataques

No es exactamente una sorpresa saber que los ciberdelincuentes organizados están comenzando a utilizar herramientas y servicios de inteligencia artificial generativa para nuevos tipos de ataques. Hoy obtuvimos mucha más información sobre cómo estos piratas informáticos patrocinados por el estado utilizan grandes modelos de lenguaje.

En una publicación de blog , Microsoft, en asociación con OpenAI, anunció una nueva investigación sobre cómo los piratas informáticos utilizan los LLM. Incluye información sobre grupos específicos que han sido identificados por utilizar herramientas de IA generativa.

Los grupos tienen su sede en países como Rusia, Corea del Norte, Irán y China. Uno de ellos tiene la etiqueta Forest Blizzard y está vinculado a la unidad rusa GRU 26165. Microsoft dice que el grupo ha estado activo apuntando a organizaciones relacionadas con la invasión en curso de Ucrania.

Microsoft afirma que Forest Blizzard ha estado utilizando LLM «para comprender protocolos de comunicación por satélite, tecnologías de imágenes de radar y parámetros técnicos específicos». Su investigación agrega que este grupo también ha estado tratando de automatizar tareas como la selección y manipulación de archivos con LLM.

Otro grupo cibercriminal que, según Microsoft, utiliza IA ha sido etiquetado como Salmon Typhoon. El grupo con sede en China tiene un historial de atacar a contratistas de defensa gubernamentales y estadounidenses. Según Microsoft, Salmon Typhoon ha utilizado LLM de diversas formas. Incluyen encontrar errores de codificación y traducir artículos técnicos de informática.

Microsoft dice que seguirá asociándose con OpenAI para investigar el uso de la IA por parte de los ciberdelincuentes.

Como parte de este compromiso, hemos tomado medidas para interrumpir los activos y cuentas asociados con actores de amenazas, mejorar la protección de la tecnología OpenAI LLM y de los usuarios contra ataques o abusos, y dar forma a las barreras de seguridad y los mecanismos de seguridad alrededor de nuestros modelos.

La compañía agregó que utilizará su propio servicio Copilot for Security para combatir estas ciberamenazas basadas en LLM.