X ha bloqueado temporalmente las búsquedas de Taylor Swift debido a muchas imágenes falsas de IA

A principios de esta semana, una gran cantidad de imágenes deepfake creadas por IA de la artista pop Taylor Swift, la mayoría de naturaleza explícita, comenzaron a inundar X (anteriormente conocido como Twitter), alimentando aún más el temor al mal uso de la IA .

. Como resultado, la red social ha tomado la medida sin precedentes de bloquear cualquier búsqueda de Taylor Swift por el momento, a partir del sábado.

El Wall Street Journal recibió la confirmación de esta decisión del jefe de operaciones comerciales de X, Joe Benarroch. Le dijo al WSJ:

Esta es una acción temporal y se realiza con mucha precaución ya que priorizamos la seguridad en este tema.

La historia agrega que los fanáticos de Swift inundaron a X con imágenes reales de la cantante después de que las imágenes falsas comenzaron a aparecer en la red social. También intentaron denunciar las cuentas que estaban difundiendo las fotos deepfake.

Antes de la decisión de X de bloquear todas las búsquedas de Taylor Swift, el director ejecutivo de Microsoft, Satya Nadella, intervino en la avalancha de imágenes de la cantante creadas por IA en una entrevista para NBC News . Él dijo:

Sí, tenemos que actuar. . . Creo que todos nos beneficiamos cuando el mundo online es un mundo seguro. Por eso no creo que nadie quiera un mundo en línea que no sea completamente seguro tanto para los creadores como para los consumidores de contenido. Por lo tanto, creo que nos corresponde avanzar rápido en esto.

404Media afirma que las imágenes deepfake de Taylor Swift que se difundieron en X fueron creadas en parte por un grupo que utilizó Microsoft Designer, un creador de imágenes basado en inteligencia artificial. Microsoft le dijo a NBC News que su propia investigación de la situación «no ha podido reproducir las imágenes explícitas de estos informes». Sin embargo, agregó: «Por precaución, hemos tomado medidas para fortalecer nuestras indicaciones de filtrado de texto y abordar el mal uso de nuestros servicios”.