Google suspende temporalmente la generación de imágenes en Gemini por preocupaciones de sesgo

Durante la semana pasada, la IA conversacional de Google, Gemini, ha sido objeto de escrutinio por mostrar sesgos en su capacidad para generar imágenes de personas. Los usuarios informaron que cuando le pidieron a Gemini que ilustrara personas en contextos históricos o escenarios ficticios, era más probable que la IA representara figuras con tonos de piel más oscuros. Esto generó preocupaciones legítimas sobre posibles sesgos en el sistema.

En un comunicado, Google reconoció que Gemini no tuvo un buen desempeño a la hora de representar a personas de diferentes etnias y orígenes de manera equilibrada e inclusiva. La compañía ha decidido desactivar temporalmente la capacidad de su chatbot de IA para generar imágenes para personas.

Google afirmó que la inclusión y la diversidad son principios extremadamente importantes para él. La empresa no quería que sus tecnologías se propagaran ni fueran susceptibles de ninguna manera a sesgos del mundo real.

Ya estamos trabajando para solucionar problemas recientes con la función de generación de imágenes de Gemini. Mientras hacemos esto, vamos a pausar la generación de imágenes de personas y pronto volveremos a publicar una versión mejorada. https://t.co/SLxYPGoqOZ

– Comunicaciones de Google (@Google_Comms) 22 de febrero de 2024

Cuando los usuarios ahora le piden a Gemini que cree una imagen, reciben un mensaje que explica que la función no está disponible actualmente pero que volverá una vez que los problemas de sesgo se hayan solucionado adecuadamente.

Los expertos han dicho (a través de AP News ) que los generadores de imágenes de IA luchan con la diversidad debido a los sesgos en sus datos de entrenamiento, que a menudo carecen de representaciones de personas de todos los orígenes. Google parece decidido a abordar estas limitaciones en Gemini antes de volver a habilitar la función. Quiere garantizar que el sistema pueda representar a todo tipo de personas de forma objetiva y equilibrada.

La medida se considera un paso proactivo para hacer que las tecnologías de IA sean justas e inclusivas . Como parte de este movimiento, el gobierno de EE. UU. tomó medidas en febrero para promover el desarrollo seguro de la IA generativa. Apple, OpenAI y Microsoft se unieron al primer consorcio para abordar protocolos relacionados con la IA.