5 grandes problemas con ChatGPT de OpenAI

ChatGPT es un nuevo y poderoso chatbot de IA que impresiona rápidamente, pero muchas personas han señalado que tiene algunas trampas serias. Pregúntele lo que quiera, y recibirá una respuesta que suena como si hubiera sido escrita por un humano, habiendo aprendido sus conocimientos y habilidades de escritura a partir de cantidades masivas de información en Internet.

Sin embargo, al igual que Internet, la verdad y los hechos no siempre son un hecho y ChatGPT es culpable de equivocarse. Con ChatGPT listo para cambiar nuestro futuro, estas son algunas de las mayores preocupaciones.

¿Qué es ChatGPT?

ChatGPT es un gran modelo de aprendizaje de idiomas que fue diseñado para imitar la conversación humana. Puede recordar cosas que le has dicho en el pasado y es capaz de corregirse cuando se equivoca.

Escribe de forma humana y tiene una gran cantidad de conocimientos porque se entrenó en todo tipo de texto de Internet, como Wikipedia, publicaciones de blogs, libros y artículos académicos.

Es fácil aprender a usar ChatGPT, pero lo que es más desafiante es descubrir cuáles son sus mayores problemas. Aquí hay algunos que vale la pena conocer.

1. ChatGPT no siempre es correcto

Falla en matemáticas básicas, parece que no puede responder preguntas lógicas simples e incluso llegará a argumentar hechos completamente incorrectos. Como pueden atestiguar los usuarios de las redes sociales, ChatGPT puede equivocarse en más de una ocasión.

OpenAI conoce esta limitación y escribe que: «ChatGPT a veces escribe respuestas que suenan plausibles pero incorrectas o sin sentido». Esta «alucinación» de realidad y ficción, como la llaman algunos científicos, es especialmente peligrosa cuando se trata de algo como un consejo médico.

A diferencia de otros asistentes de IA como Siri o Alexa, Chat GPT no utiliza Internet para encontrar respuestas. En cambio, construye una oración palabra por palabra, seleccionando el «token» más probable que debería venir a continuación, según su entrenamiento.

En otras palabras, ChatGPT llega a una respuesta haciendo una serie de conjeturas, lo cual es parte de la razón por la que puede argumentar respuestas incorrectas como si fueran completamente ciertas.

Si bien es excelente para explicar conceptos complejos, lo que lo convierte en una herramienta poderosa para el aprendizaje, es importante no creer todo lo que dice. ChatGPT no siempre es correcto, al menos, no todavía.

2. El sesgo está integrado en el sistema

ChatGPT fue entrenado en la escritura colectiva de humanos en todo el mundo, pasado y presente. Esto significa que los mismos sesgos que existen en los datos, también pueden aparecer en el modelo.

De hecho, los usuarios han demostrado cómo ChatGPT puede dar algunas respuestas terribles, algunas, por ejemplo, que discriminan a las mujeres. Pero eso es solo la punta del iceberg; puede producir respuestas que son extremadamente dañinas para una variedad de grupos minoritarios.

La culpa tampoco radica simplemente en los datos. Los investigadores y desarrolladores de OpenAI eligen los datos que se utilizan para entrenar ChatGPT. Para ayudar a abordar lo que OpenAI llama «comportamiento sesgado», pide a los usuarios que den su opinión sobre los malos resultados.

Con el potencial de causar daño a las personas, puede argumentar que ChatGPT no debería haberse hecho público antes de que estos problemas se estudien y resuelvan.

Un chatbot de IA similar llamado Sparrow (propiedad de la empresa matriz de Google, Alphabet) se lanzó en septiembre de 2022. Sin embargo, se mantuvo a puerta cerrada debido a preocupaciones similares de que podría causar daño.

Quizás Meta también debería haber encabezado la advertencia. Cuando lanzó Galactica, un modelo de lenguaje de IA entrenado en artículos académicos, se retiró rápidamente después de que muchas personas lo criticaron por generar resultados erróneos y sesgados.

3. Un desafío para el inglés de la escuela secundaria

Puede pedirle a ChatGPT que revise su escritura o le indique cómo mejorar un párrafo. Alternativamente, puede eliminarse por completo de la ecuación y pedirle a ChatGPT que escriba algo para usted.

Los profesores han experimentado con la alimentación de tareas de inglés a ChatGPT y han recibido respuestas que son mejores que las que muchos de sus alumnos podrían hacer. Desde escribir cartas de presentación hasta describir temas importantes en una obra literaria famosa, ChatGPT puede hacerlo sin dudarlo.

Eso plantea la pregunta: si ChatGPT puede escribir para nosotros, ¿los estudiantes necesitarán aprender a escribir en el futuro? Puede parecer una pregunta existencial, pero cuando los estudiantes comiencen a usar ChatGPT para escribir sus ensayos, las escuelas tendrán que pensar en una respuesta rápidamente. El rápido despliegue de la IA en los últimos años sorprenderá a muchas industrias, y la educación es solo una de ellas.

4. Puede causar daño en el mundo real

Anteriormente, mencionamos cómo la información incorrecta de ChatGPT puede causar daños en el mundo real, siendo el ejemplo más obvio un consejo médico incorrecto.

También hay otras preocupaciones. Las cuentas falsas de redes sociales plantean un gran problema en Internet y, con la introducción de los chatbots de IA, las estafas en Internet serán más fáciles de realizar. La difusión de información falsa es otra preocupación, especialmente cuando ChatGPT hace que incluso las respuestas incorrectas suenen correctas de manera convincente.

La velocidad a la que ChatGPT puede producir respuestas que no siempre son correctas ya ha causado problemas a Stack Exchange, un sitio web donde los usuarios pueden publicar preguntas y obtener respuestas.

Poco después de su lanzamiento, las respuestas de ChatGPT fueron prohibidas en el sitio debido a que un gran número de ellas eran incorrectas. Sin suficientes voluntarios humanos para resolver el retraso, sería imposible mantener un alto nivel de calidad en las respuestas, lo que dañaría el sitio web.

5. OpenAI tiene todo el poder

Un gran poder conlleva una gran responsabilidad, y OpenAI tiene mucho poder. Es una de las primeras empresas de IA que verdaderamente sacudió el mundo no con uno, sino con varios modelos de IA, incluidos Dall-E 2, GPT-3 y, ahora, ChatGPT.

OpenAI elige qué datos se utilizan para entrenar a ChatGPT y cómo lidia con las consecuencias negativas. Estemos o no de acuerdo con los métodos, seguirá desarrollando esta tecnología de acuerdo con sus propios objetivos.

Si bien OpenAI considera que la seguridad es una alta prioridad, hay muchas cosas que no sabemos sobre cómo se crean los modelos. Ya sea que piense que el código debe ser de código abierto o esté de acuerdo en que debe mantener partes de él en secreto, no hay mucho que podamos hacer al respecto.

Al final del día, todo lo que podemos hacer es confiar en que OpenAI investigará, desarrollará y usará ChatGPT de manera responsable. Alternativamente, podemos abogar por que más personas tengan voz en la dirección en la que debe dirigirse la IA, compartiendo el poder de la IA con las personas que la usarán.

Si está interesado en qué más ha desarrollado OpenAI, consulte nuestros artículos sobre cómo usar Dall-E 2 y cómo usar GPT-3.

Abordar los mayores problemas de la IA

Hay mucho por lo que estar entusiasmado con ChatGPT, el último desarrollo de OpenAI. Pero más allá de sus usos inmediatos, existen algunos problemas serios que vale la pena entender.

OpenAI admite que ChatGPT puede producir respuestas dañinas y sesgadas, sin mencionar su capacidad para mezclar realidad con ficción. Con una tecnología tan nueva, es difícil predecir qué otros problemas surgirán. Entonces, hasta entonces, disfrute explorando ChatGPT y tenga cuidado de no creer todo lo que dice.