¿Es Snapchat My AI completamente seguro?

Qué saber

• Desarrollado por la tecnología GPT de OpenAI, My AI es el chatbot de Snapchat con el que los usuarios pueden interactuar desde su feed de Chat.
• My AI de Snapchat parece estar plagado de sesgos y respuestas inapropiadas que ignoran las pautas de Snapchat y también pueden conocer su ubicación sin su permiso.
• Le recomendamos que no comparta información privada con él y que la modere a través de Family Center para controlar la cantidad de miembros menores de edad que usan My AI.
• En su etapa actual, My AI no parece muy seguro. Lea a continuación para obtener más información.

Tras el éxito inicial de las herramientas de IA generativa como ChatGPT, las empresas ahora están inmersas en una carrera para tener IA en sus plataformas más rápido que la competencia. Aquellos que tienen los medios para integrar esta tecnología de IA en sus plataformas están huyendo. Pero también está generando muchas críticas entre sus bases de usuarios, y con razón. El reciente lanzamiento del compañero de chat de Snapchat ‘My AI’ es un caso similar.

Ya sea que sea un pargo de larga data o un miembro reciente, querrá saber sobre el complemento ‘My AI’ de Snapchat y lo que debe tener en cuenta antes de comenzar a usarlo.

¿Qué es Mi IA en Snapchat?

Basado en la tecnología GPT de OpenAI, My AI es el ‘chatbot experimental y amigable de Snapchat actualmente disponible para todos los usuarios de Snapchat’. Al igual que con cualquier chatbot de IA, puede conversar con él sobre una serie de cosas, hacer que cuente chistes, dé consejos, planifique eventos y fiestas, y haga todo lo que esperaría de un chatbot amigable, al menos en principio.

Anteriormente disponible solo para usuarios de Snapchat+, My AI ahora está disponible para todos sus 750 millones de usuarios, a pesar de la demora en la entrega de actualizaciones. Eso significa que varios usuarios ya comenzaron a usarlo, o se ven obligados a hacerlo de todos modos, ya que no siempre es posible eliminarlo de Snapchat.

Se ubicará en la parte superior de todos sus chats y puede incorporarse accidentalmente a las conversaciones con la mera mención de palabras como AI , aunque solo debería aparecer con el comando @MyAI .

¿Qué tan seguro es Snapchat My AI?

Mi IA está (supuestamente) programada para cumplir con las pautas de seguridad de Snapchat para evitar que proporcione información dañina a los usuarios. Pero como dice Snapchat, «puede que no siempre tenga éxito». Es una pequeña advertencia, pero Snapchat puede esconderse detrás cuando los usuarios comienzan a quejarse.

Muchos ya han informado que My AI miente sobre lo que sabe sobre usted, genera respuestas inesperadas e incluso activará anuncios pagados.

Una usuaria de Twitter , registrada como una niña de 13 años, recibió consejos sobre «cómo mentirle a sus padres…» y «cómo perder la virginidad en su cumpleaños número 13».

Otro usuario hizo que My AI fuera muy fácilmente en contra de sus pautas, una reminiscencia de DAN de ChatGPT, con solo unas pocas indicaciones.

Estar simultáneamente en desarrollo y disponible globalmente para los usuarios no inspira mucha confianza en el chatbot. Y cuando su chatbot comienza a mentir sobre su acceso a su ubicación, es solo una bandera roja tras otra.

Esta es una clara desviación de la afirmación de Snapchat de que «solo comparte con My AI su ubicación a nivel de ciudad». Por lo tanto, definitivamente no debe compartir ninguna información personal con My AI, ni admitir nada que pueda comprometerlo de alguna manera.

¿Es Snapchat mi IA segura?

La tecnología GPT utilizada en My AI de Snapchat le permite aprovechar el gran potencial del gran modelo de lenguaje y la base de datos de capacitación de OpenAI. Pero así como ChatGPT no es inmune a la difusión de desinformación, My AI también puede generar respuestas poco confiables y, a menudo, inapropiadas.

También es tan sesgado como ChatGPT 3.5 y puede responder de forma discriminatoria.

Aunque sus capacidades actualmente son limitadas, y realmente no le pedirá que codifique por usted, la naturaleza de sus respuestas hace que My AI sea un amigo de IA poco confiable. Sin embargo, Snapchat está trabajando para moderar mejor My AI y desde entonces también lo ha agregado como parte del ‘Centro familiar’ de la aplicación y las funciones de control parental.

Pero para todos los efectos, My AI está claramente en una etapa experimental, y Snapchat es el primero en admitirlo. La carrera para mantenerse a la vanguardia con la tecnología actual ha hecho que no solo Snapchat, sino también muchas plataformas, lancen sus chatbots de IA con anticipación, sin importar qué tan avanzados estén en sus etapas de desarrollo.

Al momento de escribir este artículo (25 de abril de 2023), es difícil considerar que My AI sea seguro, especialmente para los jóvenes.

La función My AI eventualmente mejorará con suficiente tiempo y comentarios. Hasta ese momento, tenga la mayor precaución posible.

Cómo reportar mensajes recibidos de My AI

Snapchat asegura a los usuarios que solo el 0,01% de las respuestas de My AI no se ajustan a sus pautas. Pero dada la cantidad de reclamos de este tipo que se han vuelto mendigos, el porcentaje parece demasiado bueno para ser verdad.

Si te sirve de algo, si alguno de los mensajes de My AI te molesta, puedes informarlo a Snapchat. Simplemente toque y mantenga presionado un mensaje y seleccione Reportar .

Preguntas más frecuentes

Echemos un vistazo a algunas preguntas frecuentes sobre My AI de Snapchat.

¿Mi IA en Snapchat es una persona real?

No. Mi IA en Snapchat es un chatbot de IA, no una persona real. Sin embargo, a diferencia de una persona real, no puede aceptar si lo quiere en su feed de chat o no, donde permanecerá para bien o para mal. No comparta ninguna información privada con él.

¿Por qué Snapchat creó My AI?

My AI es la versión de Snapchat de integrar las capacidades de la tecnología GPT de OpenAI en su plataforma de redes sociales. El movimiento está en consonancia con la tendencia más amplia de la industria de infundir IA generativa en plataformas y abrirlas para uso general, sin importar en qué etapa de desarrollo se encuentren.

¿Puedo eliminar Mi IA en Snapchat?

Desafortunadamente, My AI en Snapchat solo se puede eliminar si eres suscriptor de Snapchat+.

En su estado actual, My AI de Snapchat no da la impresión de seguridad o confiabilidad. Esto puede cambiar con el tiempo a medida que se desarrolla y se implementa una mejor moderación. Pero hasta entonces, si no eres usuario de Snapchat+, estás atascado con My AI, te guste o no.

• Cómo activar Snapchat Mi IA
• Cómo romper Snapchat AI, My AI [4 indicaciones]
• Snapchat My AI no funciona: 8 formas de solucionarlo
• 2 formas de enviar mensajes de texto con ‘Mi IA’ en Snapchat