Ofcom dice que los motores de búsqueda actúan como puertas de entrada para las autolesiones

Desde el lanzamiento de ChatGPT, ha habido un gran cambio hacia la seguridad del contenido. La autocensura de ChatGPT y otros chatbots no existe realmente cuando se trata de motores de búsqueda, pero ahora Ofcom destaca uno de los peligros: el fácil acceso a contenido de autolesión.

En un nuevo estudio para Ofcom realizado por el Network Contagion Research Institute (NCRI), los principales motores de búsqueda, incluidos Google, Bing, DuckDuckGo, Yahoo! y AOL, pueden actuar como puerta de entrada a contenidos que glorifican o celebran la autolesión. Incluye páginas web, imágenes y vídeos.

Como parte del estudio, el NCRI ingresó consultas comunes sobre autolesiones y términos crípticos utilizados por comunidades en línea para ocultar el significado real. Con base en 37.000 resultados de búsqueda, se descubrió que el contenido dañino de autolesión prevalece, las búsquedas de imágenes son particularmente riesgosas y los términos de búsqueda crípticos revelan contenido más dañino.

Al comentar sobre los hallazgos, Almudena Lara, directora de desarrollo de políticas de seguridad en línea de Ofcom, dijo:

“Los motores de búsqueda son a menudo el punto de partida de la experiencia en línea de las personas, y nos preocupa que puedan actuar como puertas de entrada con un solo clic a contenidos de autolesión gravemente dañinos.

Los servicios de búsqueda deben comprender sus riesgos potenciales y la eficacia de sus medidas de protección, en particular para mantener a los niños seguros en línea, antes de nuestra amplia consulta prevista para primavera».

Una advertencia importante en este estudio es que los investigadores no utilizaron configuraciones de búsqueda segura y desenfoque de imágenes. Si los padres cuentan con filtros adecuados, elementos como la búsqueda segura deberían estar activados de forma predeterminada sin una opción para desactivarlos, lo que ofrece cierta protección para los niños.

Ofcom es el encargado de hacer cumplir la Ley de seguridad en línea que se aprobó recientemente en el Reino Unido. Le indicará a los motores de búsqueda que tomen medidas para reducir las posibilidades de que los niños encuentren contenido dañino como promoción de autolesiones, suicidio y trastornos alimentarios. Está previsto realizar una consulta en primavera.

Fuente: Ofcom