Brad Smith, presidente de Microsoft, pide una nueva legislación contra el fraude deepfake en el Congreso de EE.UU.

La aparición de la IA generativa ha provocado un preocupante aumento de los contenidos digitales “deepfake”, producidos maliciosamente por actores que pretenden difundir información falsa sobre personas y temas en línea. Esta tendencia plantea importantes preocupaciones, especialmente ante la inminente elección presidencial estadounidense de 2024.

En este contexto, el Centro de Análisis de Amenazas de Microsoft (MTAC) ha estado observando de cerca cómo los actores de amenazas patrocinados por estados de Rusia, Irán y China están creando sitios web, publicaciones en redes sociales y videos engañosos para intentar influir en las elecciones de 2024. Recientemente, la empresa publicó un informe que indica que los actores con sede en Rusia han estado generando videos destinados a difundir desinformación sobre la candidata presidencial demócrata de Estados Unidos, Kamala Harris, y el candidato a vicepresidente, Tim Walz.

Hoy, Microsoft compartió en su blog el testimonio escrito del presidente de la compañía, Brad Smith , tras su comparecencia ante el Comité de Inteligencia del Senado de Estados Unidos en Washington DC. La audiencia se centró en las amenazas extranjeras a las elecciones estadounidenses y las obligaciones de las empresas tecnológicas estadounidenses, como Microsoft, para combatirlas.

En su declaración escrita, Smith describió los esfuerzos que están realizando grupos patrocinados por el estado para aprovechar la inteligencia artificial y la tecnología deepfake para influir en las elecciones de 2024. También pidió al comité y al Congreso de Estados Unidos que tomen medidas proactivas.

En su testimonio, Smith declaró:

En primer lugar, el Congreso debería promulgar una nueva “ley federal contra el fraude por deepfake”. Necesitamos proporcionar a los funcionarios encargados de hacer cumplir la ley, incluidos los fiscales generales estatales, un marco jurídico independiente para procesar los fraudes y las estafas generadas por inteligencia artificial a medida que se multiplican en velocidad y complejidad.

Smith enfatizó además que el Congreso debería exigir que cualquier proveedor de sistemas de IA etiquete el contenido generado por IA con “herramientas de procedencia de última generación”. Además, abogó por la aprobación de la Ley de Protección de las Elecciones contra la IA Engañosa, que ya ha sido presentada por un grupo bipartidista de legisladores estadounidenses. Entre otras disposiciones, este proyecto de ley prohibiría el uso de IA para generar contenido político para legisladores federales, con excepciones para el contenido satírico o el uso en las salas de redacción.

Fuente