World

El futuro nefasto de la IA se atisba en los rincones más oscuros de internet

Cuando el consejo de libertad condicional de Luisiana se reunió en octubre para debatir la posible liberación de un asesino convicto, recurrió a una médica con años de experiencia en materia de salud mental para hablar sobre el recluso.

El consejo de libertad condicional no fue el único grupo que prestó atención.

Un conjunto de troles de internet realizó capturas de pantalla con la imagen de la doctora, tomadas durante una transmisión en línea de su testimonio, y editaron las imágenes con herramientas de inteligencia artificial para hacerla aparecer desnuda. Luego, compartieron los archivos manipulados en 4chan, un foro de mensajes anónimo conocido por fomentar el acoso, así como por difundir contenido de odio y teorías conspirativas.

Fue una de las numerosas veces que los usuarios de 4chan han utilizado herramientas nuevas de IA, como editores de audio y generadores de imágenes, para difundir contenidos racistas y ofensivos sobre personas que han comparecido ante el consejo de libertad condicional, según Daniel Siegel, estudiante de posgrado de la Universidad de Columbia que investiga la explotación de la inteligencia artificial con fines malintencionados. Siegel documentó la actividad en el sitio durante varios meses.

Las imágenes y el audio manipulados no han trascendido los confines de 4chan, comentó Siegel. Sin embargo, los expertos que vigilan los foros marginales de mensajes afirman que esas actividades ofrecen una idea de cómo los usuarios más nefastos de internet podrían emplear herramientas sofisticadas de IA con el fin de potenciar las campañas de acoso y odio en línea en los próximos meses y años.

Callum Hood, director de investigación del Centro para Contrarrestar el Odio Digital, dijo que sitios marginales como 4chan —quizás el más infame de todos— a menudo daban señales tempranas de cómo se utilizaría la nueva tecnología con el objetivo de proyectar ideas extremas. Esas plataformas, dijo, están llenas de jóvenes que “adoptan nuevas tecnologías de manera muy rápida”, como en el caso de la IA, para “proyectar su ideología en espacios dominantes”.

Algunos usuarios de plataformas en línea más populares a menudo adoptan esas tácticas, dijo Hood.

A continuación, varios problemas derivados de las herramientas de IA que los expertos descubrieron en 4chan y lo que los reguladores y las empresas tecnológicas están haciendo al respecto.

Imágenes artificiales y pornografía creada con IA

Las herramientas de IA como Dall-E y Midjourney generan imágenes novedosas a partir de simples descripciones de texto. Pero una nueva ola de generadores de imágenes de IA se está fabricando con el propósito de crear pornografía falsa, incluso la eliminación de ropa de imágenes existentes.

“Pueden utilizar la IA para crear una imagen de exactamente lo que quieren”, afirmó Hood sobre las campañas de odio y desinformación en internet.

No hay ninguna ley federal en EE. UU. que prohíba la creación de imágenes falsas de personas, por lo que grupos como el consejo de libertad condicional de Luisiana tienen dificultades para averiguar qué se puede hacer. El consejo abrió una investigación en respuesta a los hallazgos de Siegel en 4chan.

“Sin duda nos opondremos a cualquier imagen creada en la que nuestros miembros o cualquier participante de nuestras audiencias sea representado de manera negativa”, dijo Francis Abbott, director ejecutivo del Consejo de Indultos de Luisiana y del Comité de Libertad Condicional. “Pero debemos apegarnos a la ley y otra instancia tendrá que encargarse de señalar si se infringen leyes o no”.

Illinois amplió su ley sobre pornovenganza para permitir que las víctimas de pornografía no consentida realizada mediante sistemas de inteligencia artificial puedan demandar a los creadores o distribuidores. California, Virginia y Nueva York también han aprobado leyes que prohíben la distribución o creación de pornografía generada por IA sin consentimiento.

La clonación de voces

A finales del año pasado, ElevenLabs, una empresa dedicada a la inteligencia artificial, lanzó una herramienta capaz de crear una réplica digital convincente de la voz de una persona que puede decir cualquier cosa que se teclee en el programa.

Casi tan pronto como la herramienta se puso en marcha, los usuarios de 4chan hicieron circular clips de una falsa Emma Watson, actriz británica, leyendo el manifiesto de Adolf Hitler, Mi lucha.

Desde entonces, utilizando contenidos de las audiencias del consejo de libertad condicional de Luisiana, los usuarios de 4chan han compartido clips falsos de jueces que pronuncian comentarios ofensivos y racistas sobre los acusados. Muchos de los audios fueron generados por la herramienta de ElevenLabs, según Siegel, que utilizó un identificador de voz de IA desarrollado por ElevenLabs para investigar sus orígenes.

ElevenLabs se apresuró a imponer límites, entre ellos exigir a los usuarios que paguen antes de acceder a las herramientas de clonación de voz. Pero los cambios no parecieron frenar la propagación de las voces creadas por IA, según los expertos. Decenas de videos con voces falsas de famosos han circulado por TikTok y YouTube, muchos de ellos difundiendo desinformación política.

Algunas de las principales empresas de redes sociales, como TikTok y YouTube, han exigido desde entonces que se etiqueten algunos contenidos creados con IA.

El presidente Joe Biden emitió una orden ejecutiva en octubre en la que requería a todas las empresas que etiquetaran esos contenidos y ordenaba al Departamento de Comercio que elaborara normas para poner marcas de agua y autenticar los contenidos de IA.

Herramientas personalizadas de IA

En su afán por afianzarse en la carrera de la inteligencia artificial, Meta ha adoptado la estrategia de poner su código de software a disposición de los investigadores. Este enfoque, conocido en líneas generales como “código abierto”, puede acelerar el desarrollo al dar a académicos y tecnólogos acceso a más materia prima para encontrar mejoras y desarrollar sus propias herramientas.

En febrero, cuando la empresa puso Llama, su gran modelo lingüístico, a disposición de investigadores seleccionados, el código se filtró rápidamente en 4chan. Allí la gente lo utilizó con distintos fines: modificaron el código para rebajar o eliminar las barreras de seguridad, creando nuevos chatbots capaces de producir ideas antisemitas.

La iniciativa sirvió de anticipo de cómo las herramientas de IA de código abierto y uso gratuito pueden ser modificadas por usuarios expertos en tecnología.

“Aunque el modelo no es accesible para todos y algunos han tratado de eludir el proceso de aprobación, creemos que la actual estrategia de publicación nos permite equilibrar la responsabilidad y la apertura”, aseguró una portavoz de Meta en un correo electrónico.

En los meses transcurridos desde entonces, se han desarrollado modelos lingüísticos que hacen eco de los temas de debate de la extrema derecha o que crean contenidos sexualmente más explícitos. Los usuarios de 4chan han modificado los generadores de imágenes para producir imágenes de desnudos o proporcionar memes racistas, eludiendo los controles impuestos por las grandes empresas tecnológicas.

Stuart A. Thompson escribe sobre cómo se difunde la información falsa y engañosa en Internet y cómo afecta a las personas de todo el mundo. Se centra en la desinformación, información falsa y otros contenidos engañosos. Más de Stuart A. Thompson


Related Articles

Back to top button