Origen de las imágenes falsas de Taylor Swift generadas por inteligencia artificial
[alert type=»info» icon-size=»normal»]La difusión de imágenes generadas artificialmente de Taylor Swift revela preocupaciones significativas sobre el mal uso de la inteligencia artificial y plantea la necesidad de medidas más estrictas para prevenir el abuso y proteger la privacidad y la dignidad de las personas afectadas.[/alert]
Según un informe reciente, se sospecha que las imágenes de Taylor Swift generadas por inteligencia artificial que se extendieron ampliamente en las redes sociales a finales de enero probablemente se originaron como parte de un desafío recurrente en uno de los foros de mensajes más conocidos de internet.
La firma de investigación Graphika, que estudia la desinformación, rastreó las imágenes hasta una comunidad en 4chan, un foro conocido por compartir discursos de odio, teorías de conspiración y, cada vez más, contenido racista y ofensivo creado con inteligencia artificial.
Los creadores de las imágenes de la cantante en 4chan lo hicieron como parte de un tipo de juego, según los investigadores, para ver si podían crear imágenes desagradables (y a veces violentas) de figuras famosas femeninas.
Las imágenes de Swift se propagaron a otras plataformas y fueron vistas millones de veces. Los fans se unieron en defensa de Taylor Swift, y los legisladores exigieron protecciones más sólidas contra las imágenes creadas por inteligencia artificial.
Actividades maliciosas y desafíos en la comunidad de 4chan
Graphika encontró un hilo de mensajes en 4chan que animaba a la gente a intentar eludir las salvaguardas establecidas por herramientas generadoras de imágenes, incluyendo DALL-E de OpenAI, Microsoft Designer y Bing Image Creator. Se instruyó a los usuarios a compartir «consejos y trucos para encontrar nuevas formas de eludir los filtros» y se les dijo: «Buena suerte, se creativo».
En el hilo de 4chan que llevó a las falsas imágenes de Taylor Swift, varios usuarios recibieron cumplidos y se les pidió que compartieran el lenguaje utilizado para crear las imágenes (comandos). Se publicaron reglas en 4chan que se aplican a toda la página y que no prohíben específicamente imágenes sexualmente explícitas generadas por inteligencia artificial de adultos reales.
La analista senior de Graphika, Cristina López G., dijo en un comunicado que las imágenes «originaron de una comunidad de personas motivadas por el ‘desafío’ de eludir las salvaguardas de productos de inteligencia artificial generativa, y se ven las nuevas restricciones como solo otro obstáculo a ‘derrotar'». Señaló la naturaleza gamificada de esta actividad maliciosa como importante para prevenir futuros abusos en la fuente.
Open AI, Microsoft y otras figuras se pronuncian
En respuesta a las imágenes falsas de Taylor Swift, OpenAI y Microsoft anunciaron medidas para evitar el mal uso de sus herramientas y la generación de contenido no autorizado. Además, se destacó que la regulación insuficiente deja a pocas víctimas con recursos legales.
Después de que las imágenes falsas se volvieran virales, se expresaron preocupaciones y acciones por parte de figuras como la secretaria de prensa de la Casa Blanca, Karine Jean-Pierre, y el sindicato SAG-AFTRA que representa a miles de actores.