Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes por medio de Inteligencia Artificial como Midjourney, DALL-E y otras se han vuelto más fáciles de usar. Estas pueden generar rápidamente imágenes realistas —con fondos detallados— y a gran escala con sólo un simple mensaje de texto de los usuarios.
NUEVA YORK (AP) — El expresidente Donald Trump es arrestado por un grupo de agentes de policía de la ciudad de Nueva York vestidos con equipo antidisturbios. El Presidente ruso, Vladimir Putin, aparece vestido de gris detrás de los barrotes de una celda de concreto con poca luz.
Las imágenes sensacionalistas y altamente detalladas han inundado Twitter y otras plataformas en los últimos días, en medio de las noticias sobre cómo Trump enfrenta posibles cargos penales y de cómo la Corte Penal Internacional ha emitido una orden de arresto contra Putin.
Pero ninguna de ellas son ni remotamente reales. Las imágenes —y las decenas de variaciones que manchan las redes sociales— se produjeron utilizando generadores cada vez más sofisticados y ampliamente accesibles impulsados por inteligencia artificial.
Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ
— Eliot Higgins (@EliotHiggins) March 20, 2023
Los expertos en desinformación advierten que las imágenes son los presagios de una nueva realidad: oleadas de fotos y videos falsos que inundan las redes sociales después de los principales eventos noticiosos y que vuelven confusas la realidad y la ficción en momentos cruciales para la sociedad.
“Esto agrega ruido a los eventos de crisis. También aumenta el nivel de cinismo”, dijo Jevin West, profesor de la Universidad de Washington en Seattle que se enfoca en la difusión de información falsa. “Uno empieza a perder la confianza en el sistema y en la información que obtiene”.
— Eliot Higgins (@EliotHiggins) March 20, 2023
Si bien la capacidad de manipular fotos y crear imágenes falsas no es nueva, las herramientas de generación de imágenes por medio de Inteligencia Artificial como Midjourney, DALL-E y otras se han vuelto más fáciles de usar. Estas pueden generar rápidamente imágenes realistas —con fondos detallados— y a gran escala con sólo un simple mensaje de texto de los usuarios.
Algunas de las imágenes recientes han sido impulsadas por el lanzamiento, ocurrido este mes, de una nueva versión del modelo de síntesis de texto a imagen de Midjourney, que puede, entre otras cosas, producir imágenes convincentes que imitan el estilo de las fotos de las agencias de noticias.
Meanwhile, in AI Trump world: pic.twitter.com/8pzeIZws0k
— Eliot Higgins (@EliotHiggins) March 21, 2023
En un hilo de Twitter que ha circulado ampliamente, Eliot Higgins, fundador de Bellingcat, un colectivo de periodismo de investigación con sede en los Países Bajos, usó la última versión de la herramienta para crear decenas de imágenes dramáticas del arresto ficticio de Trump.
Las imágenes, que se han compartido y han recibido likes decenas de miles de veces, mostraban a una multitud de oficiales uniformados sujetando al multimillonario republicano y tirándolo violentamente al pavimento.
— Eliot Higgins (@EliotHiggins) March 21, 2023
Higgins, quien también estuvo detrás de un conjunto de imágenes de Putin siendo arrestado, juzgado y luego encarcelado, dice que publicó las imágenes sin malas intenciones. Incluso aclaró en su hilo de Twitter que las imágenes fueron generadas por Inteligencia Artificial.
Aún así, las imágenes bastaron para que fuera bloqueado del servidor Midjourney, según dijo Higgins. El laboratorio de investigación independiente con sede en San Francisco no respondió a los correos electrónicos en busca de comentarios.
“La imagen del arresto de Trump realmente mostraba casualmente lo bueno y lo malo que era Midjourney para representar escenas reales”, escribió Higgins en un correo electrónico. “Las imágenes comenzaron a formar una especie de narración cuando añadí indicaciones a Midjourney, así que las encadené en una narración y decidí terminar la historia”.
Viral fake images have been circulating online of Donald Trump's arrest and Putin bowing to Xi Jinping. With generative AI's potential to make the spread of misinformation more rampant, we need AI-detection tools to be more accessible. 🧵 pic.twitter.com/45lj3Y2dEE
— Brigitte (@BrigitteTousi) March 22, 2023
Higgins señaló que las imágenes están lejos de ser perfectas: en algunas, se ve a Trump, curiosamente, con un cinturón de policía. En otras, los rostros y las manos están claramente distorsionados.
Aunque no es suficiente que usuarios como Higgins aclaren en sus publicaciones que las imágenes son generadas por Inteligencia Artificial y sólo para entretenimiento, dice Shirin Anlen, tecnóloga de medios de Witness, una organización de derechos humanos con sede en Nueva York que se enfoca en evidencia visual.
Muy a menudo, las imágenes son compartidas muy rápidamente por otros sin ese contexto crucial, dijo. De hecho, una publicación de Instagram compartió algunas de las imágenes de Trump de Higgins como si fueran genuinas y obtuvo más de 79 mil me gusta.
— Eliot Higgins (@EliotHiggins) March 20, 2023
“Tú sólo estás viendo una imagen, y una vez que ves algo, no puedes dejar de verlo”, dijo Anlen.
En otro ejemplo reciente, los usuarios de las redes sociales compartieron una imagen sintética que supuestamente mostraba a Putin arrodillado y besando la mano del líder chino Xi Jinping. La imagen, que circuló cuando el Presidente ruso le dio la bienvenida a Xi al Kremlin esta semana, se convirtió rápidamente en un crudo meme.
No está claro quién creó la imagen o qué herramienta usaron, pero algunas pistas apuntan a la falsificación. Las cabezas y los zapatos de los dos líderes estaban ligeramente distorsionados, por ejemplo, y el interior de la habitación no coincidía con la habitación donde tuvo lugar la reunión real.
— Eliot Higgins (@EliotHiggins) March 21, 2023
Dado que las imágenes sintéticas son cada vez más difíciles de distinguir de las que sí son reales, la mejor manera de combatir la desinformación visual es una mejor concientización y educación del público, dicen los expertos.
“Se está volviendo tan fácil y tan barato hacer estas imágenes que deberíamos hacer todo lo posible para que el público sea consciente de lo buena que se ha vuelto esta tecnología”, dijo West.
Higgins sugiere que las empresas de redes sociales podrían centrarse en desarrollar tecnología para detectar imágenes generadas por Inteligencia Artificial e integrarlas en sus plataformas.
Twitter tiene una política que prohíbe el "contenido sintético, manipulado o fuera de contexto" con el potencial de engañar o dañar. Se adjuntaron anotaciones de Community Notes, el proyecto de verificación de datos de fuentes colectivas de Twitter, a algunos tuits para incluir el contexto de que las imágenes de Trump fueron generadas por IA.
#TrumpArrest pic.twitter.com/3b4xnWhKUy
— Saffho 🏳️⚧️🏳️🌈🌹 (@SaffhoArtSht) March 21, 2023
Cuando el jueves se contactó a la compañía en busca de comentarios, sólo envió un correo electrónico con una respuesta automática.
Meta, la empresa matriz de Facebook e Instagram, se negó a hacer comentarios. Algunas de las imágenes inventadas de Trump fueron etiquetadas como "falsas" o "sin contexto" a través de su programa de verificación de hechos de terceros, del cual AP es participante.
Arthur Holland Michel, miembro del Consejo Carnegie para la Ética en Asuntos Internacionales, con sede Nueva York que se centra en las tecnologías emergentes, dijo que le preocupa que el mundo no esté preparado para el diluvio que se avecina.
Fake AI generated images of #TrumpArrest. The next election will be completely bonkers. Media literacy and trust will be important and hard to come by. pic.twitter.com/QyCeZgzpCw
— Sharif Matar (@sharifmatar) March 21, 2023
Él se pregunta cómo se regularán las falsificaciones profundas que involucran a personas comunes, por ejemplo, imágenes falsas dañinas de una expareja o un colega.
“Desde una perspectiva política, no estoy seguro de que estemos preparados para lidiar con esta escala de desinformación en todos los niveles de la sociedad”, escribió Michel en un correo electrónico. "Tengo la sensación de que se necesitará un avance técnico aún no imaginado para poner fin definitivamente a esto".
