Ver no es creer durante mucho tiempo. Las fotos han sido falsificadas y manipuladas casi desde que existe la fotografía.

Ahora ni siquiera necesita la realidad para hacer que las fotos parezcan auténticas, solo inteligencia artificial que responde a un aviso. Incluso los expertos a veces tienen dificultades para saber si alguien es real o no. ¿Puede?

El rápido auge de la inteligencia artificial ha disparado las alarmas de que la tecnología utilizada para engañar a las personas avanza mucho más rápido que la tecnología que puede identificar los trucos. Las empresas de tecnología, los investigadores, las agencias de fotografía y las organizaciones de noticias se esfuerzan por ponerse al día, tratando de establecer estándares para la procedencia y la propiedad del contenido.

El progreso ya está alimentando la desinformación y se está utilizando para inflamar las divisiones políticas. Los gobiernos autoritarios han creado medios de comunicación aparentemente realistas para lograr sus objetivos políticos. El mes pasado, algunas personas se enamoraron de las imágenes que mostraban al Papa Francisco con una chaqueta suave y esponjosa de Balenciaga y un terremoto que devastó el noroeste del Pacífico, aunque ninguno de esos eventos ocurrió. Las imágenes se crearon con Midjourney, un popular generador de imágenes.

El martes, cuando el expresidente Donald J. Trump se entregó en la oficina del fiscal de distrito de Manhattan para enfrentar cargos criminales, imágenes generadas por IA que muestran al actor Bill Murray como presidente en la Casa Blanca aparecieron en Reddit. Otra imagen que muestra a Trump marchando frente a una gran multitud con banderas estadounidenses de fondo se volvió a compartir rápidamente en Twitter sin el descargo de responsabilidad que acompañaba a la publicación original, señalando que en realidad no era una foto.

Los expertos temen que la tecnología pueda acelerar la erosión de la confianza en los medios, el gobierno y la sociedad. Si cada imagen se puede fabricar y manipular, ¿cómo podemos creer todo lo que vemos?

“Las herramientas mejorarán, se abaratarán y llegará el día en que no confíes en nada de lo que veas en Internet”, dijo Wasim Khaled, director ejecutivo de Blackbird.AI, una empresa que ayuda los clientes luchan contra la desinformación.

La inteligencia artificial permite a casi cualquier persona crear obras de arte complejas, como las que ahora se exhiben en la Gagosian Art Gallery de Nueva York, o imágenes realistas que desdibujan la línea entre lo real y lo que es ficción. Incluya una descripción de texto y la tecnología puede crear una imagen asociada; no se requieren habilidades especiales.

A menudo hay indicios de que las imágenes virales son generadas por computadora en lugar de tomadas en la vida real: el Papa con una capa de lujo tenía anteojos que parecían derretirse en su mejilla y dedos borrosos, por ejemplo. Las herramientas de arte de IA a menudo crean texto sin sentido. Aquí hay algunos ejemplos:

Sin embargo, los rápidos avances tecnológicos han eliminado muchos de estos inconvenientes. La última versión de Midjourney, lanzada el mes pasado, es capaz de representar manos realistas, una hazaña que aparentemente eludió a las primeras herramientas de imagen.

Días antes de que Trump se entregara para enfrentar cargos criminales en Nueva York, las imágenes tomadas de su “arresto” circularon en las redes sociales. Fueron creados por Elliott Higgins, un periodista británico y fundador de Bellingcat, una organización de investigación de código abierto. Usó Midjourney para imaginar el arresto, el juicio y la prisión del ex presidente con un mono naranja y su escape por las alcantarillas. Publicó las imágenes en Twitter, etiquetándolas claramente como creaciones. Desde entonces, han sido ampliamente compartidos.

Las imágenes no tenían la intención de engañar a nadie. En cambio, Higgins quería llamar la atención sobre el poder del instrumento, incluso en su infancia.

Las imágenes de Midjourney, dijo, pudieron pasar pruebas en los programas de reconocimiento facial que utiliza Bellingcat para verificar las identidades, generalmente de rusos que han cometido delitos u otros abusos. No es difícil imaginar gobiernos u otros actores nefastos que produzcan imágenes para hostigar o desacreditar a sus enemigos.

Al mismo tiempo, dijo Higgins, la herramienta también tuvo problemas para crear imágenes convincentes con personas que no son tan fotografiadas como Trump, como el nuevo primer ministro británico Rishi Sunak o el comediante Harry Hill, “quien probablemente sea no como se conoce fuera del Reino Unido.’

A Midgerny no le hizo ninguna gracia. Suspendió la cuenta de Higgins sin explicación después de que las imágenes se hicieran virales. La compañía no respondió a las solicitudes de comentarios.

Las limitaciones de las imágenes generativas las hacen relativamente fáciles de detectar para las organizaciones de noticias u otros con apetito por el riesgo, al menos por ahora.

Aún así, las compañías de fotografías de archivo, los reguladores gubernamentales y un grupo comercial de la industria de la música han tomado medidas para proteger su contenido del uso no autorizado, pero la poderosa capacidad de la tecnología para imitar y adaptar complica esos esfuerzos.

Algunos generadores de imágenes de IA incluso han reproducido imágenes, un homenaje incómodo a Twin Peaks; Will Smith come puñados de pasta, con versiones distorsionadas de las marcas de agua utilizadas por empresas como Getty Images o Shutterstock.

En febrero, Getty acusó a Stability AI de copiar ilegalmente más de 12 millones de fotos de Getty, junto con subtítulos y metadatos, para entrenar el software detrás de su herramienta Stable Diffusion. En su demanda, Getty afirma que Stable Diffusion disminuye el valor de la marca de agua de Getty al incluirla en imágenes que van “desde lo extraño hasta lo grotesco”.

Getty dijo que el “robo descarado y el freeriding” se llevaron a cabo “en una escala asombrosa”. Stability AI no respondió a una solicitud de comentarios.

La demanda de Getty se hace eco de las preocupaciones planteadas por muchos artistas individuales: que las empresas de inteligencia artificial se están convirtiendo en una amenaza competitiva al copiar contenido que no tienen permiso para usar.

Las violaciones de marcas comerciales también se convirtieron en un problema: las imágenes generadas artificialmente copiaron el logotipo del pavo real de NBC, aunque en letras ininteligibles, y mostraban el familiar logotipo curvo de Coca-Cola con O adicionales en el nombre.

En febrero, la Oficina de derechos de autor de EE. UU. intervino en las imágenes generadas artificialmente cuando evaluó el caso de “Dawn of the Dawn”, un cómic de 18 páginas escrito por Kristina Kastanova con arte generado por Midjourney. El administrador estatal decidió ofrecer protección de derechos de autor al texto del cómic, pero no a su arte.

“Debido a la distancia significativa entre lo que el usuario puede dirigir a Midjourney para que cree y el material visual que Midjourney realmente produce, los usuarios de Midjourney no tienen suficiente control sobre las imágenes generadas para ser tratados como la ‘mente maestra’ detrás de ellas”, explicó el servicio. en su decisión.

La amenaza para los fotógrafos está superando rápidamente el desarrollo de las protecciones legales, dijo Mickey H. Osterreicher, consejero general de la Asociación Nacional de Fotógrafos de Prensa. A las salas de redacción les resultará cada vez más difícil autenticar el contenido. Los usuarios de las redes sociales ignoran las etiquetas que identifican claramente las imágenes como generadas artificialmente y eligen creer que son fotos reales, dijo.

La IA generativa también puede facilitar la creación de videos falsos. Esta semana apareció un video en línea que parecía mostrar a Nina Schick, autora y experta en inteligencia artificial generativa, explicando cómo la tecnología está creando “un mundo donde las sombras se confunden con cosas reales”. El rostro de la Sra. Schick luego brilló cuando la cámara retrocedió, mostrando a un doppelganger en su lugar.

El video explica que el deepfake fue creado con el consentimiento de la Sra. Schick por la empresa holandesa Revel.ai y Truepic, una empresa con sede en California que está explorando una verificación más amplia del contenido digital.

Las empresas describieron su video, que incluye un sello que lo identifica como generado por computadora, como “el primer deepfake digitalmente transparente”. Los datos se sellan criptográficamente en el archivo; la manipulación de la imagen corrompe la firma digital y evita que se muestren las credenciales cuando se utiliza un software de confianza.

Las empresas esperan que la insignia, que vendrá con una tarifa para los clientes comerciales, sea adoptada por otros creadores de contenido para ayudar a crear un estándar de confianza que involucre imágenes de IA.

“La escala de este problema se acelerará tan rápidamente que impulsará el aprendizaje de los usuarios muy rápidamente”, dijo Jeff McGregor, director ejecutivo de Truepic.

Truepic es parte de Content Provenance and Authenticity Coalition, un proyecto creado a través de una alianza con empresas como Adobe, Intel y Microsoft para rastrear mejor la procedencia de los medios digitales. El fabricante de chips Nvidia dijo el mes pasado que estaba trabajando con Getty para ayudar a entrenar modelos de IA “responsables” utilizando el contenido con licencia de Getty, con regalías pagadas a los artistas.

El mismo día, Adobe presentó su propio producto de generación de imágenes, Firefly, que se entrenaría utilizando solo imágenes que tuvieran licencia de su propio stock o que ya no tuvieran derechos de autor. Dana Rao, directora de confianza de la compañía, dijo en su sitio web que la herramienta agregará automáticamente identificadores de contenido, “como una etiqueta de alimentos para imágenes”, que identifican cómo se hizo la imagen. Adobe dijo que también planea compensar a los contribuyentes.

El mes pasado, la modelo Chrissy Teigen escribió en Twitter que la chaqueta hinchada del Papa la engañó y agregó que “no hay forma de que sobreviva al futuro de la tecnología”.

la semana pasada, un una serie de nuevas imágenes de IA mostró el Papa, de vuelta con su túnica habitual, disfrutando de un vaso alto de cerveza. Las manos se veían casi normales, excepto por el anillo de bodas en el dedo anular del Papa.

Producción adicional de Jeanne Noonan DelMundo, aarón conejo y Michael Andre.