Los artistas están perdiendo la batalla contra la IA: Glaze, una herramienta que sirve para engañar al algoritmo, les ofrece la posibilidad de defenderse

En otoño de 2022, la inteligencia artificial fue a por Autumn Beverly.

Esta mujer de 31 años afincada en Ohio, Estados Unidos, solo llevaba unos meses dedicándose al arte a tiempo completo. Beverly, que había dejado su anterior trabajo como adiestradora de perros, había publicado varios tuits con sus obras, sobre todo bocetos de animales a lápiz, intentando darse a conocer. Los encargos iban llegando: un logotipo por aquí, un trabajo de arte conceptual por allá.

En ese momento, la IA generativa estaba empezando a impresionar a la gente en redes sociales y varias personas le dijeron a Beverly que la inteligencia artificial pronto superaría a los artistas humanos, algo que supondría perder la carrera profesional que acababa de comenzar, pero ella poco podía hacer.

Entonces la cosa se volvió personal. En octubre, Beverly consultó una página web, HaveIBeenTrained.com, que ofrece la posibilidad de averiguar si un texto o una obra tuya ha sido utilizada para entrenar a un gran modelo lingüístico como el que hace funcionar a herramientas como ChatGPT o Midjourney.

Sus obras más recientes eran una sola pequeña parte de todo lo que estos sistemas de IA habían recopilado. Incluso los dibujos que publicó hace años en DeviantArt, la plataforma de intercambio de imágenes, estaban siendo utilizados para entrenar a una máquina que pudiese llegar a sustituirla algún día.

Las obras de arte generadas por IA empiezan a despertar inquietud: varias comunidades online dedicadas al arte las prohíben en sus webs

"Tenía miedo de publicar mis obras en cualquier sitio", asegura Beverly a Business Insider. "Justo antes de eso, había intentado empezar a mover más mi arte, para que se viese, y me di cuenta de que casi era peligroso hacerlo".

Miles de personas atraviesan la misma odisea que esta artista estadounidense. El pasado octubre, Business Insider España entrevistó a figuras como David Rubín, 4 veces nominado a un premio Eisner (los Oscar de los cómics), Jon Juarez, artista conceptual para Netflix o HBO, o Daniella Martí, humorista gráfica de El País, para intentar aclarar cómo veían ellos la llegada de estas tecnologías. 

Existe una disyuntiva en la que estos artistas necesitan publicar sus obras en redes sociales y en internet para ganar visibilidad y conseguir encargos, pero de esa forma podrían estar alimentando a la misma máquina que podría estar a punto de acabar con sus carreras.

Glaze aprovecha la "enorme brecha" que existe en la forma en la que la inteligencia artificial y los seres humanos interpretan el arte

Ben Zhao, catedrático de Informática de la Universidad de Chicago, sostiene que la respuesta podría estar en que la IA percibe la información visual de forma distinta a cómo la ven las personas.

Su equipo ha desarrollado en 2023 un programa gratuito llamado Glaze que, según ellos, puede alterar una imagen de tal forma que engañe a los modelos de aprendizaje automático de la inteligencia artificial, pero solo necesite realizar cambios mínimamente perceptibles para el ojo humano.

"No es una democratización, es una banalización del arte": los artistas cargan contra las imágenes generadas por IA, aunque algunos les ven potencial

El programa, que ha sido descargado 893.000 veces desde que se publicó en marzo, utiliza el ordenador del propio artista para volver a renderizar una imagen añadiéndole ruido visual. Esa imagen puede seguir alimentando los modelos de aprendizaje de la IA, pero los datos que se obtengan de ella serán inexactos, explica Zhao a Business Insider.

Si Beverly utilizase Glaze para alterar sus obras, una persona podría saber qué aspecto tiene una pieza en cuestión, pera la alteración haría que una inteligencia artificial viese rasgos distintivos de otro estilo artístico, como las pinturas abstractas de Jackson Pollock, apunta Zhao.

Glaze permite a los usuarios ajustar la intensidad de la ocultación y la duración del renderizado, que puede durar hasta 60 minutos. 

Dependiendo de lo que elija el usuario, las diferencias visuales pueden ser más o menos perceptibles al ojo humano.

Puede parecer que este programa solo distorsiona ligeramente una imagen, pero el nuevo renderizado cambia por completo la forma en la que un modelo de IA percibe la foto o la obra de arte en cuestión.

Además, debería funcionar en todos los casos con los modelos de aprendizaje actuales, porque aprovecha una brecha fundamental entre la forma en la que la inteligencia artificial lee las imágenes y cómo las ven las personas, argumentan los desarrolladores de esta herramienta.

"Esa enorme brecha existe desde hace 10 años. La gente ha entendido esa diferencia, intentando acotarla y minimizarla, pero ha demostrado ser muy resistente, y es la razón por la que todavía se pueden realizar ataques estos modelos", asegura el catedrático de Informática de la Universidad de Chicago.

Mezclando webcómics con Van Gogh

El principal objetivo de Glaze es proteger el estilo individual de un artista, explica Zhao. El equipo de investigación de la Universidad de Chicago diseñó el programa a raíz de que varios artistas preocupados se pusiesen en contacto con ellos para preguntarles por la posibilidad de que los modelos de IA se estuviesen fijando específicamente en su obra.

Según el catedrático de Informática, esto ya está ocurriendo. El equipo de la Universidad de Chicago ha descubierto a gente que vende programas por internet que han sido entrenados para imitar los dibujos y pinturas de un único artista.

"De tal modo que alguien se descarga un montón de obras de arte de una cuenta personal de un artista en particular, las entrena con estos modelos y les dice: 'Esto sustituye al artista, puedes tenerlo si me pagas un par de pavos y te lo descargas'", indica Zhao.

Sarah Andersen, creadora y directora del webcómic Sarah's Scribbles, descubrió el año pasado que los generadores de imágenes por inteligencia artificial, como Stable Diffusion o Midjourney, podían generar cómics con su propio estilo artístico.

Con un número de seguidores tan grande como el suyo (más de 4,3 millones de personas en Instagram), a Andersen le preocupa que los datos sobre sus obras puedan ser utilizados como una poderosa herramienta para la suplantación de identidad o el acoso online, declara a Business Insider.

"Si quieres acosarme, puedes escribir 'Sarah Andersen personaje', pensar en algo realmente ofensivo y te saldrán 4 imágenes", afirma la artista.

Es ahí donde Glaze puede jugar un papel fundamental, apunta el catedrático de la Universidad de Chicago: si la IA no puede recopilar datos precisos sobre el estilo de un artista, no puede copiar su obra ni intentar sustituirlo.

Mientras tanto, Andersen no tiene forma de retirar toda su obra de estos modelos de inteligencia artificial. La artista ha publicado sus ilustraciones en redes sociales de forma constante durante los últimos 12 años, ya que, en la actualidad, estas plataformas contribuyen a incrementar prácticamente todas sus fuentes de ingresos.

Andersen es una de las principales demandantes en una denuncia colectiva de 1.000 millones de dólares interpuesta contra algunas desarrolladoras de IA —como OpenAI o Stability AI— a las que se les acusa de haber entrenado sus modelos utilizando miles de millones de obras de arte sin el consentimiento de los artistas.

Mientras continúa el proceso judicial, la artista espera que Glaze le sirva como contraofensiva temporal.

"Antes de Glaze, no teníamos ningún recurso para protegernos contra la inteligencia artificial", reconoce Andersen. "Se habla de una opción de exclusión voluntaria, pero cuando llevas siendo una artista online desde hace más de una década como yo, tu trabajo está en todas partes".

Glaze podría desencadenar una guerra entre los artistas y la IA, pero no se trata de eso

En última instancia, si una desarrolladora de inteligencia artificial quisiese burlar el sistema de Glaze, podría hacerlo fácilmente, asegura Haibing Lu, profesor de infoanálisis de la Universidad de Santa Clara especialista en IA.

"Si yo fuera una empresa de inteligencia artificial, en realidad no me preocuparía mucho por esto", señala Lu. "Glaze básicamente añade ruido a la imagen y si realmente quisiese crackear sus sistemas de protección, podría hacerlo, es muy sencillo".

En teoría, esto podría dar lugar a una especie carrera armamentística, en la que las desarrolladoras de IA y el equipo de Glaze tratasen continuamente de superarse mutuamente. Ahora bien, si las compañías de inteligencia artificial están dedicando recursos a descifrar Glaze, entonces ya ha cumplido su cometido, afirma Zhao.

"El objetivo de la seguridad es poner el listón tan alto que quien esté haciendo algo que no debería se dé por vencido y busque algo más barato", sostiene el catedrático. 

Los sistemas tecnológicos diseñados para salvaguardar el trabajo de alguien están protegidos legalmente en algunos países, pero no está claro si un programa como Glaze podría entrar en esa categoría, explica Martin Senftleben, profesor de Derecho de la Información de la Universidad de Ámsterdam.

"Personalmente, me imagino que los jueces estarán dispuestos a decir que es así", comenta Senftleben.

¿Qué más pueden esperar los artistas?

Los artistas que estén preocupados por la IA podrían tener pocas alternativas a Glaze. Si las personas como Beverly o Andersen quieren denunciar a las empresas de inteligencia artificial por infracción de derechos de autor, tendrían un camino difícil hacia la victoria, opina Senftleben.

"El problema es que la mera imitación de un estilo no suele bastar para presentar una demanda por derechos de autor, porque los conceptos, estilos, ideas, etc., siguen siendo libres según las normas de derechos de autor", argumenta este experto. Por ejemplo, la autora de Harry Potter, J.K. Rowling, no tiene el monopolio de las historias sobre un niño que descubre que tiene poderes mágicos, añade.

Una vía legal para los artistas podría ser un sistema de licencias que les pague cuando se utilice su arte para entrenar a una IA, sugiere Senftleben. Otra opción sería que los países gravasen los beneficios de las obras generadas por inteligencia artificial para devolverle ese dinero a los artistas, apunta. Pero estas leyes podrían tardar años, incluso una década, en entrar en vigor.

El objetivo de Glaze es llenar esa laguna hasta que se aprueben leyes o directrices, defiende Zhao.

"Glaze nunca ha pretendido ser algo perfecto. El objetivo ha sido hacer frente a esta amenaza para los artistas, en la que, o pierdes tus ingresos por completo, o sales ahí fuera y sabes que alguien podría sustituirte por un modelo [de IA]".