¿Por qué Facebook no prohíbe la basura de la IA como el 'Jesucristo langostino'?

La cabeza de Jesús en un pollo frito. Una mujer en bicicleta con una cesta llena de bebés y burritos.

Todo esto es "bazofia de inteligencia artificial", un nuevo término acuñado para referirse la repentina avalancha de contenido basura generado por IA, desde libros electrónicos a fotos virales. La bazofia está por todas partes en internet, pero donde se puede encontrar en cantidades industriales es en Facebook.

Se trata del tipo de basura del "Jesucristo langostino": extraña, obviamente falsa y, a veces, vagamente inquietante de la forma en la que se genera la tripofobia. 

Los temas varían desde ancianos con una tarta de cumpleaños en la mano que te piden que les desees feliz cumpleaños; bebés que hacen cosas que no deberían hacer; serpientes que se comen autobuses, bicicletas u otros vehículos sobrecargados con cientos de bebés u otro tipo de carga; soldados con prótesis en las piernas; mujeres a las que les faltan miembros y con bustos enormes; o Jesucristo. 

Las imágenes a menudo son inquietantemente perturbadoras.

¿Te acuerdas del 'Jesucristo langostino'? Los posts basura generados por IA llegan a LinkedIn

Suelen publicarse en páginas de Facebook con nombres que suenan genéricos o descripciones que no describen necesariamente lo que aparece en la foto, como; "¿Por qué nunca se ponen de moda fotos como ésta?", o "preciosa tripulación de cabina", o "Scarlett Johansson" para una imagen de Jesús empotrado en el capó de un coche.

¿Por qué se genera toda esta bazofia? La mejor explicación es que las páginas de Facebook que las publican están haciendo de cebo para colaborar en estafas, es decir, están ayudando a los estafadores a identificar en los comentarios a personas ingenuas a las que les pueden sacar dinero.

Otra posibilidad es que publicar estas imágenes sea una buena táctica para conseguir una gran audiencia en la página, lo que puede llegar a ser muy rentable.

Las evidentes similitudes que existen entre este tipo de páginas sugieren que la bazofia de la inteligencia artificial está siendo publicada por una red de agentes sospechosos, probablemente con base en países fuera de Estados Unidos y la Unión Europea. Es algo parecido al spam, cuando no directamente spam.

El contenido es tan chapucero que a veces puede ser muy divertido e, incluso, existe una cuenta en X, Insane Facebook AI Slop, dedicada a compartirla.

Es vergonzoso para Facebook que la gente esté utilizando la red social anteriormente conocida como Twitter —¡¡¡X!!! ¡¡Un lugar que está lleno de cosas horribles!!!— para reírse de la mala gestión de contenidos que está llevando a cabo Meta (la matriz de Facebook) en su plataforma.

Esto viene ocurriendo desde hace bastantes meses. Medios de comunicación como 404 Media han estado cubriendo este fenómeno y han descrito cómo estas imágenes son parte de un "internet zombi" alimentado por la IA y lleno de bots hablando con bots. No hace mucho, especulé sobre por qué Meta no había tomado medidas, pero teniendo en cuenta que nada parece haber cambiado, me lo pregunto una vez más...

¿Por qué Facebook simplemente no prohíbe esta bazofia?

Aquí puedes leer algunas de mis teorías:

• Estas imágenes no infringen técnicamente ninguna norma: no muestran desnudos ni otras imágenes no permitidas.
• Facebook ha puesto una etiqueta de advertencia para señalar que una imagen puede haber sido generada por inteligencia artificial.
• Los usuarios realmente disfrutan de este contenido: en los comentarios se ve a mucha gente que probablemente ha sido engañada y cree que es una imagen real... o quizás sepa que solo se trata de una interesante interpretación artística. ¿Por qué meterse con el contenido que le gusta a la gente?
• Facebook prohíbe este tipo de contenido, pero solo a nivel de cuenta cuando la cuenta que lo publica utiliza tácticas evidentes de spam. Aun así, no todas las cuentas hacen spam.
• La bazofia suele estar relacionada con las estafas, pero las cuentas que la publican pueden no ser directamente las estafadoras, por lo que no se las prohíbe.
• A Facebook le preocupa que vetar este tipo de contenido de IA siente un mal precedente porque quiere animar a la gente a hacer cosas con su propio modelo de inteligencia artificial, Llama 3.
• A Facebook no le gusta la bazofia de la IA, pero tiene cosas más importantes de las que preocuparse.
• La red social ha dejado de intentarlo. Esta es la hipótesis que baraja Jason Koebler, de 404 Media. Los compromisos previos de Meta de trabajar con investigadores y académicos se han desvanecido, y el escrutinio sobre la moderación de contenidos (impulsado por la inacción de Elon Musk en ese sentido) ha cambiado. Según esta teoría, Meta se está centrando en lo más novedoso y brillante (herramientas de IA, Instagram, el metaverso) y cada vez se preocupa menos por Facebook. Básicamente, ya no les importa una mierda.

Imagino que la respuesta puede estar escondida entre todas estas cosas. Un representante de Meta no ha respondido a las preguntas acerca de por qué no se limitan a prohibir la bazofia de la IA. (También le pregunté recientemente a un vicepresidente de Producto de Meta por qué simplemente no lo prohíben, pero cambió de tema; parecía como si no estuviese seguro de lo que le estaba hablando).

Facebook ha pasado por tantas fases del spam y del contenido generado para impulsar las estafas, desde memes de Los Minions hasta vídeos de magos, pasando por noticias falsas realmente peligrosas y grupos extremistas. Si la bazofia de la inteligencia artificial no te lleva a organizarte en la vida real y a tratar de derrocar algún gobierno, qué más da, Facebook ha visto cosas mucho peores.

Conoce cómo trabajamos en BusinessInsider.

Etiquetas: Trending, Inteligencia artificial, Redes Sociales, Meta, Facebook, Ciberseguridad