La app para verificar la edad y vetar el acceso de los menores al porno no pone el foco en los grandes responsables del malestar digital

El Gobierno ha diseñado una app para verificar la edad de los usuarios que quieran acceder a contenidos para adultos: ahora empieza su desarrollo. Más allá de algunos preceptos técnicos con los que las plataformas de contenido pornográfico deben ir preparándose para adaptarse, no se sabe si algún día se conocerá el código de esta herramienta.

Esa incógnita es crucial y su respuesta es clave para abordar un debate tecnológico y social que muchos actores —Gobierno, empresas, plataformas y otras entidades— están ignorando deliberadamente.

Fue el ministro de Transformación Digital, José Luis Escrivá, quien abundó en que esta herramienta se atiene a lo que plantea el reglamento europeo eIDAS2. 

Esa es la regulación que promete carteras digitales en toda la UE en unos años. Incluso la Policía Nacional ha prometido su experimento. Pero aunque el eIDAS2 esté aprobada, todavía queda consensuar los requisitos técnicos de esas nuevas billeteras.

Mientras las discusiones técnicas en torno al eIDAS2 continúan, en España —y en todo el mundo— el debate en torno a la protección de los menores en ámbitos digitales se acelera. El Consejo de Ministros dio luz verde hace unas semanas al anteproyecto de una ley antipantallas de la que participan los ministerios de Transformación Digital, Interior y Juventud e Infancia.

Ese anteproyecto no recogía esta app, aunque se esperaba. La Agencia Española de Protección de Datos (AEPD) ya presentó a finales de 2023, junto a la Comisión Nacional del Mercado y la Competencia (CNMC) y a la Fábrica Nacional de la Moneda y el Timbre (FNMT), una prueba de concepto para demostrar que una herramienta así era técnicamente viable.

Técnicamente viable sin comprometer la privacidad de sus usuarios, que muchos serán además niños y adolescentes.

El propio presidente del Gobierno acabó abrazando la idea a principios de año y, aunque inicialmente se hablaba de proteger a los menores de "contenidos inadecuados", esta nueva aplicación gubernamental funcionará con las plataformas de contenidos pornográficos instaladas en España.

En un futuro, se espera ampliar la idea para que el sistema de verificación de edad también trabaje con redes sociales, navegadores o sistemas operativos, en el caso de que estas trabajen con "contenidos inadecuados" para menores. Claro, habrá que definir muy bien qué es "inadecuado".

Hay mucha conversación al respecto. Hay quien irónicamente considera que es una medida de alfabetización digital, pues forzará a muchos menores a aprender por sí mismos a usar redes virtuales —con los riesgos que conlleva usar una VPN cuestionable—. Los chascarrillos no paran de multiplicarse en redes y ya se habla del pajaporte.

Desde que es poner puertas al campo a recordatorios como el que hace Simona Levi, activista de los derechos digitales en X.net: "Todo sistema que permita la identificación de las personas puede ser peligroso para la privacidad, por lo que hay que aplicar numerosas salvaguardas para evitar sistemas de control y perfilado masivos".

Más allá del debate técnico y regulatorio —¿funcionará realmente?, ¿se podrá identificar a un usuario que acceda a un contenido pornográfico?—, se están dejando otras preguntas sin responder, estas más centradas en lo ético, lo social y lo digital: qué responsabilidad tiene la industria pornográfica, qué otros contenidos pueden ser inadecuados, o qué papel juegan las propias plataformas.

El debate sobre la "protección de menores" se acelera en todo el mundo

En la presentación de la herramienta Escrivá también sacó pecho defendiendo que hay un amplio consenso europeo sobre la necesidad de proteger a niños y adolescentes en los ámbitos digitales y que en ese aspecto España se está convirtiendo en una precursora. No es mentira, pero el país no está solo.

Francia, por poner un ejemplo de su entorno, sacó adelante en abril de este año una ley conocida por sus siglas SERN —el nombre oficial es ley para segurizar y regular el espacio digital—. El texto deja en manos de la autoridad francesa de las telecomunicaciones, Arcom, el desarrollar una serie de estándares para proteger a menores de contenidos inadecuados.

Arcom publicó hace ya unos meses una propuesta de estándares que sometió a audiencia pública: para un período de transición, planteaba que los usuarios que quisieran acceder a contenidos pornográficos cedieran datos de una tarjeta bancaria. Para el futuro, algunas ideas todavía más rocambolescas, como un sistema de reconocimiento biométrico para detectar a menores.

Por las mismas fechas en Reino Unido se comenzó a debatir unas directrices propuestas para desarrollar la ya existente ley de protección de menores en lo digital. También se planteaba la posibilidad de usar sistemas de reconocimiento facial para comprobar si es un niño el que intenta acceder a un contenido inadecuado.

El Gobierno asume que la autorregulación de las grandes tecnológicas para proteger a menores es "insuficiente"

Al otro lado del Atlántico, en Estados Unidos, varios estados exigen a las plataformas de contenido para adultos que exijan un documento de identidad al usuario que intente acceder a la web. El Supremo de ese país ya ha anunciado que revisará estas normas. Por lo menos, en España la aplicación propuesta es algo más garantista con la privacidad del ciudadano.

Eso sí, X.net enfatizaba que las carteras digitales que propone el reglamento eIDAS2 serán autosoberanas, es decir, que con ellas se podrá prescindir de una entidad central que genere y acredite credenciales. "Para saber si el sistema propuesto por el Gobierno es así se debe poder auditar su código. Por lo que sabemos, el código, al menos de momento, no está disponible".

"Se deben dar respuestas a problemas concretos, pero es necesario tomar precauciones para que el clima de pánico moral que las corrientes más retrógradas y autoritarias están fomentando en nuestras sociedades no se vea alentado", enfatizaba este martes la plataforma de activistas por los derechos digitales. "Internet libre o barbarie".

Esto va más allá de un problema de privacidad para los ciudadanos —que no es una cosa menor—. En palabras de César Rendueles, filósofo, sociólogo, profesor e investigador del Instituto de Filosofía del Centro Superior de Investigaciones Científicas (CSIC):

"Sostener que vamos a resolver los problemas de la infancia y de la juventud con más tecnología como creímos durante décadas me parece tan genuino y nocivo como creer que podemos hacerlo suprimiendo el acceso a tecnología".

"Pasamos de un fetichismo tecnológico a un pánico moral digital"

Rendueles pronunció esas palabras a finales de mayo en una comisión parlamentaria de estudio que se constituyó en la Asamblea de Madrid en febrero de este año. La naturaleza de esa comisión es investigar los efectos perniciosos que pueda tener la tecnología entre los más jóvenes.

Para Rendueles, hay mucha información alarmante sobre los efectos nocivos que tienen las pantallas y la tecnología en los menores, y frente a una perspectiva "catastrofista" su propuesta es dar "una imagen más matizada". "¿Significa eso que no debamos preocuparnos por la relación de niños y jóvenes con la tecnología?". "Todo lo contrario", apunta.

"Lo que no deberíamos", continuaba, "es pasar de ese fetichismo tecnológico en el que estuvimos durante décadas a un pánico moral digital". "El pánico moral prohibicionista tiene dos consecuencias negativas: plantea un marco de relación con los jóvenes basado en la desconfianza de sus capacidades para gestionar la tecnología". Por el otro, "desresponsabiliza a los adultos".

Desresponsabiliza a los adultos "de transformar el entorno digital que le regalamos a inmersos conglomerados empresariales y que ahora nos devuelven convertido en una monstruosidad. Y todo lo que se nos ocurre ante ese horror que nos devuelven es... construir habitaciones del pánico".

El Gobierno, con su nueva app para verificar edades, habla concretamente de plataformas de contenidos para adultos. Hace unos meses hablaba de "contenidos inadecuados". Sin embargo, ningún portavoz gubernamental ha emitido en alto una reflexión sobre la industria pornográfica que vaya más allá del desafío tecnológico. La pornografía existía antes de que existiera internet.

Rendueles intervino en esta comisión de la Asamblea de Madrid en la que es diputada Marta Carmona. Carmona forma parte del grupo de Más Madrid, y al hilo del anuncio del Gobierno compartía la siguiente reflexión en redes sociales:

"Al final se dibujan dos posiciones: quienes apuestan por pedir a chavales y adultos conducta monacal mientras dejan campar a sus anchas a las empresas que viven de algoritmos perversos y quienes apostamos por formar a los individuos y regular a las empresas".

En conversación con Business Insider España, Carmona detalla que a los mecanismos regulatorios de las instituciones les está costando ver cómo acotar a las empresas en ese sentido. Lo que en la comisión de la Asamblea se viene dibujando, expone, es un discurso sobre el tiempo que pasan los menores con las pantallas.

"Lo que se acaba viendo es que el problema de las pantallas tiene que ver con que están quitando tiempo de ocio saludable o de estar con los padres. Muchas veces son los padres quienes están también con las pantallas. Las pantallas rellenan huecos en las vidas de gente con poca capacidad de decidir qué hacer con su tiempo libre", dice Carmona, psiquiatra comunitaria de profesión.

Por eso, para la parlamentaria madrileña, la propuesta de app verificadora de edad imbuye los dos modelos por los que se puede apostar: "O haces una cosa que no sirve para nada [los chavales sabrán sortear el sistema de verificación de edad] y por lo tanto es una medida cosmética...".

"... O puedes hacer una cosa mucho más restrictiva pero cargándote un montón de libertades individuales. No hay un término medio funcional real. Hay una idealización de que puede haber una solución técnica perfecta para atajar este problema".

"En esas dos posturas", incide Carmona, "hay quien dice que las empresas deben poder hacer lo que quieran y tenemos que regular el tiempo que niños e incluso adultos pasan con el móvil, y otros que dicen que Estados y organismos supranacionales, aunque les esté costando, deben seguir disputando con regulación este ámbito".

En síntesis, se está cargando la responsabilidad en los niños y en los adolescentes sin toserle a la industria pornográfica o a la tecnológica. Es fácil rescatar titulares de la hemeroteca:

• Una tragedia mortal en TikTok pone en entredicho las medidas de seguridad de la red social para proteger a menores de edad
• TikTok expone a los menores a información falsa sobre el coronavirus en apenas cuestión de minutos, según concluye un pequeño experimento
• Facebook sabe que Instagram es tóxico para las adolescentes, según documentos internos de la compañía
• Instagram pausa el desarrollo de su app para menores de 13 años, Instagram Kids, tras la polémica por su conocimiento sobre la toxicidad de la red social en adolescentes
• ¿A qué edad tener redes sociales? La ley marca los 13 años como el límite seguro, pero la realidad es más compleja
• Meta crea un grupo de trabajo tras descubrirse que Instagram 'guiaba' a los usuarios hasta contenidos con abuso infantil
• Meta descubrió que las suscripciones de pago en Facebook e Instagram permitían la explotación sexual infantil, pero optó por seguir adelante

Por eso Carmona habla de que el espacio público digital sigue muy desregulado, en una suerte de Mad Max, y acentúa otro problema: "El avance tecnológico va muy por delante de nuestras discusiones éticas". La demonización de lo digital, sin cuestionar su propiedad, recuerda al pánico satánico que estalló en EEUU en los 80 y se expandió globalmente.

O a los reproches que se han hecho sobre los videojuegos como vectores que generan violencia entre los más jóvenes.

Tres propuestas de César Rendueles para proteger a los más jóvenes en el ámbito digital

Mientras eso sucede, César Rendueles abundaba en su intervención en la Asamblea de Madrid que el debate sigue basculando en un marco de intervención "basado en la inacción".

Por eso, el investigador también lanzó tres posibles marcos de intervención basado en tres lemas: "Solo no puedes, con amigos sí", "un hacklab en cada esquina" y "decrecimiento digital".

Solo no puedes, con amigos sí

"Los conflictos y problemas derivados del uso de tecnología digital son muy difíciles de gestionar individualmente. Esa dificultad para abordar esos problemas individualmente no es específico de los jóvenes: nos pasa lo mismo a los adultos. Por qué no permitir que niños y jóvenes participen de procesos de autorregulación colectiva en colegios, institutos, bibliotecas".

Un hacklab en cada esquina

"Durante décadas el consenso ha sido que cualquier novedad digital era positiva e inevitable. Los centros educativos asumieron acríticamente una digitalización por aluvión que dotaba una pátina tecnológica a los sistemas tradicionales. Educar en tecnología consiste en lo contrario: en abrir la caja negra digital. Un hacklab es mucho más seguro que un juramento de virginidad digital".

Decrecimiento digital

"Estoy convencido de que usar mejor la tecnología digital es usarla menos. Pero en el cómo hagamos esa labor de reducción nos lo jugamos todo. Necesitamos un programa de decrecimiento digital como alternativa al pánico moral. Debería disminuirse efectivamente en sus dimensiones más alienantes y dañinas pero desarrollarse en aspectos relacionados con ejercicios creativos".

Rendueles también concluía: "Una parte significativa de los problemas que asociamos a los móviles es porque consentimos que grandes conglomerados empresariales diseñen estos productos específicamente pensados para producir estos efectos que nos preocupan. Nosotros los llamamos problemas, ellos los llaman plan de negocio".

"En lugar de pedir conductas heroicas o monacales a los adolescentes o niños, tal vez debiéramos centrar nuestros esfuerzos en exigir a las grandes empresas una rendición de cuentas, sancionar los desarrollos más destructivos, y al mismo tiempo desarrollar tecnologías públicas y cooperativas sometidas al control democrático".