La batalla de Silicon Valley por los riesgos de la IA está escalando más rápido de lo que piensas

En Silicon Valley se está librando una batalla sobre los riesgos y la seguridad de la inteligencia artificial, que está escalando rápidamente.

Aunque las tensiones se han ido agudizando en las últimas semanas, el martes cobraron especial protagonismo después de que un grupo de trabajadores asociados a las principales empresas de IA publicaran una lista de demandas en una carta abierta.

Los antiguos y actuales empleados de OpenAI, Anthropic y Google DeepMind piden más protección para las personas que denuncian irregularidades, canales de denuncia anónimos y, lo que es más importante, la eliminación de las cláusulas de no desacreditación.

Los firmantes, entre los que se encuentran varios empleados actuales y antiguos de OpenAI, mencionan la necesidad de poder plantear preocupaciones relacionadas con los riesgos de la IA tanto internamente como al público.

Se trata de un punto conflictivo para OpenAI. Varios miembros del personal se han marchado recientemente, criticando el compromiso de los ejecutivos de salvaguardar la IA a su salida.

La política de la empresa de estrictos acuerdos de confidencialidad para el personal que se marcha también ha sido objeto de escrutinio después de que surgieran informaciones de que OpenAI había estado aprovechando el patrimonio adquirido de los antiguos empleados para garantizar su silencio.

Recientemente, la empresa ha liberado a los empleados de estos acuerdos tan estrictos, y ahora algunos están contraatacando.

Derecho de advertencia

Aunque las preocupaciones en torno a la seguridad de la IA no son nada nuevo, cada vez se intensifican más en el seno de las empresas de IA.

Expertos independientes han advertido desde hace tiempo del riesgo que la IA puede suponer para la humanidad. La carta 'Derecho de advertencia' de los empleados cuenta con el respaldo de algunos de estos destacados nombres del sector, como los 'padrinos de la IA' Yoshua Bengio y Geoffrey Hinton y el destacado informático Stuart Russell.

Aunque algunos Gobiernos están intentando regular la IA, las iniciativas en materia de seguridad siguen siendo en gran medida "optativas" para las empresas, lo que significa que no tendrán que hacer frente a ninguna consecuencia si no se cumplen las promesas.

Jacob Hilton, un antiguo empleado de OpenAI que firmó la carta, explica a Business Insider que es importante que los empleados puedan hablar libremente sobre los problemas de seguridad de la IA.

"Existe mucha presión comercial para que estas empresas recorten gastos", incide Hilton. "Con un compromiso simplemente voluntario, no existen consecuencias por incumplirlos".

"Si los empleados se callan, es posible que el público nunca sepa que la empresa ha incumplido los compromisos hasta que ocurra algo malo".

Aunque Hilton señala que OpenAI ha asegurado a sus antiguos empleados que no tiene intención de hacer cumplir los acuerdos de no descrédito, afirma que la empresa aún necesita aclarar si los empleados pueden vender sus acciones adquiridas.

Además, añade que esta laguna legal sigue siendo una "potencial vía de represalias".

Quién es Sam Altman, CEO de OpenAI, que aprendió a programar a los 8 años y está preparado para el fin del mundo con oro, armas y máscaras de gas

OpenAI, bajo presión

Las tensiones han ido en aumento en OpenAI desde hace algún tiempo, y la carta pública probablemente aumentará la presión sobre el CEO Sam Altman.

Desde el golpe de noviembre, se ha especulado sobre la verdadera causa de los problemas dentro de la empresa con ánimo de lucro.

El mes pasado, Helen Toner, exmiembro del consejo de administración, afirmó que la decisión de destituir a Altman se tomó en parte después de que éste hiciera "básicamente imposible" que el consejo comprendiera si las medidas de seguridad implantadas para el desarrollo de la IA eran suficientes.

Russell, un destacado experto en IA que respaldó públicamente la carta, asegura a BI que las dimisiones de alto nivel de OpenAI se deben al empeño de la empresa por desarrollar capacidades de inteligencia artificial general sin averiguar cómo hacerlas seguras.

Acusa a empresas como OpenAI de "socavar todos los intentos de regularlas" en favor de la protección de sus intereses comerciales.

Russell también afirma que las empresas tecnológicas "están aumentando sus gastos en hacer lobby y gozan desde hace tiempo de una arraigada tradición a la hora de convencer a los legisladores".

Algunos antiguos empleados también han planteado dudas sobre el compromiso de OpenAI con la seguridad de la IA.

Daniel Kokotajlo, otro antiguo empleado de OpenAI que firma la carta, asegura que las empresas tecnológicas se han lanzado a desarrollar una IA potente sin tener en cuenta los riesgos de la tecnología.

Asegura que su decisión de marcharse se produjo después de "perder la esperanza de que actuaran de forma responsable, sobre todo cuando persiguen la inteligencia artificial general".

Business Insider se ha puesto en contacto con OpenAI pero por el momento no ha habido respuesta.

Un portavoz reiteró anteriormente el compromiso de la empresa con la seguridad, destacando una "línea directa de integridad anónima" para que los empleados expresen sus preocupaciones y el comité de seguridad y protección de la empresa.

"Estamos orgullosos de nuestro historial proporcionando los sistemas de IA más capaces y seguros y creemos en nuestro enfoque científico para abordar el riesgo", explica la compañía en un correo electrónico.

"Estamos de acuerdo en que es crucial un debate riguroso dada la importancia de esta tecnología y seguiremos colaborando con los gobiernos, la sociedad civil y otras comunidades de todo el mundo".

Axel Springer, la empresa matriz de Business Insider, tiene un acuerdo global para permitir que OpenAI entrene sus modelos en los reportajes de sus medios.