¿Debería la IA guardar tus secretos como un abogado o un médico? El creador de ChatGPT cree que sí

¿Debería regularse la información confidencial que las personas comparten con la inteligencia artificial mediante un acuerdo de confidencialidad similar al que existe entre un abogado y su cliente?

Sam Altman ha reflexionado sobre esto en una entrevista reciente publicada por The Atlantic, en la que ha asegurado que la sociedad puede "decidir que existe algún tipo de privilegio de la IA".

"Cuando hablas con un médico o un abogado, existen privilegios médicos, privilegios legales", ha comentado el cofundador y CEO de OpenAI (la desarrolladora de ChatGPT). "Actualmente no existe ese concepto cuando hablas con una inteligencia artificial, pero quizá debería haberlo".

Este tema surgía durante una conversación con la empresaria de medios de comunicación Arianna Huffington acerca de la nueva compañía de salud de Altman, Thrive AI Health. La startup propone un asesor médico impulsado por IA que rastree los datos de salud de los usuarios y ofrezca recomendaciones personalizadas sobre aspectos como el sueño, la actividad física o la nutrición.

La startup de salud IA apoyada por OpenAI que puede revolucionar la prevención de las enfermedades crónicas

A medida que las empresas han ido implantando sistemas y productos de inteligencia artificial, la regulación de la forma en la que se almacenan y comparten los datos de los usuarios se ha convertido en un tema candente.

Leyes como la HIPAA —la Ley de Portabilidad y Responsabilidad de Seguros Médicos de Estados Unidos, por sus siglas en inglés— prohíben a los médicos revelar información sanitaria sensible de un paciente sin su consentimiento. Este acuerdo está diseñado para ayudar a las personas a sentirse cómodas siendo honestas con sus médicos, lo que a su vez puede conducir a un mejor tratamiento.

Sin embargo, a algunas personas les sigue costando abrirse a los facultativos o buscar atención médica; el CEO de OpenAI afirma que eso es en parte lo que le motivó a colaborar con Thrive AI. En un artículo de opinión que Altman y Huffington escribieron para la revista Time, ambos mencionaban además los costes de la atención sanitaria y su accesibilidad en EEUU.

El responsable de ChatGPT se mostraba sorprendido por el número de personas dispuestas a compartir información con grandes modelos lingüísticos (LLM), sistemas de IA que utilizan herramientas como Gemini, de Google. En la entrevista de The Atlantic, Altman relataba que ha leído hilos de Reddit sobre personas que han hablado con los LLM de cosas que no se sentían cómodos compartiendo con los demás.

Aunque Thrive AI todavía está perfilando cómo va a ser su producto final, Huffington ha apuntado que la idea es que esté "disponible a través de todos los medios posibles", incluidas las plataformas de empleo, lo cual plantea problemas regulatorios y de almacenamiento de datos. 

Las grandes tecnológicas ya se han enfrentado a demandas por haber entrenado sus modelos de inteligencia artificial con contenidos para los que no tenían un acuerdo de licencia. La información sanitaria es uno de los datos más valiosos y privados que tiene la gente, y las compañías podrían utilizarla para entrenar sus modelos de IA.

Altman ha declarado a The Atlantic que sería "súper importante dejar claro a la gente cómo funciona la privacidad de los datos". "Pero, en base a nuestra experiencia, la gente lo entiende bastante bien", ha añadido.

El Fondo de Startups de OpenAI y de Thrive Global anunciaron el lanzamiento de Thrive AI Health la semana pasada, detallando que esta nueva empresa busca utilizar la inteligencia artificial "para democratizar el acceso al asesoramiento de salud a nivel experto" y hacer frente a las "crecientes desigualdades sanitarias".

Conoce cómo trabajamos en BusinessInsider.

Etiquetas: Trending, Inteligencia artificial, Salud, startups, ChatGPT, OpenAI