ChatGPT dice cualquier cosa sobre los internautas y es atacado

Se avecinan nuevos problemas para OpenAI, la empresa detrás de ChatGPT. El activista austriaco Max Schrems, conocido por su activismo contra los gigantes de internet en cuestiones de datos personales, ha iniciado un proceso legal contra el creador del famoso chatbot.

¿Alguna vez te has preguntado qué sabe ChatGPT sobre ti? Probablemente los resultados no cumplieron con tus expectativas. Algo similar le ocurrió a Max Schrems. El activista austriaco también realizó el experimento y los resultados obtenidos fueron inapropiados. Sin embargo, en lugar de dejarlo pasar, decidió corregir la información inexacta.

Aquí es donde la situación se complicó. Según Schrems, sus solicitudes de corrección no fueron atendidas. “Aunque la fecha de nacimiento proporcionada por ChatGPT era incorrecta, OpenAI rechazó su solicitud de rectificar o eliminar los datos, argumentando que era imposible hacer correcciones”, se reporta.

Pero Max Schrems no es un usuario cualquiera. También es un activista que lidera una organización muy comprometida con la privacidad. Silicon Valley ha aprendido a temer a NOYB (None of Your Business), pues las acciones legales de esta ONG han desafiado repetidamente el marco transatlántico de protección de datos personales.

ChatGPT dice cualquier cosa y OpenAI no corrige

Y es ante la autoridad austriaca de protección de datos donde Max Schrems planea llevar a OpenAI. La empresa estadounidense, que diseñó el chatbot, está acusada de no respetar ciertas disposiciones del Reglamento General de Protección de Datos (RGPD), a pesar de estar plenamente vigente desde 2018.

Según NOYB, empresas como OpenAI “no pueden garantizar que los chatbots […] cumplan con la legislación de la UE al procesar datos sobre personas”. No obstante, el RGPD exige que los datos personales sean precisos, una norma que incluso precede al reglamento, datando de 1995.

Sin embargo, “OpenAI admite abiertamente que no es capaz de corregir información incorrecta en ChatGPT”, destaca la asociación. También la acusan de no poder o no saber “de dónde provienen los datos o qué datos almacena ChatGPT sobre personas individuales”. Esta situación se considera inaceptable, dada la influencia de ChatGPT.

Por lo tanto, se presentó una denuncia, como se anunció este lunes 29 de abril, para forzar a OpenAI a ofrecer respuestas más satisfactorias a Max Schrems, en lugar de rechazar sus peticiones. El activista también desea acceder a los datos que le conciernen y a las fuentes utilizadas por ChatGPT para elaborar su respuesta. En este aspecto, OpenAI tampoco cooperó.

Cuando un chatbot comienza a decir disparates, se dice que está “alucinando”. Este es uno de los grandes desafíos de la inteligencia artificial generativa, junto con el respeto a los derechos de autor (no todos los textos en línea están libres de derechos), los sesgos en el entrenamiento del chatbot y las vulnerabilidades de seguridad informática.

En el pasado, Numerama ha visto cómo ChatGPT y otros chatbots generaban respuestas erróneas. Según el autor de estas líneas, la IA generativa le asignó compañeros imaginarios, o que ya no estaban en el cargo; también lo situó en un puesto que nunca ha ocupado; las fechas de empleo y los temas cubiertos tampoco siempre fueron precisos.

“Inventar información falsa es problemático de por sí. Pero cuando se trata de información falsa sobre personas, las consecuencias pueden ser graves”, comentó el abogado de NOYB. Para la asociación, ha llegado el momento de obligar a OpenAI a cumplir con el RGPD y considerar la imposición de una multa.

El problema planteado por NOYB no es nuevo. De hecho, esta deficiencia en el tratamiento de datos personales había comenzado a manifestarse en los meses siguientes a la disponibilidad pública de ChatGPT, en noviembre de 2022. Desde la primavera de 2023, empezaron a surgir críticas de este tipo, tanto en Italia como en Francia y en Estados Unidos.

BLOG