ChatGPT dice cualquier cosa sobre los internautas y es atacado
Se avecinan nuevos problemas para OpenAI, la empresa detrás de ChatGPT. El activista austriaco Max Schrems, conocido por su activismo contra los gigantes de internet en cuestiones de datos personales, ha iniciado un proceso legal contra el creador del famoso chatbot.
¿Alguna vez te has preguntado qué sabe ChatGPT sobre ti? Probablemente los resultados no cumplieron con tus expectativas. Algo similar le ocurrió a Max Schrems. El activista austriaco también realizó el experimento y los resultados obtenidos fueron inapropiados. Sin embargo, en lugar de dejarlo pasar, decidió corregir la información inexacta.
Aquí es donde la situación se complicó. Según Schrems, sus solicitudes de corrección no fueron atendidas. “Aunque la fecha de nacimiento proporcionada por ChatGPT era incorrecta, OpenAI rechazó su solicitud de rectificar o eliminar los datos, argumentando que era imposible hacer correcciones”, se reporta.
Pero Max Schrems no es un usuario cualquiera. También es un activista que lidera una organización muy comprometida con la privacidad. Silicon Valley ha aprendido a temer a NOYB (None of Your Business), pues las acciones legales de esta ONG han desafiado repetidamente el marco transatlántico de protección de datos personales.
ChatGPT dice cualquier cosa y OpenAI no corrige
Y es ante la autoridad austriaca de protección de datos donde Max Schrems planea llevar a OpenAI. La empresa estadounidense, que diseñó el chatbot, está acusada de no respetar ciertas disposiciones del Reglamento General de Protección de Datos (RGPD), a pesar de estar plenamente vigente desde 2018.
Según NOYB, empresas como OpenAI “no pueden garantizar que los chatbots […] cumplan con la legislación de la UE al procesar datos sobre personas”. No obstante, el RGPD exige que los datos personales sean precisos, una norma que incluso precede al reglamento, datando de 1995.
Sin embargo, “OpenAI admite abiertamente que no es capaz de corregir información incorrecta en ChatGPT”, destaca la asociación. También la acusan de no poder o no saber “de dónde provienen los datos o qué datos almacena ChatGPT sobre personas individuales”. Esta situación se considera inaceptable, dada la influencia de ChatGPT.
Por lo tanto, se presentó una denuncia, como se anunció este lunes 29 de abril, para forzar a OpenAI a ofrecer respuestas más satisfactorias a Max Schrems, en lugar de rechazar sus peticiones. El activista también desea acceder a los datos que le conciernen y a las fuentes utilizadas por ChatGPT para elaborar su respuesta. En este aspecto, OpenAI tampoco cooperó.
Cuando un chatbot comienza a decir disparates, se dice que está “alucinando”. Este es uno de los grandes desafíos de la inteligencia artificial generativa, junto con el respeto a los derechos de autor (no todos los textos en línea están libres de derechos), los sesgos en el entrenamiento del chatbot y las vulnerabilidades de seguridad informática.
En el pasado, Numerama ha visto cómo ChatGPT y otros chatbots generaban respuestas erróneas. Según el autor de estas líneas, la IA generativa le asignó compañeros imaginarios, o que ya no estaban en el cargo; también lo situó en un puesto que nunca ha ocupado; las fechas de empleo y los temas cubiertos tampoco siempre fueron precisos.
“Inventar información falsa es problemático de por sí. Pero cuando se trata de información falsa sobre personas, las consecuencias pueden ser graves”, comentó el abogado de NOYB. Para la asociación, ha llegado el momento de obligar a OpenAI a cumplir con el RGPD y considerar la imposición de una multa.
El problema planteado por NOYB no es nuevo. De hecho, esta deficiencia en el tratamiento de datos personales había comenzado a manifestarse en los meses siguientes a la disponibilidad pública de ChatGPT, en noviembre de 2022. Desde la primavera de 2023, empezaron a surgir críticas de este tipo, tanto en Italia como en Francia y en Estados Unidos.
BLOG
La inteligencia artificial de código abierto: una solución adaptativa y segura
Un artículo de Le Monde nos alertó el 13/02: ¡las IA están fallando! Esas IA, que generaron tanto entusiasmo y excitación al principio, ¿necesitan ahora que tomemos distancia? ¿Existen riesgos...
ChatGPT, una novedosa herramienta de escritura en el escenario político
ChatGPT ha irrumpido en el ámbito académico y profesional, y ahora se adentra en el terreno político: los políticos lo utilizan para elaborar discursos y legislación, y algunos incluso aspiran...
En medio del furor por ChatGPT, China busca regular la inteligencia artificial
China impondrá una “inspección de seguridad” a las herramientas de inteligencia artificial, en medio de un frenesí en el país por parte de los gigantes de Internet para diseñar herramientas...
El Parlamento Europeo busca regular de manera más efectiva a ChatGPT
El proyecto europeo para la regulación de la inteligencia artificial avanzó un paso crucial el jueves al recibir la primera aprobación de los eurodiputados, quienes demandaron nuevas prohibiciones y una...
En una gira mundial destinada a calmar las preocupaciones sobre la IA, el creador de ChatGPT critica a la UE
Desde Brasil hasta Nigeria y desde Europa hasta Asia, Sam Altman, líder de OpenAI y mente detrás de ChatGPT, está llevando a cabo un recorrido global con el objetivo de...
Usa a ChatGPT como entrenador personal, y le va (muy) mal
Para un corredor apasionado, correr es más que simple ejercicio; es una pasión verdadera. Sin embargo, su desinterés por el entrenamiento de fuerza, crucial para su progreso, lo lleva a...