El Parlamento Europeo busca regular de manera más efectiva a ChatGPT
El proyecto europeo para la regulación de la inteligencia artificial avanzó un paso crucial el jueves al recibir la primera aprobación de los eurodiputados, quienes demandaron nuevas prohibiciones y una mejor consideración del fenómeno ChatGPT.
La Unión Europea aspira a ser la primera en el mundo en contar con un marco jurídico completo para limitar los excesos de la inteligencia artificial (IA), al mismo tiempo que protege la innovación.
Hace dos años, Bruselas propuso un proyecto de regulación ambicioso, pero su revisión se ha prolongado, retrasada en los últimos meses por controversias sobre los peligros de las IA generativas capaces de crear textos o imágenes.
Los Estados miembros de la UE solo definieron su posición a finales de 2022.
Los eurodiputados ratificaron su postura en una votación en comisión el jueves por la mañana en Estrasburgo, que deberá ser confirmada en sesión plenaria en junio. Luego comenzará una compleja negociación entre las distintas instituciones.
“Hemos recibido más de 3.000 enmiendas. Basta con encender la televisión, cada día vemos la importancia de este tema para los ciudadanos”, dijo Dragos Tudorache, co-ponente del texto.
“Europa quiere un enfoque ético, centrado en el ser humano”, resumió Brando Benifei, también co-ponente.
De gran complejidad técnica, los sistemas de inteligencia artificial fascinan tanto como preocupan.
Si bien pueden salvar vidas al permitir un avance significativo en diagnósticos médicos, también son explotados por regímenes autoritarios para realizar vigilancia masiva de los ciudadanos.
El gran público descubrió su enorme potencial a finales del año pasado con el lanzamiento de ChatGPT de la compañía californiana OpenAI, capaz de redactar ensayos originales, poemas o traducciones en segundos.
Sin embargo, la difusión en redes sociales de imágenes falsas, pero increíblemente realistas, creadas a partir de aplicaciones como Midjourney, ha alertado sobre los riesgos de manipulación de la opinión pública.
Científicos incluso han pedido una moratoria en el desarrollo de los sistemas más potentes, hasta que estén mejor regulados por ley.
La posición del Parlamento confirma en líneas generales el enfoque de la Comisión. El texto se inspira en las regulaciones existentes en materia de seguridad de productos e impondrá controles basados principalmente en las empresas.
– El ser humano debe mantener el control –
El núcleo del proyecto consiste en una lista de reglas impuestas solo a las aplicaciones consideradas de “alto riesgo” por las propias empresas, basadas en los criterios del legislador. Para la Comisión Europea, se trataría de todos los sistemas utilizados en áreas sensibles como infraestructuras críticas, educación, recursos humanos, mantenimiento del orden o gestión de migraciones…
La Unión Europea aspira a liderar a nivel mundial en la adopción de un marco legal integral que restrinja los abusos de la inteligencia artificial (IA), promoviendo al mismo tiempo la innovación.
Dentro de las responsabilidades establecidas se incluye asegurar la supervisión humana sobre las máquinas, la creación de documentación técnica y la implementación de un sistema de gestión de riesgos.
Las autoridades de supervisión designadas en cada país miembro serán las encargadas de monitorear el cumplimiento de estas obligaciones.
Los eurodiputados buscan restringir estas obligaciones exclusivamente a productos que representen una amenaza para la seguridad, la salud o los derechos fundamentales.
El Parlamento Europeo desea también abordar de manera más efectiva la IA generativa, como ChatGPT, solicitando un régimen específico de obligaciones que básicamente repitan las establecidas para los sistemas de alto riesgo.
Además, los eurodiputados exigen que los proveedores implementen salvaguardas contra contenidos ilegales y divulguen los datos (textos científicos, música, fotografías, etc.) protegidos por derechos de autor usados para desarrollar sus algoritmos.
La propuesta de la Comisión, introducida en abril de 2021, ya contempla la regulación de sistemas de inteligencia artificial que interactúan con humanos. Estos sistemas deberán informar a los usuarios de que están interactuando con una máquina y las aplicaciones generadoras de imágenes deberán indicar que estas fueron creadas de forma artificial.
Las prohibiciones serán excepcionales, enfocándose en aplicaciones que contravengan los valores europeos, como la calificación ciudadana o los sistemas de vigilancia masiva empleados en China.
Los eurodiputados desean prohibir los sistemas de reconocimiento emocional y eliminar las excepciones que permiten la identificación biométrica remota de personas en espacios públicos por parte de las autoridades.
Asimismo, buscan prohibir la recopilación masiva de fotografías en Internet para el entrenamiento de algoritmos sin el consentimiento de los sujetos involucrados.
BLOG
La inteligencia artificial de código abierto: una solución adaptativa y segura
Un artículo de Le Monde nos alertó el 13/02: ¡las IA están fallando! Esas IA, que generaron tanto entusiasmo y excitación al principio, ¿necesitan ahora que tomemos distancia? ¿Existen riesgos...
ChatGPT, una novedosa herramienta de escritura en el escenario político
ChatGPT ha irrumpido en el ámbito académico y profesional, y ahora se adentra en el terreno político: los políticos lo utilizan para elaborar discursos y legislación, y algunos incluso aspiran...
En medio del furor por ChatGPT, China busca regular la inteligencia artificial
China impondrá una “inspección de seguridad” a las herramientas de inteligencia artificial, en medio de un frenesí en el país por parte de los gigantes de Internet para diseñar herramientas...
El Parlamento Europeo busca regular de manera más efectiva a ChatGPT
El proyecto europeo para la regulación de la inteligencia artificial avanzó un paso crucial el jueves al recibir la primera aprobación de los eurodiputados, quienes demandaron nuevas prohibiciones y una...
En una gira mundial destinada a calmar las preocupaciones sobre la IA, el creador de ChatGPT critica a la UE
Desde Brasil hasta Nigeria y desde Europa hasta Asia, Sam Altman, líder de OpenAI y mente detrás de ChatGPT, está llevando a cabo un recorrido global con el objetivo de...
Usa a ChatGPT como entrenador personal, y le va (muy) mal
Para un corredor apasionado, correr es más que simple ejercicio; es una pasión verdadera. Sin embargo, su desinterés por el entrenamiento de fuerza, crucial para su progreso, lo lleva a...