El Parlamento Europeo busca regular de manera más efectiva a ChatGPT

El proyecto europeo para la regulación de la inteligencia artificial avanzó un paso crucial el jueves al recibir la primera aprobación de los eurodiputados, quienes demandaron nuevas prohibiciones y una mejor consideración del fenómeno ChatGPT.

La Unión Europea aspira a ser la primera en el mundo en contar con un marco jurídico completo para limitar los excesos de la inteligencia artificial (IA), al mismo tiempo que protege la innovación.

Hace dos años, Bruselas propuso un proyecto de regulación ambicioso, pero su revisión se ha prolongado, retrasada en los últimos meses por controversias sobre los peligros de las IA generativas capaces de crear textos o imágenes.

Los Estados miembros de la UE solo definieron su posición a finales de 2022.

Los eurodiputados ratificaron su postura en una votación en comisión el jueves por la mañana en Estrasburgo, que deberá ser confirmada en sesión plenaria en junio. Luego comenzará una compleja negociación entre las distintas instituciones.

“Hemos recibido más de 3.000 enmiendas. Basta con encender la televisión, cada día vemos la importancia de este tema para los ciudadanos”, dijo Dragos Tudorache, co-ponente del texto.

“Europa quiere un enfoque ético, centrado en el ser humano”, resumió Brando Benifei, también co-ponente.

De gran complejidad técnica, los sistemas de inteligencia artificial fascinan tanto como preocupan.

Si bien pueden salvar vidas al permitir un avance significativo en diagnósticos médicos, también son explotados por regímenes autoritarios para realizar vigilancia masiva de los ciudadanos.

El gran público descubrió su enorme potencial a finales del año pasado con el lanzamiento de ChatGPT de la compañía californiana OpenAI, capaz de redactar ensayos originales, poemas o traducciones en segundos.

Sin embargo, la difusión en redes sociales de imágenes falsas, pero increíblemente realistas, creadas a partir de aplicaciones como Midjourney, ha alertado sobre los riesgos de manipulación de la opinión pública.

Científicos incluso han pedido una moratoria en el desarrollo de los sistemas más potentes, hasta que estén mejor regulados por ley.

La posición del Parlamento confirma en líneas generales el enfoque de la Comisión. El texto se inspira en las regulaciones existentes en materia de seguridad de productos e impondrá controles basados principalmente en las empresas.

– El ser humano debe mantener el control –
El núcleo del proyecto consiste en una lista de reglas impuestas solo a las aplicaciones consideradas de “alto riesgo” por las propias empresas, basadas en los criterios del legislador. Para la Comisión Europea, se trataría de todos los sistemas utilizados en áreas sensibles como infraestructuras críticas, educación, recursos humanos, mantenimiento del orden o gestión de migraciones…

La Unión Europea aspira a liderar a nivel mundial en la adopción de un marco legal integral que restrinja los abusos de la inteligencia artificial (IA), promoviendo al mismo tiempo la innovación.
Dentro de las responsabilidades establecidas se incluye asegurar la supervisión humana sobre las máquinas, la creación de documentación técnica y la implementación de un sistema de gestión de riesgos.

Las autoridades de supervisión designadas en cada país miembro serán las encargadas de monitorear el cumplimiento de estas obligaciones.

Los eurodiputados buscan restringir estas obligaciones exclusivamente a productos que representen una amenaza para la seguridad, la salud o los derechos fundamentales.

El Parlamento Europeo desea también abordar de manera más efectiva la IA generativa, como ChatGPT, solicitando un régimen específico de obligaciones que básicamente repitan las establecidas para los sistemas de alto riesgo.

Además, los eurodiputados exigen que los proveedores implementen salvaguardas contra contenidos ilegales y divulguen los datos (textos científicos, música, fotografías, etc.) protegidos por derechos de autor usados para desarrollar sus algoritmos.

La propuesta de la Comisión, introducida en abril de 2021, ya contempla la regulación de sistemas de inteligencia artificial que interactúan con humanos. Estos sistemas deberán informar a los usuarios de que están interactuando con una máquina y las aplicaciones generadoras de imágenes deberán indicar que estas fueron creadas de forma artificial.

Las prohibiciones serán excepcionales, enfocándose en aplicaciones que contravengan los valores europeos, como la calificación ciudadana o los sistemas de vigilancia masiva empleados en China.

Los eurodiputados desean prohibir los sistemas de reconocimiento emocional y eliminar las excepciones que permiten la identificación biométrica remota de personas en espacios públicos por parte de las autoridades.

Asimismo, buscan prohibir la recopilación masiva de fotografías en Internet para el entrenamiento de algoritmos sin el consentimiento de los sujetos involucrados.

BLOG