El Parlamento Europeo da luz verde al proyecto para regular la inteligencia artificial

La primera ley integral sobre Inteligencia Artificial del mundo está un poco más cerca. El Parlamento Europeo se ha convertido este miércoles en la primera asamblea del mundo en establecer los contornos de la nueva regulación, pionera a nivel mundial, cuyo contenido empezará a negociar con Consejo y Comisión Europea este mismo miércoles. “No hay tiempo que perder”, ha dicho el comisario de industria, Thierry Breton. La Eurocámara quiere que la vigilancia biométrica remota en la vía pública en tiempo real esté totalmente prohibida, que los sistemas de IA generativa como el ChatGPT tengan que notificar que los contenidos han sido generados por IA y que los sistemas de IA utilizados para influir en los votantes en las elecciones se consideren de alto riesgo.

“Enviamos un mensaje claro al mundo de qué hay que hacer, cómo podemos preservar las democracias al tiempo que preservamos la innovación”, ha destacado el coponente del informe, el socialdemócrata italiano Brando Benifei. El texto ha recibido un mayoritario respaldo al ser aprobado con 499 votos a favor, 28 en contra y 93 abstenciones. La propuesta lanzada por la Comisión Europea en abril de 2021 establece un planteamiento basado en el riesgo, con obligaciones para los proveedores y quienes desplieguen sistemas de IA en función del nivel de riesgo que esta tecnología pueda generar.

Proponía por ello prohibir los sistemas de IA con un nivel de riesgo inaceptable para la seguridad de las personas, como los utilizados para clasificación de personas en función de su comportamiento social o características personales. La Eurocámara exige ahora ampliar esa prohibición a otros usos intrusivos y discriminatorios de la IA como los sistemas de identificación biométrica a distancia ‘en tiempo real y ‘a posteriori’ en los espacios de acceso público. La idea ha salido adelante pese al intento hasta última hora del Partido Popular Europeo (PPE) de permitir el uso de la vigilancia masiva por parte de la policía en los casos de desaparición de menores y de terrorismo. Solo se podrá a posteriori y con autorización judicial.

El Parlamento también plantea prohibir los sistemas de categorización biométrica que utilicen características sensibles (por ejemplo, sexo, raza, etnia, estatus de ciudadanía, religión u orientación política), los sistemas policiales predictivos (basados en perfiles, localización o comportamientos delictivos anteriores), sistemas de reconocimiento de emociones en los servicios policiales, la gestión de fronteras, el lugar de trabajo y las instituciones educativas, así como la extracción no selectiva de imágenes faciales de Internet o de grabaciones de vídeovigilancia para crear bases de datos de reconocimiento facial porque entienden que viola los derechos humanos y el derecho a la intimidad.

“La IA plantea muchos interrogantes desde el punto de vista social, ético y económico. Pero ahora no es el momento de pulsar ningún ‘botón de pausa’. Al contrario, se trata de actuar con rapidez y asumir responsabilidades”, ha valorado Breton, quien ha subrayado que con el voto de este miércoles la Eurocámara se convierte en el primer parlamento del mundo en reclamar una “regulación exhaustiva” de la Inteligencia artificial. Dado que las nuevas normas no entrarían en vigor hasta 2026, la UE quiere negociar un gran pacto sobre IA con Estados Unidos mientras tanto, tal y como anunció el vicepresidente Valdis Dombrovkis. Breton, según ha anunciado, viajará en los próximos días a San Francisco para reunirse con el creador de Meta, Mark Zuckerberg, y Sam Altman de OpenAI.

Negociaciones interinstitucionales

El visto bueno del Parlamento Europeo no es, en todo caso, el final del camino aunque sí abre la puerta al inicio de negociaciones interinstitucionales con el Consejo. El primer diálogo interinstitucional a tres bandas tendrá lugar este mismo miércoles en Estrasburgo aunque será la presidencia española de la UE a partir del 1 de julio quien asuma el liderazgo de negociar este “importante expediente” con el objetivo de cerrar un acuerdo antes de finales de año. “Espero que entre los puntos clave figuren normas claras y proporcionadas sobre la IA generativa. Necesitamos requisitos efectivos de transparencia sobre los contenidos generados por IA y normas estrictas contra las ‘Deep fake’”, ha reivindicado Breton.

La regulación también plantea que los sistemas que puedan utilizarse en distintas aplicaciones se analicen y clasifiquen según el riesgo que supongan para los usuarios. De esta forma, los distintos niveles de peligro implicarán una mayor o menor regulación. En la clasificación de aplicaciones de alto riesgo están los sistemas de IA que supongan un daño significativo para la salud, la seguridad, los derechos fundamentales o el medio ambiente de las personas. También aquellos sistemas utilizados para influir en los votantes y en el resultado de las elecciones así como en los sistemas de recomendación utilizados por las plataformas de medios sociales (con más de 45 millones de usuarios).

La normativa que pide la Eurocámara también exige a los proveedores de modelos fundacionales, una innovación en el ámbito de la IA, tengan la obligación de evaluar y mitigar los posibles riesgos (para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia y el Estado de Derecho) y registrar sus modelos en la base de datos de la UE antes de comercializarlos en la UE.

En cuanto a los sistemas de IA generativa basados en esos modelos, como el ChatGPT, tendrán que cumplir unos requisitos adicionales de transparencia que incluyen la identificación del contenido como generado por IA. El objetivo es facilitar la distinción de las falsificaciones de las imágenes auténticas. También tendrán que publicar resúmenes detallados de los datos protegidos por derechos de autor que han sido utilizados para su desarrollo. Los eurodiputados quieren además que los ciudadanos puedan presentar reclamaciones sobre estos sistemas y que se garantice su derecho a obtener explicaciones sobre decisiones generadas por sistemas de alto riesgo que menoscaben significativamente los derechos fundamentales.