Publicaciones

Comienza el contenido principal

El Parlamento Europeo perfila su posición sobre el próximo Reglamento de Inteligencia Artificial

| Publicaciones | Ciberseguridad

Análisis de la primera propuesta de ley europea sobre inteligencia artificial (IA)

El pasado jueves, las Comisiones de Mercado Interior y de Libertades Civiles del Parlamento Europeo aprobaron un proyecto de mandato de negociación sobre la Propuesta de Reglamento de IA, el primer texto legal en abordar de forma sistemática los retos presentados por la Inteligencia Artificial (en adelante, “IA”).

En sus enmiendas a la propuesta de la Comisión, los eurodiputados consolidan la visión de una IA supervisada por personas, segura, transparente, rastreable, no discriminatoria y respetuosa con el medio ambiente. También propone una definición uniforme de la IA diseñada para ser tecnológicamente neutra, de modo que pueda aplicarse a los sistemas de IA actualmente existentes, pero también a aquellos que puedan desarrollarse en el futuro.

El Reglamento de IA: enfoque basado en el riesgo

La Propuesta de Reglamento de IA, presentada en abril de 2021 por la Comisión Europea, pretende regular de forma conjunta la totalidad de la cadena de valor de los sistemas de IA que presenten riesgos para los derechos y libertades de los ciudadanos.

En este sentido, el texto de la Propuesta distinguía cuatro tipos de sistemas: los de riesgo mínimo (como filtros de spam); los de riesgo limitado (tales como sistemas de deepfakes); los de riesgo alto (entre los que se encuentran los sistemas de identificación biométrica en remoto); y los sistemas prohibidos (como las prácticas manipulativas).

Principales novedades del texto recién aprobado por el Parlamento Europeo 

El texto aprobado por los eurodiputados difiere en algunas cuestiones respecto del que presentó la Comisión hace más de dos años. Así, se prevén novedades para todas las categorías de sistemas de IA, ya sea por la previsión de nuevos tipos de sistemas, o por la inclusión de nuevas obligaciones.

  • Prácticas prohibidas: a la lista de sistemas prohibidos incluidos en el texto original se añaden otros, como los sistemas policiales predictivos (que tratan de anticipar conductas delictivas basándose en la realización de perfiles o en la conducta delictiva pasada); o los sistemas que tratan de reconocer emociones en entornos laborales, educativos o en la administración de justicia.
  • Sistemas IA de alto riesgo: también se ha ampliado el número de sistemas incluidos en esta categoría. Ello supone asumir obligaciones muy intensas, tales como la de implementar un sistema específico de gestión de riesgo o garantizar un nivel de transparencia suficiente. Así, se propone que los algoritmos de recomendación de las plataformas online de gran tamaño designadas por la Comisión en el marco del Reglamento de Servicios Digitales; o los sistemas que puedan influenciar a votantes en el marco de campañas electorales, sean incluidos en esta categoría de sistemas IA.
  • Sistemas IA de propósito general: los sistemas de IA conversacionales, tales como Chat GPT, pasarán a estar sujetos a obligaciones relativas a la transparencia: el contenido que produzcan deberá indicar de forma clara que ha sido creado empleando un sistema de IA, y deberán revelar el contenido protegido por derechos de propiedad intelectual que ha sido usado para el “entrenamiento” de estos sistemas.
  • Apoyo a la innovación y protección de los derechos de los ciudadanos: el Parlamento Europeo ha incluido exenciones para actividades de investigación y componentes de IA bajo licencias de código abierto.
Próximos pasos

Esta propuesta de mandato, una vez aprobada por el Parlamento Europeo (lo que se espera que ocurra entre el 12 y 15 de junio), representará la posición formal del Parlamento en sus negociaciones con el Consejo y la Comisión a fin de alcanzar un futuro acuerdo interinstitucional. Una vez se alcance dicho acuerdo, deberá ser objeto de votación por parte de los co-legisladores (Parlamento y Consejo) y entonces el Reglamento de IA verá la luz.

Puede descargar el documento desde aquí.

Para más información puede contactar con:

Vicente Moret | Of Counsel de Andersen

vicente.moret@es.Andersen.com

Cristina Durante | Asociada de Andersen

cristina.durante@es.Andersen.com

Fin del contenido principal