Grupo Aseguranza

La Eurocámara ha aprobado la Ley de Inteligencia Artificial, una normativa que garantizará la seguridad y el respeto de los derechos fundamentales al tiempo que impulsa la innovación. El Reglamento, acordado por los Estados miembros en diciembre de 2023, ha sido respaldado con 523 votos a favor, 46 en contra y 49 abstenciones.

Para su entrada en vigor ya solo queda la ratificación formal de los Estados. Cuando todos den el visto bueno, se convertirá en la primera ley integral del mundo que regula la IA.

Esta normativa prohibirá ciertas aplicaciones de IA que atentan contra los derechos de la ciudadanía, como los sistemas de categorización biométrica basados en características sensibles y la captura indiscriminada de imágenes faciales de internet o grabaciones de cámaras de vigilancia para crear bases de datos de reconocimiento facial. También se prohibirán el reconocimiento de emociones en el lugar de trabajo y en las escuelas, los sistemas de puntuación ciudadana, la actuación policial predictiva (cuando se base únicamente en el perfil de una persona o en la evaluación de sus características) y la IA que manipule el comportamiento humano o explote las vulnerabilidades de las personas. 

El uso de sistemas de identificación biométrica por parte de las fuerzas de seguridad queda prohibido a priori, salvo en situaciones muy concretas y bien definidas. También se prevén obligaciones claras para otros sistemas de IA de alto riesgo, como son el uso en infraestructuras críticas, la educación y la formación profesional, el empleo, los servicios públicos y privados esenciales (sanidad o banca), determinados sistemas de las fuerzas de seguridad, la migración y la gestión aduanera, la justicia y los procesos democráticos (como influir en las elecciones). Estos sistemas deben evaluar y reducir los riesgos, mantener registros de uso, ser transparentes y precisos y contar con supervisión humana.

Los sistemas de IA de uso general y los modelos en los que se basan deben cumplir ciertos requisitos de transparencia, respetar la legislación de la UE sobre derechos de autor y publicar resúmenes detallados del contenido usado para entrenar sus modelos. Además, las imágenes, contenidos de audio o de vídeo artificiales o manipulados deberán etiquetarse claramente como tales.

También se ha acordado poner a disposición de las pymes y de las empresas emergentes espacios controlados de pruebas y ensayos en condiciones reales a nivel nacional para que puedan desarrollar y entrenar la IA innovadora antes de su comercialización.

Si quiere recibir diariamente y GRATIS noticias como esta, pinche aquí.