En este artículo trataremos el tema del Reglamento Europeo de IA 2024: ¿Qué cambia y cómo afecta?
El 22 de julio de 2024, el Diario Oficial de la Unión Europea publicó el Reglamento UE 2024/1689, adoptado el 13 de junio, que establece normas armonizadas en materia de inteligencia artificial (IA) dentro de los 27 Estados miembros de la Unión Europea. Este reglamento tiene como objetivo garantizar la seguridad y la protección de los derechos fundamentales, al tiempo que promueve la innovación tecnológica en beneficio de los ciudadanos y el desarrollo económico.
El Reglamento es de aplicación obligatoria y directa desde el 2 de agosto de 2026, aunque algunas disposiciones, como las prohibiciones, entrarán en vigor el 2 de febrero de 2025. Por su parte, las sanciones previstas deberán estar reguladas por los Estados miembros a partir del 2 de agosto de 2025.
Objetivos y ámbito del Reglamento
El principal objetivo de este reglamento es equilibrar el desarrollo tecnológico con la protección de los derechos fundamentales. Mientras que reconoce los beneficios potenciales de la IA en áreas como educación, sanidad y seguridad, también aborda los riesgos inherentes a ciertos usos de la tecnología.
La norma categoriza los sistemas de IA según su nivel de riesgo:
- Riesgo inaceptable: Aplicaciones que vulneran derechos fundamentales y que quedan prohibidas.
- Riesgo alto: Sistemas que requieren estrictas medidas de control y supervisión humana.
- Riesgo limitado o mínimo: Sistemas que deben cumplir requisitos de transparencia.
Prohibiciones establecidas
El Reglamento identifica aplicaciones de IA que quedan completamente prohibidas debido a su impacto negativo sobre los derechos fundamentales. Estas incluyen:
- Categorización biométrica basada en datos sensibles: Por ejemplo, clasificación basada en raza, opinión política o creencias religiosas.
- Captura indiscriminada de imágenes faciales: Especialmente en lugares públicos.
- Sistemas de puntuación ciudadana: Usados para evaluar comportamientos o cualidades de las personas.
- Reconocimiento de emociones: Prohibido en entornos laborales y educativos, salvo razones médicas o de seguridad.
- Actuación policial predictiva: Basada en perfiles individuales.
Uso de identificación biométrica por las fuerzas de seguridad
Aunque los sistemas de identificación biométrica en tiempo real están prohibidos, existen excepciones estrictamente reguladas para su uso por las fuerzas y cuerpos de seguridad (FCS). Dicho uso está permitido solo con:
- Autorización judicial o administrativa previa.
- Evaluación del impacto sobre derechos fundamentales.
- Aplicación en circunstancias excepcionales, como la búsqueda de personas desaparecidas o amenazas terroristas.
El incumplimiento de estas normas puede acarrear graves sanciones y la eliminación inmediata de datos recopilados sin autorización.
Sistemas de alto riesgo
El reglamento también establece una lista de aplicaciones de IA de alto riesgo debido a su posible impacto negativo en derechos fundamentales y procesos democráticos. Estos incluyen:
- Infraestructuras críticas.
- Sistemas educativos.
- Procesos de selección laboral.
- Servicios financieros, como evaluación crediticia.
- Sistemas utilizados en investigaciones policiales y judiciales.
Antes de su despliegue, estos sistemas deben someterse a evaluaciones de conformidad, garantizar supervisión humana y cumplir con estrictos requisitos de transparencia y ciberseguridad.
Transparencia y derechos ciudadanos
El Reglamento también establece obligaciones de transparencia para las empresas y gobiernos que utilicen sistemas de IA:
- Informar al ciudadano: Cuando un contenido ha sido generado o manipulado por IA.
- Derecho a reclamaciones: Los usuarios afectados podrán presentar quejas y solicitar compensaciones por vulneración de derechos.
Ejemplos prácticos incluyen sistemas como los filtros de spam o videojuegos que utilizan IA, los cuales están permitidos, siempre que cumplan con las obligaciones de información y transparencia.
Sanciones y autoridades de control
El reglamento establece un régimen sancionador que los Estados miembros deberán aplicar. Las sanciones pueden alcanzar:
- 35 millones de euros o el 7 % del volumen de negocios anual mundial por incumplimientos graves relacionados con datos.
- 15 millones de euros o el 3 % del volumen de negocios anual mundial por otros incumplimientos.
- 7,5 millones de euros o el 1,5 % del volumen de negocios anual mundial por suministro de información incorrecta o engañosa.
Cada país deberá designar una Autoridad Nacional de Control de la IA, encargada de garantizar el cumplimiento del reglamento y representar al Estado ante el Comité Europeo de IA.
Impacto y adaptación empresarial
Las empresas que desarrollen o utilicen IA deberán implementar medidas similares a las exigidas para la protección de datos, como programas de cumplimiento normativo (compliance) y evaluaciones de impacto. Además, los proveedores de sistemas de alto riesgo tendrán que garantizar la conformidad de sus productos antes de su lanzamiento al mercado.
En resumen, el Reglamento Europeo de IA establece un marco legal integral que protege los derechos fundamentales mientras fomenta la innovación. Su aplicación efectiva dependerá de la colaboración entre empresas, gobiernos y ciudadanos para garantizar un desarrollo tecnológico ético y responsable.
Si quieres mantenerte informado sobre temas similares, visita nuestro blog.
