El Capítulo III del Reglamento (UE) 2024/1689 de Inteligencia Artificial regula los sistemas de inteligencia artificial de alto riesgo (HRAIS, por sus siglas en inglés -High Risk Artificial Intelligence Risk-). Se trata de aquellos sistemas que pueden afectar a la salud o a los derechos fundamentales de las personas, por lo que deben cumplir unos requisitos y obligaciones concretas para acceder al mercado de la Unión Europea; además, están sujetos a supervisión por autoridades administrativas.
Para la introducción en el mercado requieren, como norma general, una autoevaluación técnica y legal, conforme al procedimiento del Anexo VII. En los sectores armonizados del Anexo I, Sección A, se regirán por su normativa especial.
|
|
Sistemas de gestión de riesgos (artículo 9) |
|
|
|
Datos y Gobernanza de datos (artículo 10) |
|
|
|
Documentación técnica (artículo 11) |
|
|
|
Conservación de registros (artículo 12) |
|
|
|
Transparencia (artículo 13) |
|
|
|
Supervisión humana (artículo 14) |
|
|
|
Precisión solidez y ciberseguridad (artículo 15) |
La supervisión, inspección y sanción en la poscomercialización se llevará a cabo por diferentes Autoridades de Vigilancia de Mercado (AVMs), según el objeto y efectos del sistema de IA: AESIA, AEPD, Banco de España, Consejo General del Poder Judicial y las AVMs de los sectores armonizados del Anexo I, Sección A del Reglamento.
 |
Sistema de IA que regula el tráfico en una ciudad mediante la adaptación del estado de los semáforos en función del tráfico y de los peatones. |
|
 |
Sistema de IA que analiza en tiempo real las actividades del alumnado durante un examen con el objetivo de saber si están copiando. |
|
 |
Sistema de IA que analiza de forma constante y autónoma la calidad y potabilidad del agua de una ciudad, haciendo las correcciones necesarias para alcanzar su potabilidad. |
|
 |
Juguete infantil que se comunica con el niño o niña por medio de voz y que habla con él o ella con el fin de animar cuando estén tristes. |
|
Este anexo enumera diversas leyes de armonización de la UE basados en el nuevo marco legislativo. Se trata de actos legislativos que abarcan una gran variedad de ámbitos y que tienen como objeto normalizar las normas en todos los Estados miembros.
Componentes de seguridad de productos, sólo en aquellos productos ya sujetos a evaluación por terceros en sectores armonizados:
|
|
Industriales (máquinas, ascensores, sistemas de protección -epis-, equipos a presión o aparatos a gas) |
|
|
|
Juguetes |
|
|
|
Embarcaciones de recreo |
|
|
|
Equipos radioeléctricos |
|
|
|
Para transporte por cable |
|
|
|
Sanitarios, incluyendo diagnósticos in vitro |
|
|
|
Transportes (aviación, ferroviario, equipos marinos y homologación de vehículos a motor de 2 y 3 ruedas y agrícolas) |
Sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2.
| 1. Biometría no prohibida: Sistemas de IA que identifican remotamente, que categorizan sobre la base de características sensibles o reconocen emociones. | ||
|
2. Infraestructuras críticas: si son elementos de seguridad en infraestructuras de tráfico rodado o suministro de gas, agua, calefacción o electricidad. |
||
|
3. Educación y formación profesional: si decide la admisión, evalúa el aprendizaje o el nivel de educación que recibirá, o si detecta comportamientos prohibidos en exámenes. |
||
| 4. Empleo, gestión de los trabajadores y acceso al autoempleo: Si decide la contratación, filtra y evalúa candidatos, o si decide condiciones de trabajo, tareas, el rendimiento, ascensos o despidos. | ||
|
5. Acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales y disfrute de estos servicios y prestaciones: como la asistencia sanitaria, incluyendo la reducción o retirada de dichos servicios. Además, si evalúa la solvencia crediticia o evalúa riesgos y fija precios en seguros de vida y salud. También, si evalúa llamadas de emergencia y prioriza servicios. |
||
|
6. Garantías de cumplimiento del Derecho: Si evalúa pruebas, o el riesgo de ser víctima, o que alguien cometa un delito. También si elabora perfiles. |
||
|
7. Migración, asilo y gestión del control fronterizo: Si ayuda a las autoridades como herramienta, evalúa riesgos para la seguridad o la salud, o si examina solicitudes. |
||
| 8. Administración de justicia y procesos democráticos: Si ayuda a los Jueces a investigar o a interpretar hechos o la Ley. También si se utiliza para influir el resultado de unas elecciones o en el comportamiento electoral de votantes, salvo que se utilice para organizar, optimizar o estructurar la logística en campañas electorales. |
En nuestra sección de Actualidad podrás encontrar información sobre los eventos, charlas y conferencias más relevantes en el ámbito de la inteligencia artificial.
Recursos útiles para la alfabetización en IA
El artículo 4 del Reglamento europeo de inteligencia artificial exige...
El Reglamento Europeo de Inteligencia Artificial: Sistemas Prohibidos
Usamos cookies de terceros con fines analíticos, en resumen solo usamos las cookies de Google Analytics para poder analizar nuestro tráfico.
