El Capítulo III del Reglamento (UE) 2024/1689 de Inteligencia Artificial regula los sistemas de inteligencia artificial de alto riesgo (HRAIS, por sus siglas en inglés -High Risk Artificial Intelligence Risk-). Se trata de aquellos sistemas que pueden afectar a la salud o a los derechos fundamentales de las personas, por lo que deben cumplir unos requisitos y obligaciones concretas para acceder al mercado de la Unión Europea; además, están sujetos a supervisión por autoridades administrativas.
Para la introducción en el mercado requieren, como norma general, una autoevaluación técnica y legal, conforme al procedimiento del Anexo VII. En los sectores armonizados del Anexo I, Sección A, se regirán por su normativa especial.
|
|
Sistemas de gestión de riesgos (artículo 9) |
|
|
|
Datos y Gobernanza de datos (artículo 10) |
|
|
|
Documentación técnica (artículo 11) |
|
|
|
Conservación de registros (artículo 12) |
|
|
|
Transparencia (artículo 13) |
|
|
|
Supervisión humana (artículo 14) |
|
|
|
Precisión solidez y ciberseguridad (artículo 15) |
La supervisión, inspección y sanción en la poscomercialización se llevará a cabo por diferentes Autoridades de Vigilancia de Mercado (AVMs), según el objeto y efectos del sistema de IA: AESIA, AEPD, Banco de España, Consejo General del Poder Judicial y las AVMs de los sectores armonizados del Anexo I, Sección A del Reglamento.
 |
Sistema de IA que regula el tráfico en una ciudad mediante la adaptación del estado de los semáforos en función del tráfico y de los peatones. |
|
 |
Sistema de IA que analiza en tiempo real las actividades del alumnado durante un examen con el objetivo de saber si están copiando. |
|
 |
Sistema de IA que analiza de forma constante y autónoma la calidad y potabilidad del agua de una ciudad, haciendo las correcciones necesarias para alcanzar su potabilidad. |
|
 |
Juguete infantil que se comunica con el niño o niña por medio de voz y que habla con él o ella con el fin de animar cuando estén tristes. |
|
Este anexo enumera diversas leyes de armonización de la UE basados en el nuevo marco legislativo. Se trata de actos legislativos que abarcan una gran variedad de ámbitos y que tienen como objeto normalizar las normas en todos los Estados miembros.
Componentes de seguridad de productos, sólo en aquellos productos ya sujetos a evaluación por terceros en sectores armonizados:
|
|
Industriales (máquinas, ascensores, sistemas de protección -epis-, equipos a presión o aparatos a gas) |
|
|
|
Juguetes |
|
|
|
Embarcaciones de recreo |
|
|
|
Equipos radioeléctricos |
|
|
|
Para transporte por cable |
|
|
|
Sanitarios, incluyendo diagnósticos in vitro |
|
|
|
Transportes (aviación, ferroviario, equipos marinos y homologación de vehículos a motor de 2 y 3 ruedas y agrícolas) |
Sistemas de IA de alto riesgo a que se refiere el artículo 6, apartado 2.
| 1. Biometría no prohibida: Sistemas de IA que identifican remotamente, que categorizan sobre la base de características sensibles o reconocen emociones. | ||
|
2. Infraestructuras críticas: si son elementos de seguridad en infraestructuras de tráfico rodado o suministro de gas, agua, calefacción o electricidad. |
||
|
3. Educación y formación profesional: si decide la admisión, evalúa el aprendizaje o el nivel de educación que recibirá, o si detecta comportamientos prohibidos en exámenes. |
||
| 4. Empleo, gestión de los trabajadores y acceso al autoempleo: Si decide la contratación, filtra y evalúa candidatos, o si decide condiciones de trabajo, tareas, el rendimiento, ascensos o despidos. | ||
|
5. Acceso a servicios privados esenciales y a servicios y prestaciones públicos esenciales y disfrute de estos servicios y prestaciones: como la asistencia sanitaria, incluyendo la reducción o retirada de dichos servicios. Además, si evalúa la solvencia crediticia o evalúa riesgos y fija precios en seguros de vida y salud. También, si evalúa llamadas de emergencia y prioriza servicios. |
||
|
6. Garantías de cumplimiento del Derecho: Si evalúa pruebas, o el riesgo de ser víctima, o que alguien cometa un delito. También si elabora perfiles. |
||
|
7. Migración, asilo y gestión del control fronterizo: Si ayuda a las autoridades como herramienta, evalúa riesgos para la seguridad o la salud, o si examina solicitudes. |
||
| 8. Administración de justicia y procesos democráticos: Si ayuda a los Jueces a investigar o a interpretar hechos o la Ley. También si se utiliza para influir el resultado de unas elecciones o en el comportamiento electoral de votantes, salvo que se utilice para organizar, optimizar o estructurar la logística en campañas electorales. |
En nuestra sección de Actualidad podrás encontrar información sobre los eventos, charlas y conferencias más relevantes en el ámbito de la inteligencia artificial.
Preguntas y respuestas sobre el Reglamento de IA: artículo 50
Directrices sobre el alcance de las obligaciones de los proveedores...
Usamos cookies de terceros con fines analíticos, en resumen solo usamos las cookies de Google Analytics para poder analizar nuestro tráfico.
