El Capítol III del Reglament (UE) 2024/1689 d'Intel·ligència Artificial regula els sistemes d'intel·ligència artificial d'alt risc (HRAIS, per les seves sigles en anglès -High Risk Artificial Intelligence Risk-). Es tracta d'aquells sistemes que poden afectar de la salut o als drets fonamentals de les persones, per la qual cosa han de complir uns requisits i obligacions concretes per a accedir al mercat de la Unió Europea; a més, estan subjectes a supervisió per autoritats administratives.
Per a la introducció en el mercat requereixen, com a norma general, una autoavaluació tècnica i legal, conforme al procediment de l'Annex VII. En els sectors harmonitzats de l'Annex I, Secció A, es regiran per la seva normativa especial.
|
|
Sistemes de gestió de riscos (article 9) |
|
|
|
Dades i Governança de dades (article 10) |
|
|
|
Documentació tècnica (article 11) |
|
|
|
Conservació de registres (article 12) |
|
|
|
Transparència (article 13) |
|
|
|
Supervisió humana (article 14) |
|
|
|
Precisió solidesa i ciberseguretat (article 15) |
La supervisió, inspecció i sanció en la poscomercialización es durà a terme per diferents Autoritats de Vigilància de Mercat (AVMs), segons l'objecte i efectes del sistema de IA: AESIA, AEPD, Banc d'Espanya, Consell General del Poder Judicial i les AVMs dels sectors harmonitzats de l'Annex I, Secció A del Reglament.
 |
Sistema de IA que regula el trànsit en una ciutat mitjançant l'adaptació de l'estat dels semàfors en funció del trànsit i dels vianants. |
|
 |
Sistema de IA que analitza en temps real les activitats de l'alumnat durant un examen amb l'objectiu de saber si estan copiant. |
|
 |
Sistema de IA que analitza de manera constant i autònoma la qualitat i potabilitat de l'aigua d'una ciutat, fent les correccions necessàries per a aconseguir la seva potabilitat. |
|
 |
Joguina infantil que es comunica amb el nen o nena per mitjà de veu i que parla amb ell o ella amb la finalitat d'animar quan estiguin tristes. |
|
Aquest annex enumera diverses lleis d'harmonització de la UE basats en el nou marc legislatiu. Es tracta d'actes legislatius que abasten una gran varietat d'àmbits i que tenen com a objecte normalitzar les normes en tots els Estats membres.
Components de seguretat de productes, només en aquells productes ja subjectes a avaluació per tercers en sectors harmonitzats:
|
|
Industrials (màquines, ascensors, sistemes de protecció -epis-, equips a pressió o aparells a gas) |
|
|
|
Joguines |
|
|
|
Embarcacions d'esbarjo |
|
|
|
Equips radioelèctrics |
|
|
|
Per a transport per cable |
|
|
|
Sanitaris, incloent diagnòstics in vitro |
|
|
|
Transports (aviació, ferroviari, equips marins i homologació de vehicles de motor de 2 i 3 rodes i agrícoles) |
Sistemes de IA d'alt risc a què es refereix l'article 6, apartat 2.
| 1. Biometria no prohibida: Sistemes de IA que identifiquen remotament, que categoritzen sobre la base de característiques sensibles o reconeixen emocions. | ||
|
2. Infraestructures crítiques: si són elements de seguretat en infraestructures de trànsit rodat o subministrament de gas, aigua, calefacció o electricitat. |
||
|
3. Educació i formació professional: si decideix l'admissió, avalua l'aprenentatge o el nivell d'educació que rebrà, o si detecta comportaments prohibits en exàmens. |
||
| 4. Ocupació, gestió dels treballadors i accés a l'autoocupació: Si decideix la contractació, filtra i avalua candidats, o si decideix condicions de treball, tasques, el rendiment, ascensos o acomiadaments. | ||
|
5. Accés a serveis privats essencials i a serveis i prestacions públics essencials i gaudi d'aquests serveis i prestacions: com l'assistència sanitària, incloent la reducció o retirada d'aquests serveis. A més, si avalua la solvència crediticia/creditícia o avalua riscos i fixa preus en assegurances de vida i salut. També, si avalua anomenades d'emergència i prioritza serveis. |
||
|
6. Garanties de compliment del Dret: Si avalua proves, o el risc de ser víctima, o que algú cometi un delicte. També si elabora perfils. |
||
|
7. Migració, asil i gestió del control fronterer: Si ajuda a les autoritats com a eina, avalua riscos per a la seguretat o la salut, o si examina sol·licituds. |
||
| 8. Administració de justícia i processos democràtics: Si ajuda als Jutges a investigar o a interpretar fets o la Llei. També si s'utilitza per a influir el resultat d'unes eleccions o en el comportament electoral de votants, tret que s'utilitzi per a organitzar, optimitzar o estructurar la logística en campanyes electorals. |
En la nostra secció d'Actualitat podràs trobar informació sobre els esdeveniments, xerrades i conferències més rellevants en l'àmbit de la intel·ligència artificial.
L'informe sobre Desenvolupament Humà de les Nacions Unides reconeix el...
Espanya destaca en desenvolupament normatiu o formació de graduats en...
Usem cookies de tercers amb finalitats analítics, en resum només usem les cookies de Google Analytics per a poder analitzar el nostre trànsit.
