L'article 4 del Reglament europeu d'intel·ligència artificial exigeix als proveïdors i implementadors de sistemes de IA que garanteixin un nivell suficient d'alfabetització en matèria de IA del seu personal i d'altres persones que tracten amb sistemes de IA en el seu nom.
Definicions |
Compliment |
Enfocament |
| Els proveïdors i implementadors de sistemes de IA han d'adoptar mesures per a garantir un nivell suficient d'alfabetització en matèria de IA del seu personal i d'altres persones que s'ocupin del funcionament i l'ús dels sistemes de IA en el seu nom. Han de fer-ho tenint en compte els seus coneixements tècnics, experiència, educació i formació del personal i altres persones, així com el context en el qual s'utilitzaran els sistemes de IA i les persones en les quals s'utilitzaran els sistemes de IA. |
|
El concepte d'alfabetització en matèria de IA esmentat en l'article 4 del Reglament de IA es basa en la definició del terme que figura en l'article 3, apartat 56, segons el qual:
«alfabetització en matèria de IA»: capacitats, coneixements i comprensió que permeten als proveïdors, implementadors i persones afectades, tenint en compte els seus respectius drets i obligacions en el context del present Reglament, realitzar un desplegament informat dels sistemes de IA, així com sensibilitzar sobre les oportunitats i els riscos de la IA i els possibles danys que pot causar. |
|
L'article 4 del Reglament de IA és una disposició clau per a garantir que tots els proveïdors i responsables del desplegament de sistemes de IA dotin al seu personal de les capacitats, els coneixements i la comprensió adequats del sistema o sistemes proporcionats o desplegats. Això afecta a qualsevol persona de l'organització que s'ocupi directament d'un sistema de IA i reforça les disposicions de transparència (article 13) i supervisió humana (article 14) incloses en el Reglament.
Al mateix temps, l'article 4 contribueix indirectament a la protecció de les persones afectades, ja que garanteix una aplicació efectiva de les normes del Regalmento de IA. «Persones que s'ocupen del funcionament i l'ús de sistemes de IA en nom de proveïdors/desplegadores» significa que no es tracta d'empleats, sinó de persones que, en termes generals, estan sota el mandat organitzatiu. Podria ser, per exemple, un contractista, un proveïdor de serveis, un client. |
| L'article 4 no implica l'obligació de mesurar el coneixement de la IA dels empleats. No obstant això, afirma que els proveïdors i els implementadors de IA han de garantir un nivell suficient d'alfabetització en matèria de IA, tenint en compte els coneixements tècnics, l'experiència, l'educació i la formació dels empleats. |
|
Sí, el Reglament de IA distingeix entre models de IA (models de IA de propòsit general), sistemes de IA, inclosos els sistemes de IA de propòsit general, sistemes prohibits i sistemes d'alt risc. Per a més detalls, consulta la Guia de Definicions de Sistemes de IA, publicada per la Comissió el 6 de febrer per a ajudar dels proveïdors i altres persones pertinents a determinar si un sistema de programari constitueix un sistema de IA i facilitar l'aplicació efectiva de les normes.
Aquestes directrius, que no són vinculants i estan dissenyades per a evolucionar amb el temps, expliquen l'aplicació pràctica del concepte jurídic, ancorat en el Reglament de IA i han estat publicades, addicionalment, a la Guia sobre pràctiques prohibides d'intel·ligència artificial, tal com es defineixen en la Llei de IA. |
| De moment, la informació sobre les activitats de la Comissió en relació amb l'article 4 pot consultar-se en la pàgina web Pacte sobre la IA, inclosa l'enregistrament del seminari web que va tenir lloc el 20 de febrer i el repositori permanent sobre alfabetització en matèria de IA. S'està preparant una pàgina web específica sobre alfabetització i capacitats en matèria de IA. |
| L'Oficina de IA no imposarà requisits estrictes en relació amb l'article 4 del Reglament de IA i el seu «nivell suficient d'alfabetització en matèria de IA». Per contra, considera necessari un cert grau de flexibilitat, tenint en compte l'ampli tema de l'alfabetització en IA i la tecnologia en ràpida evolució que és la IA. No obstant això, com a mínim, per a complir amb l'article 4, els proveïdors i els implementadors de sistemes de IA deuen: |
| a) | Garantir una comprensió general de la IA dins de la seva organització: |
|
Què és la IA? Com funciona? Què IA s'utilitza en la nostra organització? Quins són els seus oportunitats i perills? |
|
| b) | Considerar el paper de la seva organització (proveïdor o implementador de sistemes de IA): |
|
La meva organització està desenvolupant sistemes de IA o simplement està utilitzant sistemes de IA desenvolupats per una altra organització? |
|
| c) | Considerar el risc dels sistemes de IA proporcionats o desplegats: |
|
Què necessiten saber els empleats quan tracten amb aquest sistema de IA? Quins són els riscos que han de tenir en compte i han de tenir en compte la mitigació? |
|
| d) |
Construir concretament les seves accions d'alfabetització en IA sobre l'anàlisi anterior, considerant: |
|
||
|
| Les consideracions a, b, c i d inclouen aspectes legals i ètics. Per tant, es fomenten les connexions amb el Reglament de IA de la UE (és a dir, la seva comprensió) i amb els principis d'ètica i governança. |
| Com s'indica en la resposta a la pregunta anterior, per a complir l'article 4 del Reglament de IA, les organitzacions han de tenir en compte el seu paper (sent proveïdors o implementadors de sistemes de IA), així com els riscos associats als sistemes de IA que proporcionen o implementen. D'acord amb això, les organitzacions han d'adaptar el seu enfocament d'alfabetització en IA. Per exemple, si els sistemes de IA de l'organització són d'alt risc, de conformitat amb el capítol III del Reglament, podrien ser pertinents mesures addicionals per a garantir que els empleats siguin conscients de com tractar amb els sistemes de IA en qüestió i evitar o mitigar els seus riscos. |
|
Això depèn de les respostes de l'organització a les consideracions de la pregunta 1. No obstant això, en molts casos, el mer fet de basar-se en les instruccions d'ús dels sistemes de IA o de demanar al personal que les llegeixi podria ser ineficaç i insuficient. L'article 4 del Reglament té per objecte proporcionar la formació i l'orientació més adequades sobre la base del nivell i el tipus de coneixements de cada grup destinatari, així com tenint en compte el context i la finalitat dels sistemes de IA utilitzats en l'organització. Això també està d'acord amb altres disposicions del Reglament de IA. Per exemple, l'article 26 introdueix l'obligació que els responsables del desplegament de sistemes d'alt risc garanteixin que el personal que s'ocupa dels sistemes de IA en la pràctica estigui prou format per a manejar el sistema i garantir la supervisió humana. Per tant, no n'hi ha prou amb seguir les instruccions d'ús, sinó que són necessàries mesures addicionals. |
| No hi ha una grandària única per a tots quan es tracta d'alfabetització en IA i l'Oficina de IA no té la intenció d'imposar requisits estrictes o entrenaments obligatoris. Els requisits per a una formació depenen del context concret. Si bé la reproducció de les pràctiques recollides no atorga automàticament la presumpció de compliment de l'article 4, les iniciatives del repositori permanent sobre alfabetització en matèria de IA podrien servir d'inspiració. |
| No, l'Oficina de IA no imposa requisits per a sectors específics. No obstant això, com s'indica en la resposta a la pregunta 1, el context —inclosos el sector i la finalitat— en el qual es proporcionen o implementen els sistemes de IA ha de ser pertinent a l'hora de desenvolupar una iniciativa d'alfabetització en matèria de IA. A més, ha de tenir-se en compte el nivell de risc dels sistemes de IA. |
| Això depèn del tipus concret de sistema de IA i del risc (per exemple, d'alt risc). En general, les persones que treballen per a un proveïdor de serveis o contractista han de tenir les habilitats de IA adequades per a complir la tasca en qüestió (igual que els empleats). |
| Sí, han de ser informats sobre els riscos específics, per exemple, l'al·lucinació. |
| Aquestes són dues preguntes diferents. Els empleats i la interacció humana en el circuit necessiten les habilitats adequades, enfocades al sistema que estan utilitzant. |
|
Normalment sí, però depèn de l'eina de IA en qüestió i de la seva qualificació específica. Això és particularment rellevant en vista de la velocitat dels desenvolupaments tecnològics. L'organització encara ha de considerar els passos en la resposta a la pregunta 1 i es pregunta: Saben aquests empleats tècnics el que cal saber sobre els sistemes de IA de l'organització i com tractar-los? Són conscients de tots els riscos i com evitar-los/ mitigar-los? A més, l'organització ha de considerar què més podrien necessitar saber aquests empleats; per exemple, aspectes jurídics i ètics de la IA. |
| Sí, l'article 4 del Reglament de IA anima als proveïdors i responsables del desplegament a tenir en compte els coneixements, l'experiència, l'educació i la formació dels empleats i altres persones per a proporcionar un nivell suficient d'alfabetització en matèria de IA. Donada la diferència entre els sistemes de IA i el fet que el nivell de coneixements i experiència, així com el tipus d'educació i formació rebuda, poden variar, pot ser adequat tenir diferents nivells de formació o enfocaments d'aprenentatge. |
| No és necessari un certificat. Les organitzacions poden portar un registre intern de les formacions i/ o altres iniciatives d'orientació. |
| No, cap estructura de governança específica està obligada a complir l'article 4 del Reglament de IA. |
|
De moment, es proporcionarà orientació a través d'altres exemples de pràctiques, seminaris web i aclariments a través d'aquestes preguntes i respostes. Una vegada designades, les autoritats nacionals de vigilància del mercat pertinents podrien proporcionar més orientacions sobre l'execució. L'Oficina de IA treballarà en estreta col·laboració amb el Consell de IA en el tema de l'alfabetització en matèria de IA, d'acord amb l'article 66, lletra f), i l'article 95, apartat 2 septies, del Reglament. |
| La Comissió publicarà directrius sobre l'aplicació dels requisits i obligacions a què es refereixen els articles 8 a 15 i l'article 25 del Reglament de IA, i aquestes directrius també abordaran qüestions d'alfabetització, en debatre, per exemple, la supervisió humana o la gestió de riscos. |
|
L'AI@EC Communication ja ha identificat com una acció operativa Desenvolupar una política per a crear i mantenir una mà d'obra qualificada en IA. La Comissió Europea ja ha aplicat diverses mesures per al seu personal en relació amb l'alfabetització en matèria de IA:
|
| En l'actualitat, moltes de les agències ja tenen accés a la plataforma d'aprenentatge de la Comissió (EU-Learn), així com a recursos com els paquets d'aprenentatge de IA i altres formacions de la Comissió. |
| Per a donar suport a l'aplicació i el compliment de l'article 4 del Reglament de IA, l'Oficina de IA continuarà fomentant el repositori sobre pràctiques d'alfabetització en matèria de IA, recopilant més exemples d'organitzacions i actualitzant les preguntes i respostes disponibles. S'organitzaran noves activitats de sensibilització i es posarà en marxa una pàgina web específica per a les activitats relacionades amb l'alfabetització en matèria de IA (dins i fora de l'àmbit d'aplicació de l'article 4), les capacitats i el talent amb l'objectiu de promoure l'accés a l'alfabetització en matèria de IA i fomentar el diàleg sobre la IA per a tots. |
|
L'Oficina de IA valora altament els coneixements i l'experiència de totes les parts interessades, inclosa la indústria. Per aquesta raó, hem creat el Pacte de IA per a fomentar la creació d'una comunitat col·laborativa, on les parts interessades puguin compartir les millors pràctiques i polítiques internes que puguin ser útils per a uns altres en el seu viatge de compliment. Respecte a l'alfabetització en matèria de IA, en el marc del Pacte sobre la IA hem publicat recentment un repositori viu de pràctiques d'alfabetització en matèria de IA; es convida a qualsevol proveïdor o desenvolupador de sistemes de IA que hagi posat en marxa un programa d'alfabetització en matèria de IA a presentar la seva contribució. L'Oficina de IA verificarà periòdicament que totes les contribucions rebudes compleixen els criteris mínims de transparència i fiabilitat abans d'acceptar-les en el repositori públic. Durant el període de verificació, l'enquesta podria tancar-se temporalment. |
En la nostra secció d'Actualitat podràs trobar informació sobre els esdeveniments, xerrades i conferències més rellevants en l'àmbit de la intel·ligència artificial.
Recursos útils per a l'alfabetització en IA
Aproximació general al Reglament Europeu d'Intel·ligència Artificial
Usem cookies de tercers amb finalitats analítics, en resum només usem les cookies de Google Analytics per a poder analitzar el nostre trànsit.
