L'article 50 del Reglament d'intel·ligència artificial europeu estableix obligacions de transparència dels proveïdors i responsables del desplegament de determinats sistemes de IA.
Les preguntes i respostes que es mostren a continuació acompanyen a la consulta de la Comissió i a la convocatòria de manifestacions d'interès per a que les parts interessades aportin la seva contribució a les directrius i a un Codi de bones pràctiques sobre sistemes de IA generatius transparents i participin en el procés del Codi de bones pràctiques
-
Què implica l'article 50 de la Llei de IA? Com protegeixen aquestes obligacions a les persones contra la manipulació, l'engany i altres riscos identificats per la Llei de IA?
| |
- La transparència en relació amb l'origen artificial dels continguts generats o manipulats per IA és essencial. La disponibilitat d'una varietat de sistemes de IA amb capacitats creixents per a generar tot tipus de contingut fa que sigui cada vegada més difícil distingir el contingut de IA del contingut generat per humans i autèntic. Això està plantejant nous riscos de desinformació i manipulació a escala, frau, suplantació d'identitat i engany del consumidor.
- En aquest context, l'article 50 de la Llei de IA estableix obligacions de transparència per als proveïdors i els implementadors de determinats sistemes de IA, inclosos els sistemes de IA generatius i interactius i les falsificacions profundes.
- Aquestes obligacions tenen per objecte reduir els riscos d'engany, suplantació d'identitat i informació errònia i fomentar la confiança i la integritat en l'ecosistema de la informació. Les persones sabran quan estan interactuant amb IA o exposats a contingut generat per IA, la qual cosa els ajudarà a prendre decisions informades.
|
-
En quins casos i per a quins tipus de sistemes de IA s'apliquen aquestes obligacions de transparència?
| |
- L'article 50 de la Llei de IA abasta quatre tipus de sistemes de IA. En primer lloc, els proveïdors de sistemes de IA que interactuen amb persones han d'informar-los que estan interactuant amb un sistema de IA i no amb un ésser humà, tret que això sigui obvi.
- En segon lloc, els proveïdors de continguts generats o manipulats per IA han de facilitar la identificació i marcar aquests continguts de manera llegible per màquina i habilitar els mecanismes de detecció corresponents.
- En tercer lloc, els implementadors de sistemes de reconeixement d'emocions o de categorització biomètrica han de garantir que les persones exposades a aquests sistemes estiguin informades.
- En quart lloc, els responsables del desplegament de sistemes de IA que generin o manipulin continguts falsos profunds o publicacions de text generades o manipulades per IA destinades a informar el públic sobre assumptes d'interès públic han d'informar els usuaris sobre l'origen artificial del contingut, excepte en casos definits. Finalment, la informació facilitada ha d'estar en un format clar i accessible.
|
-
Quines solucions tècniques es consideren per a marcar i detectar contingut generat per IA?
| |
- Les tècniques o mètodes per a marcar i detectar el contingut generat per IA inclouen marques d'aigua, identificacions de metadades i mètodes criptogràfics per a demostrar l'origen i l'autenticitat del contingut, mètodes de registre, impressions dactilars o altres tècniques.
- Les tècniques i mètodes pertinents han de ser prou fiables, interoperables, eficaços i sòlids en la mesura en què sigui tècnicament viable. Els proveïdors també han de tenir en compte les especificitats i les limitacions dels diferents tipus de continguts i l'evolució tecnològica i del mercat pertinent en aquest àmbit.
- Una part important del treball que ha de realitzar-se en el context del Codi de bones pràctiques sobre sistemes de IA generatius transparents serà continuar identificant les tècniques i pràctiques més avançades.
|
-
Per què és necessari un codi de bones pràctiques sobre sistemes de IA generatius transparents?
| |
El Codi de bones pràctiques sobre sistemes de IA generativa transparents serà una eina voluntària per a garantir l'adequat compliment de les obligacions establertes en l'article 50, apartats 2 i 4, de la Llei de IA per als proveïdors i els implementadors de sistemes de IA generativa. Si la Comissió ho aprova com a adequat, proporcionarà mesures clares per als responsables del desplegament i els proveïdors que desenvolupin o tinguin previst desenvolupar sistemes de IA generativa en l'àmbit d'aplicació. El Codi garantirà que els sistemes de IA generativa introduïts en el mercat europeu per proveïdors i implementadors adherents siguin prou transparents, d'acord amb els respectius requisits de transparència de la Llei de IA. |
-
Per què es necessiten tant directrius com un codi de bones pràctiques sobre sistemes de IA transparents?
| |
- Les mesures pràctiques del Codi de bones pràctiques només cobriran les obligacions establertes en l'article 50, apartats 2 i 4, de la Llei de IA. Les directrius abastaran l'article 50 en el seu conjunt.
- A més, el Codi de Pràctiques es desenvoluparà a través d'un procés de múltiples parts interessades i proporcionarà mitjans tècnics d'implementació.
- Les directrius que elaborarà i adoptarà la Comissió aclariran l'àmbit d'aplicació, les definicions jurídiques pertinents, les obligacions de transparència, les excepcions i les qüestions horitzontals connexes.
|
-
Quin paper exerciran la societat civil, el món acadèmic, les pimes, els implementadors i els proveïdors en l'elaboració del Codi?
| |
- Els principals destinataris del Codi són els proveïdors i els implementadors de sistemes de IA generativa, incloses les pimes, subjectes a les obligacions. Es convida als proveïdors de tècniques de transparència, les organitzacions de la societat civil, els experts acadèmics i altres organitzacions o associacions industrials pertinents al fet que donin suport al procés de redacció. En implicar a totes aquestes parts interessades, el Codi de bones pràctiques facilitarà l'aplicació efectiva de les respectives obligacions de transparència. El Codi també donarà suport a disposicions pràctiques per a fer accessibles els mecanismes de detecció i facilitar la cooperació amb altres agents al llarg de la cadena de valor.
- S'anima a les parts interessades al fet que expressin el seu interès fins al 9 d'octubre per a participar en el procés de redacció. L'Oficina de IA verificarà l'admissibilitat sobre la base de la informació presentada i disponible públicament i confirmarà la participació de les parts interessades respectives.
|
-
Com interactua el Codi de bones pràctiques sobre sistemes de IA transparents de IA generativa amb el recent Codi de bones pràctiques sobre IA d'ús general?
| |
- Les obligacions de transparència de l'article 50 de la Llei de IA complementen les normes de transparència aplicables als models de IA d'ús general (articles 53 i 55). Aquests últims s'han detallat amb més detall en el Codi de bones pràctiques per als models de IA d'ús general (GPAI) i en el model de la Comissió per al resum del contingut utilitzat per al model de formació.
- En particular, mentre que el Codi de bones pràctiques en matèria de GPAI se centra en els models de GPAI i en la documentació i la informació que han de facilitar-se a l'Oficina de IA, les autoritats nacionals competents i els proveïdors intermedis, així com en la transparència de les dades d'entrenament d'entrada, el Codi sobre sistemes de IA generatius transparents aborda les tècniques de marcat i la transparència dels resultats generats o manipulats per la IA cap a les persones exposades a ells.
- El Codi sobre sistemes transparents de IA generativa se centra en les obligacions de transparència a nivell del sistema, inclosos, entre altres, els sistemes de GPAI. Les tècniques de transparència que poden aplicar els proveïdors de models de GPAI per a facilitar les obligacions de transparència dels proveïdors de sistemes de IA descendents també es tindran en compte en el context del present Codi.
|
-
Quins són els pròxims passos després de la posada en marxa de la consulta pública i la convocatòria de manifestacions d'interès?
| |
- L'Oficina de IA convidarà a totes les parts interessades elegibles a participar en el procés de redacció del Codi de bones pràctiques i seleccionarà presidents i vicepresidents per als diferents grups de treball.
- A principis de novembre tindrà lloc una sessió plenària d'obertura amb tots els participants seleccionats. S'espera que el procés de redacció duri fins a principis de juny de 2026 a tot tardar.
|
-
Com s'avaluarà el compliment de la Llei de IA una vegada finalitzat el Codi de Bones Pràctiques?
| |
Si el Codi és aprovat per la Comissió, els signataris podran basar-se en ell per a demostrar el compliment de les obligacions. Pel que fa als proveïdors i els responsables del desplegament que s'adhereixin al Codi, la Comissió centrarà les seves activitats d'execució a supervisar la seva adhesió al Codi.
Es beneficiaran d'una major confiança de la Comissió i d'altres parts interessades. |
