L'article 50 del Reglament d'intel·ligència artificial europeu establix obligacions de transparència dels proveïdors i responsables del desplegament de determinats sistemes d'IA.
Les preguntes i respostes que es mostren a continuació acompanyen a la consulta de la Comissió i a la convocatòria de manifestacions d'interés per a que les parts interessades aporten la seua contribució a les directrius i a un Codi de bones pràctiques sobre sistemes d'IA generatius transparents i participen en el procés del Codi de bones pràctiques.
-
Què implica l'article 50 de la Llei d'IA? Com protegixen estes obligacions a les persones contra la manipulació, l'engany i altres riscos identificats per la Llei d'IA?
| |
- La transparència en relació amb l'origen artificial dels continguts generats o manipulats per IA és essencial. La disponibilitat d'una varietat de sistemes d'IA amb capacitats creixents per a generar tot tipus de contingut fa que siga cada vegada més difícil distingir el contingut d'IA del contingut generat per humans i autèntic. Això està plantejant nous riscos de desinformació i manipulació a escala, frau, suplantació d'identitat i engany del consumidor.
- En este context, l'article 50 de la Llei d'IA establix obligacions de transparència per als proveïdors i els implementadors de determinats sistemes d'IA, inclosos els sistemes d'IA generatius i interactius i les falsificacions profundes.
- Estes obligacions tenen per objecte reduir els riscos d'engany, suplantació d'identitat i informació errònia i fomentar la confiança i la integritat en l'ecosistema de la informació. Les persones sabran quan estan interactuant amb IA o exposats a contingut generat per IA, la qual cosa els ajudarà a prendre decisions informades.
|
-
En quins casos i per a quins tipus de sistemes d'IA s'apliquen estes obligacions de transparència?
| |
- L'article 50 de la Llei d'IA abasta quatre tipus de sistemes d'IA. En primer lloc, els proveïdors de sistemes d'IA que interactuen amb persones han d'informar-los que estan interactuant amb un sistema d'IA i no amb un ésser humà, llevat que això siga obvi.
- En segon lloc, els proveïdors de continguts generats o manipulats per IA han de facilitar la identificació i marcar estos continguts de manera llegible per màquina i habilitar els mecanismes de detecció corresponents.
- En tercer lloc, els implementadors de sistemes de reconeixement d'emocions o de categorització biomètrica han de garantir que les persones exposades a estos sistemes estiguen informades.
- En quart lloc, els responsables del desplegament de sistemes d'IA que generen o manipulen continguts falsos profunds o publicacions de text generades o manipulades per IA destinades a informar el públic sobre assumptes d'interés públic han d'informar els usuaris sobre l'origen artificial del contingut, excepte en casos definits. Finalment, la informació facilitada ha d'estar en un format clar i accessible.
|
-
Quines solucions tècniques es consideren per a marcar i detectar contingut generat per IA?
| |
- Les tècniques o mètodes per a marcar i detectar el contingut generat per IA inclouen marques d'aigua, identificacions de metadades i mètodes criptogràfics per a demostrar l'origen i l'autenticitat del contingut, mètodes de registre, impressions dactilars o altres tècniques.
- Les tècniques i mètodes pertinents han de ser suficientment fiables, interoperables, eficaços i sòlids en la mesura en què siga tècnicament viable. Els proveïdors també han de tindre en compte les especificitats i les limitacions dels diferents tipus de continguts i l'evolució tecnològica i del mercat pertinent en este àmbit.
- Una part important del treball que ha de realitzar-se en el context del Codi de bones pràctiques sobre sistemes d'IA generatius transparents serà continuar identificant les tècniques i pràctiques més avançades.
|
-
Per què és necessari un codi de bones pràctiques sobre sistemes d'IA generatius transparents?
| |
El Codi de bones pràctiques sobre sistemes d'IA generativa transparents serà una ferramenta voluntària per a garantir l'adequat compliment de les obligacions establides en l'article 50, apartats 2 i 4, de la Llei d'IA per als proveïdors i els implementadors de sistemes d'IA generativa. Si la Comissió ho aprova com a adequat, proporcionarà mesures clares per als responsables del desplegament i els proveïdors que desenrotllen o tinguen previst desenrotllar sistemes d'IA generativa en l'àmbit d'aplicació. El Codi garantirà que els sistemes d'IA generativa introduïts en el mercat europeu per proveïdors i implementadors adherents siguen suficientment transparents, d'acord amb els respectius requisits de transparència de la Llei d'IA. |
-
Per què es necessiten tant directrius com un codi de bones pràctiques sobre sistemes d'IA transparents?
| |
- Les mesures pràctiques del Codi de bones pràctiques només cobriran les obligacions establides en l'article 50, apartats 2 i 4, de la Llei d'IA. Les directrius abastaran l'article 50 en el seu conjunt.
- A més, el Codi de Pràctiques es desenrotllarà a través d'un procés de múltiples parts interessades i proporcionarà mitjans tècnics d'implementació.
- Les directrius que elaborarà i adoptarà la Comissió aclariran l'àmbit d'aplicació, les definicions jurídiques pertinents, les obligacions de transparència, les excepcions i les qüestions horitzontals connexes.
|
-
Quin paper exerciran la societat civil, el món acadèmic, les pimes, els implementadors i els proveïdors en l'elaboració del Codi?
| |
- Els principals destinataris del Codi són els proveïdors i els implementadors de sistemes d'IA generativa, incloses les pimes, subjectes a les obligacions. Es convida als proveïdors de tècniques de transparència, les organitzacions de la societat civil, els experts acadèmics i altres organitzacions o associacions industrials pertinents al fet que donen suport al procés de redacció. En implicar a totes estes parts interessades, el Codi de bones pràctiques facilitarà l'aplicació efectiva de les respectives obligacions de transparència. El Codi també donarà suport a disposicions pràctiques per a fer accessibles els mecanismes de detecció i facilitar la cooperació amb altres agents al llarg de la cadena de valor.
- S'anima a les parts interessades al fet que expressen el seu interés fins al 9 d'octubre per a participar en el procés de redacció. L'Oficina d'IA verificarà l'admissibilitat sobre la base de la informació presentada i disponible públicament i confirmarà la participació de les parts interessades respectives.
|
-
Com interactua el Codi de bones pràctiques sobre sistemes d'IA transparents d'IA generativa amb el recent Codi de bones pràctiques sobre IA d'ús general?
| |
- Les obligacions de transparència de l'article 50 de la Llei d'IA complementen les normes de transparència aplicables als models d'IA d'ús general (articles 53 i 55). Estos últims s'han detallat amb més detall en el Codi de bones pràctiques per als models d'IA d'ús general (GPAI) i en el model de la Comissió per al resum del contingut utilitzat per al model de formació.
- En particular, mentres que el Codi de bones pràctiques en matèria de GPAI se centra en els models de GPAI i en la documentació i la informació que han de facilitar-se a l'Oficina d'IA, les autoritats nacionals competents i els proveïdors intermedis, així com en la transparència de les dades d'entrenament d'entrada, el Codi sobre sistemes d'IA generatius transparents aborda les tècniques de marcat i la transparència dels resultats generats o manipulats per la IA cap a les persones exposades a ells.
- El Codi sobre sistemes transparents d'IA generativa se centra en les obligacions de transparència a nivell del sistema, inclosos, entre altres, els sistemes de GPAI. Les tècniques de transparència que poden aplicar els proveïdors de models de GPAI per a facilitar les obligacions de transparència dels proveïdors de sistemes d'IA descendents també es tindran en compte en el context del present Codi.
|
-
Quins són els pròxims passos després de la posada en marxa de la consulta pública i la convocatòria de manifestacions d'interés?
| |
- L'Oficina d'IA convidarà a totes les parts interessades elegibles a participar en el procés de redacció del Codi de bones pràctiques i seleccionarà presidents i vicepresidents per als diferents grups de treball.
- A principis de novembre tindrà lloc una sessió plenària d'obertura amb tots els participants seleccionats. S'espera que el procés de redacció dure fins a principis de juny de 2026 a tot tardar.
|
-
Com s'avaluarà el compliment de la Llei d'IA una vegada finalitzat el Codi de Bones Pràctiques?
| |
Si el Codi és aprovat per la Comissió, els signataris podran basar-se en ell per a demostrar el compliment de les obligacions. Pel que fa als proveïdors i els responsables del desplegament que s'adherisquen al Codi, la Comissió centrarà les seues activitats d'execució a supervisar la seua adhesió al Codi.
Es beneficiaran d'una major confiança de la Comissió i d'altres parts interessades. |
