O artigo 50 do Regulamento de intelixencia artificial europeo establece obrigacións de transparencia dos provedores e responsables do despregamento de determinados sistemas de IA.
As preguntas e respostas que se mostran a continuación acompañan á consulta da Comisión e á convocatoria de manifestacións de interese para que as partes interesadas acheguen a súa contribución ás directrices e a un Código de boas prácticas sobre sistemas de IA xenerativos transparentes e participen no proceso do Código de boas prácticas.
-
¿Que implica o artigo 50 da Lei de IA? ¿Como protexen estas obrigacións ás persoas contra a manipulación, o engano e outros riscos identificados pola Lei de IA?
| |
- A transparencia en relación coa orixe artificial dos contidos xerados ou manipulados por IA é esencial. A dispoñibilidade dunha variedade de sistemas de IA con capacidades crecentes para xerar todo tipo de contido fai que sexa cada vez máis difícil distinguir o contido de IA do contido xerado por humanos e auténtico. Isto está a expor novos riscos de desinformación e manipulación a escala, fraude, suplantación de identidade e engano do consumidor.
- Neste contexto, o artigo 50 da Lei de IA establece obrigacións de transparencia para os provedores e os implementadores de determinados sistemas de IA, incluídos os sistemas de IA xenerativos e interactivos e as falsificacións profundas.
- Estas obrigacións teñen por obxecto reducir os riscos de engano, suplantación de identidade e información errónea e fomentar a confianza e a integridade no ecosistema da información. As persoas saberán cando están a interactuar con IA ou expostos a contido xerado por IA, o que lles axudará a tomar decisións informadas.
|
-
¿En que casos e para que tipos de sistemas de IA aplícanse estas obrigacións de transparencia?
| |
- O artigo 50 da Lei de IA abarca catro tipos de sistemas de IA. En primeiro lugar, os provedores de sistemas de IA que interactúan con persoas deben informarlles de que están a interactuar cun sistema de IA e non cun ser humano, a menos que isto sexa obvio.
- En segundo lugar, os provedores de contidos xerados ou manipulados por IA deben facilitar a identificación e marcar devanditos contidos de maneira lexible por máquina e habilitar os mecanismos de detección correspondentes.
- En terceiro lugar, os implementadores de sistemas de recoñecemento de emocións ou de categorización biométrica deben garantir que as persoas expostas a estes sistemas estean informadas.
- En cuarto lugar, os responsables do despregamento de sistemas de IA que xeren ou manipulen contidos falsos profundos ou publicacións de texto xeradas ou manipuladas por IA destinadas a informar ó público sobre asuntos de interese público deben informar aos usuarios sobre a orixe artificial do contido, excepto en casos definidos. Por último, a información facilitada debe estar nun formato claro e accesible.
|
-
¿Que solucións técnicas considéranse para marcar e detectar contido xerado por IA?
| |
- As técnicas ou métodos para marcar e detectar o contido xerado por IA inclúen marcas de auga, identificacións de metadatos e métodos criptográficos para demostrar a orixe e a autenticidade do contido, métodos de rexistro, impresións dactilares ou outras técnicas.
- As técnicas e métodos pertinentes deben ser suficientemente fiables, interoperables, eficaces e sólidos na medida en que sexa tecnicamente viable. Os provedores tamén deben ter en conta as especificidades e as limitacións dos diferentes tipos de contidos e a evolución tecnolóxica e do mercado pertinente neste ámbito.
- Unha parte importante do traballo que debe realizarse no contexto do Código de boas prácticas sobre sistemas de IA xenerativos transparentes será seguir identificando as técnicas e prácticas máis avanzadas.
|
-
¿Por que é necesario un código de boas prácticas sobre sistemas de IA xenerativos transparentes?
| |
O Código de boas prácticas sobre sistemas de IA xenerativa transparentes será unha ferramenta voluntaria para garantir o adecuado cumprimento das obrigacións establecidas no artigo 50, apartados 2 e 4, da Lei de IA para os provedores e os implementadores de sistemas de IA xenerativa. Se a Comisión apróbao como adecuado, proporcionará medidas claras para os responsables do despregamento e os provedores que desenvolvan ou teñan previsto desenvolver sistemas de IA xenerativa no ámbito de aplicación. O Código garantirá que os sistemas de IA xenerativa introducidos no mercado europeo por provedores e implementadores adherentes sexan suficientemente transparentes, en consonancia cos respectivos requisitos de transparencia da Lei de IA. |
-
¿Por que se necesitan tanto directrices como un código de boas prácticas sobre sistemas de IA transparentes?
| |
- As medidas prácticas do Código de boas prácticas só cubrirán as obrigacións establecidas no artigo 50, apartados 2 e 4, da Lei de IA. As directrices abarcarán o artigo 50 no seu conxunto.
- Ademais, o Código de Prácticas desenvolverase a través dun proceso de múltiples partes interesadas e proporcionará medios técnicos de implementación.
- As directrices que elaborará e adoptará a Comisión aclararán o ámbito de aplicación, as definicións xurídicas pertinentes, as obrigacións de transparencia, as excepcións e as cuestións horizontais conexas.
|
-
¿Que papel desempeñarán a sociedade civil, o mundo académico, as pemes, os implementadores e os provedores na elaboración do Código?
| |
- Os principais destinatarios do Código son os provedores e os implementadores de sistemas de IA xenerativa, incluídas as pemes, suxeitos ás obrigacións. Convídase aos provedores de técnicas de transparencia, ás organizacións da sociedade civil, aos expertos académicos e outras organizacións ou asociacións industriais pertinentes a que apoien o proceso de redacción. Ao implicar a todas estas partes interesadas, o Código de boas prácticas facilitará a aplicación efectiva das respectivas obrigacións de transparencia. O Código tamén apoiará disposicións prácticas para facer accesibles os mecanismos de detección e facilitar a cooperación con outros axentes ao longo da cadea de valor.
- Anímase ás partes interesadas a que expresen o seu interese ata o 9 de outubro para participar no proceso de redacción. A Oficina de IA verificará a admisibilidad sobre a base da información presentada e dispoñible publicamente e confirmará a participación das partes interesadas respectivas.
|
-
¿Como interactúa o Código de boas prácticas sobre sistemas de IA transparentes de IA xenerativa co recente Código de boas prácticas sobre IA de uso xeral?
| |
- As obrigacións de transparencia do artigo 50 da Lei de IA complementan as normas de transparencia aplicables aos modelos de IA de uso xeral (artigos 53 e 55). Estes últimos detalláronse con máis detalle no Código de boas prácticas para os modelos de IA de uso xeral (GPAI) e no modelo da Comisión para o resumo do contido utilizado para o modelo de formación.
- En particular, mentres que o Código de boas prácticas en materia de GPAI céntrase nos modelos de GPAI e na documentación e a información que deben facilitarse á Oficina de IA, ás autoridades nacionais competentes e aos provedores intermedios, así como na transparencia dos datos de adestramento de entrada, o Código sobre sistemas de IA xenerativos transparentes aborda as técnicas de marcado e a transparencia dos resultados xerados ou manipulados pola IA cara ás persoas expostas a eles.
- O Código sobre sistemas transparentes de IA xenerativa céntrase nas obrigacións de transparencia a nivel do sistema, incluídos, entre outros, os sistemas de GPAI. As técnicas de transparencia que poden aplicar os provedores de modelos de GPAI para facilitar as obrigacións de transparencia dos provedores de sistemas de IA descendentes tamén se terán en conta no contexto do presente Código.
|
-
¿Cales son os próximos pasos tras a posta en marcha da consulta pública e a convocatoria de manifestacións de interese?
| |
- A Oficina de IA convidará a todas as partes interesadas elixibles a participar no proceso de redacción do Código de boas prácticas e seleccionará presidentes e vicepresidentes para os diferentes grupos de traballo.
- A principios de novembro terá lugar unha sesión plenaria de apertura con todos os participantes seleccionados. Espérase que o proceso de redacción dure ata principios de xuño de 2026 como moi tarde.
|
-
¿Como se avaliará o cumprimento da Lei de IA unha vez finalizado o Código de Boas Prácticas?
| |
Se o Código é aprobado pola Comisión, os signatarios poderán basearse nel para demostrar o cumprimento das obrigacións. Polo que se refire aos provedores e os responsables do despregamento que se adhiran ao Código, a Comisión centrará as súas actividades de execución en supervisar a súa adhesión ao Código.
Beneficiaranse dunha maior confianza da Comisión e doutras partes interesadas. |
