Las Directrices de transparencia publicadas por la Comisión Europea, tienen como objetivo ayudar a los proveedores y responsables del despliegue de sistemas de IA a cumplir con las obligaciones establecidas en el artículo 50 del Reglamento europeo de Inteligencia Artificial (RIA).
Estas obligaciones de transparencia ayudarán a las personas a reconocer cuándo interactúan con una inteligencia artificial o cuándo el contenido ha sido generado o manipulado por IA, reduciendo así el riesgo de engaño y manipulación.
Las preguntas y respuestas que se muestran a continuación están relacionadas con conceptos y obligaciones aclarados en las Directrices de la Comisión sobre el artículo 50 del RIA.
Según el artículo 3.3. del Reglamento de IA, el proveedor de un sistema de IA es una persona física o jurídica, autoridad pública, órgano u organismo que desarrolla un sistema de IA y lo introudce en el mercado o pone en servicio con su propio nombre o marca.
Los proveedores de sistemas de IA establecidos o ubicados fuera de la UE también están sujetos a las disposiciones del RIA si los resultados de su sistema de IA se utilizan en la UE.
Los proveedores deben garantizar que sus sistemas de IA cumplan las obligaciones de transparencia pertinentes establecidas en los apartados 1, 2 y 5 del artículo 50 del Reglamento de IA antes de comercializar dichos sistemas o ponerlos en servicio.
De conformidad con el artículo 50, apartado 2, del Reglamento, los proveedores deben diseñar y desarrollar sistemas de IA que interactúen directamente con personas físicas —como chatbots, agentes de IA y avatares— para garantizar que las personas sepan que están interactuando con la IA. Los proveedores también deben garantizar que los resultados de sus sistemas de IA generativa estén identificados con marcas legibles por máquina, que sean eficaces, fiables, sólidas e interoperables, y que permitan detectar que dichos resultados han sido generados o manipulados por sistemas de IA.
El responsable del despliegue, según el artículo 3.4. del Reglamento de IA, es una persona física o jurídica, o autoridad pública, órgano u organismo que utilice un sistema de IA bajo su propia autoridad, excluyendo el uso para actividades personales y no profesionales.
Cuando una persona física utiliza un sistema de IA a título personal —por ejemplo, para generar «deepfakes» y difundirlos en las redes sociales—, esto se considera una actividad personal. Dicho uso queda excluido del ámbito de aplicación del Reglamento de IA. Sin embargo, si se trata de una actividad mediante la cual obtiene un beneficio económico de forma habitual (o participa de cualquier otra forma en una actividad empresarial, comercial, profesional o por cuenta propia), se considera una actividad «profesional». En este caso, se considera que la persona física es un responsable del despliegue de dicho sistema de IA.
Cuando el responsable del despliegue de un sistema de IA sea una persona jurídica bajo cuya autoridad se utilice el sistema (por ejemplo, una empresa de publicidad), los empleados individuales que actúen siguiendo las instrucciones y bajo el control de dicha persona jurídica (por ejemplo, animadores digitales, diseñadores web, creadores de contenidos, periodistas) no deben considerarse responsables del despliegue independientes de dicho sistema. Una persona jurídica sigue siendo un responsable del despliegue incluso si intervienen terceros (por ejemplo, contratistas o autónomos) en el funcionamiento del sistema en su nombre y bajo su responsabilidad y control.
En virtud del Reglamento de IA, los responsables del despliegue deben garantizar que informan a las personas cuando utilizan sistemas de reconocimiento de emociones o de categorización biométrica (artículo 50, apartado 3, del RIA) y que etiquetan claramente los «deepfakes» y los textos generados o manipulados por IA publicados sobre asuntos de interés público sin revisión humana ni control editorial (artículo 50, apartado 4).
Según el artículo 50.1 del Reglamento de IA, los proveedores de sistemas de IA que interactúen directamente con personas deben diseñar y desarrollar dichos sistemas de tal manera que las personas afectadas sean informadas de que están interactuando con un sistema de IA, salvo que ello resulte evidente.
Las Directrices sobre la transparencia de los contenidos generados por IA aclaran los cuatro criterios acumulativos en los que se aplica esta obligación:
Los sistemas de IA que funcionan exclusivamente en segundo plano, a través de la comunicación entre máquinas o sin contacto directo con las personas, quedan fuera del ámbito de aplicación de esta obligación.
Se debe informar a las personas de que están interactuando con un sistema de IA desde el inicio de la primera interacción, de forma clara y distinguible, y de conformidad con los requisitos de accesibilidad.
Esto les permitirá tomar decisiones informadas sobre su interacción con el sistema y ajustar su confianza en el contenido en consecuencia.
No es necesario informar a las personas cuando sea obvio que están interactuando con un sistema de IA. En la práctica, para evaluar hasta qué punto es obvia una interacción con la IA, el proveedor deberá identificar a una persona media, razonablemente bien informada, prudente y observadora. Dicha persona evaluará si es obvio que está interactuando directamente con un sistema de IA.
Las Directrices ofrecen más orientación y ejemplos prácticos sobre cómo aplicar esta excepción. Debe interpretarse de manera restrictiva, dado que priva a las personas de transparencia.
Según el artículo 50.2 del Reglamento de IA, los proveedores de sistemas de IA —incluidos los sistemas de IA de uso general— que generen contenidos sintéticos de audio, imagen, vídeo o texto deben garantizar que los contenidos generados o manipulados por IA se identifiquen en un formato legible por máquina y sean detectables como generados o manipulados artificialmente.
Las Directrices sobre Transparencia del Contenido Generado por IA aclaran que determinados resultados quedan fuera del ámbito de aplicación de estas obligaciones, tales como:
La obligación de etiquetar el contenido sintético generado o manipulado por IA no se aplica cuando el sistema de IA desempeña una función de asistencia en la edición estándar. Las directrices ofrecen un conjunto variado de ejemplos prácticos de lo que puede considerarse edición estándar y de lo que va más allá.
Para garantizar que el artículo 50.2 del RIA se aplique de manera proporcionada, se prevé una exención limitada de la obligación de identificación para los sistemas de IA que generen resultados utilizados en «contextos entre empresas» o «contextos industriales» (siempre que se cumplan las condiciones especificadas en las directrices).
También deben tenerse en cuenta las particularidades y limitaciones de los distintos tipos de contenido, los costes de aplicación y el estado de la técnica generalmente reconocido. Las Directrices explican con más detalle estos conceptos.
El Código de Buenas Prácticas sobre Transparencia del Contenido Generado por IA establece medidas en las que pueden basarse los proveedores que se adhieran al Código para demostrar el cumplimiento de estas obligaciones de identificación y detección de forma jurídicamente segura y predecible, independientemente de su lugar de establecimiento, de actividad o de la autoridad competente de vigilancia del mercado.
Según el artículo 50.3 del Reglamento de IA, los responsables del despliegue de sistemas de reconocimiento de emociones y de categorización biométrica deben informar a las personas físicas que se ven expuestas a dichos sistemas sobre su funcionamiento, con el fin de proteger su privacidad. Esto no implica facilitar información relativa, por ejemplo, a la finalidad del funcionamiento del sistema.
Esta obligación se aplica independientemente de si las personas se ven expuestas a dichos sistemas en tiempo real o si estos se gestionan a posteriori.
Los deepfakes se definen en el Artículo 3.60 del Reglamento de IA como contenidos de imagen, audio o vídeo generados o manipulados mediante IA que se asemejan a personas, objetos, lugares, entidades o acontecimientos existentes y que, a simple vista, podrían parecer auténticos o veraces.
Para que un contenido constituya un «deepfake», deben cumplirse tres criterios acumulativos:
Para la evaluación del último criterio mencionado, las Directrices sobre la transparencia de los contenidos generados por IA permiten a las partes interesadas tener en cuenta:
Esto permite a quienes implementan estas tecnologías tener debidamente en cuenta el contexto específico en el que operan y el público al que se dirigirá su contenido. Si el público al que va dirigido, dentro de un contexto de implementación específico, no espera que el contenido sea auténtico o veraz, es posible que el contenido generado o manipulado por IA no dé la falsa impresión de ser auténtico o veraz. Por ejemplo, es poco probable que la generación o manipulación mediante IA de escenarios de fondo, efectos especiales o procesos técnicos de pre y posproducción, como parte de los procesos estándar de producción cinematográfica, hagan que el contenido parezca falsamente auténtico o veraz a los ojos del público.
Los responsables de la difusión deben revelar el contenido «deepfake» a una persona física a más tardar en el momento de su primera exposición. Esta revelación debe realizarse de manera clara y distinguible. Debe ser comprensible y perceptible para las personas físicas (por ejemplo, mediante etiquetas visibles u audibles), sin necesidad de herramientas técnicas específicas ni de realizar acciones específicas. Por lo tanto, los responsables de la difusión no pueden limitarse a basarse en el marcado legible por máquina incorporado en el contenido por el proveedor, con arreglo al artículo 50.2 del RIA, para cumplir con su obligación de divulgación.
Algunos «deepfakes» forman parte de obras o programas de carácter evidentemente artístico, creativo, satírico, ficticio o análogo. En estos casos, la obligación de transparencia se limita a la divulgación del contenido «deepfake» de una manera adecuada que no obstaculice la visualización o el disfrute de la obra.
Según el Artículo 50.4 del Reglamento de IA, los responsables del despliegue de sistemas de IA generativa deben etiquetar claramente el texto generado o manipulado por IA que publiquen con el propósito de informar al público sobre asuntos de interés público. Para que el texto entre en esta obligación, deben cumplirse 3 criterios. El texto debe ser:
El texto publicado que haya sido sometido a revisión humana o a control editorial no necesita ser etiquetado.
La revisión humana se refiere al examen deliberado del fondo del contenido por parte de una o más personas físicas que posean los conocimientos pertinentes y el criterio profesional relacionados con el tema objeto de análisis (por ejemplo, la revisión por pares académicos o las cadenas de validación profesional). El control editorial se refiere al control ejercido en la práctica por una entidad editorial responsable (por ejemplo, un redactor jefe) sobre el contenido, con la autoridad para aprobar, modificar o rechazar el contenido del texto basándose en motivos de fondo (incluida la verificación de los hechos y la garantía de la fiabilidad de las fuentes).
Las revisiones superficiales, meramente formales o procedimentales (por ejemplo, la revisión ortográfica o la corrección gramatical) no se consideran revisión humana ni control editorial.
La responsabilidad editorial significa que una persona debe asumir la responsabilidad jurídica última sobre la publicación del contenido, incluida la revisión humana o el control editorial.
El Código de buenas prácticas sobre la transparencia de los contenidos generados por IA ofrece una herramienta práctica de carácter voluntario para ayudar a los proveedores y a quienes implementan sistemas de IA generativa a demostrar el cumplimiento de las obligaciones de identificación y etiquetado establecidas en los apartados 2, 4 y 5 del artículo 50 del Reglamento de IA. Tanto la Comisión como el Consejo de IA han considerado que el código es adecuado. Permite a los firmantes beneficiarse de seguridad jurídica, previsibilidad y confianza, ya que pueden basarse en un código aprobado que han firmado, independientemente de su lugar de establecimiento, de actividad o de la autoridad de supervisión competente.
Los proveedores y responsables del despliegue de sistemas de IA generativa que decidan no adherirse al código tendrán que demostrar el cumplimiento mediante medios alternativos adecuados. Podrán verse sujetos a un mayor número de solicitudes de información, ya que existe menor transparencia sobre la forma en que cumplen las obligaciones de transparencia establecidas en el artículo 50 del Reglamento europeo de inteligencia artificial.
En cuanto al resto de obligaciones de transparencia (por ejemplo, las establecidas en los apartados 1 y 3 del artículo 50 del RIA), los proveedores y los operadores pueden determinar por sí mismos las medidas de cumplimiento adecuadas, teniendo en cuenta las Directrices sobre la transparencia de los contenidos generados por IA.
Las obligaciones de transparencia establecidas en el artículo 50 del Reglamento de IA son complementarias a las normas de transparencia aplicables a los modelos de IA de uso general establecidas en los artículos 53 y 55 de dicho Reglamento. Los medios para cumplir con estas últimas se han detallado con mayor precisión en el Código de buenas prácticas para los modelos de IA de uso general (GPAI) y en la plantilla de la Comisión para el resumen del contenido utilizado para el entrenamiento de los modelos.
Cabe destacar que el Código de buenas prácticas sobre GPAI se centra en los modelos GPAI y en la documentación e información que deben facilitarse a la Oficina de IA, a las autoridades nacionales competentes y a los proveedores posteriores, así como en la transparencia de los datos de entrenamiento introducidos. El Código de buenas prácticas sobre la transparencia de los contenidos generados por IA aborda las técnicas de etiquetado y la transparencia de los resultados generados o manipulados por IA frente a las personas expuestas a ellos.
El Código de buenas prácticas sobre la transparencia de los contenidos generados por IA se centra en las obligaciones de transparencia a nivel de sistema, incluidos, entre otros, los sistemas de GPAI. En el contexto de este código también se tendrán en cuenta las técnicas de transparencia que pueden aplicar los proveedores de modelos de GPAI para facilitar el cumplimiento, por parte de los proveedores de sistemas de IA de nivel posterior, de las obligaciones de transparencia del artículo 50 del Reglamento.
El artículo 50 del RIA es de aplicación desde el 2 de agosto de 2026. A partir de esa fecha, los proveedores y los responsables del despliegue de sistemas de IA deberán cumplir con las obligaciones de transparencia establecidas en dicha disposición. Solo se prevé un período de gracia limitado para los sistemas de IA comercializados antes del 2 de agosto de 2026 y únicamente en lo que respecta a la obligación de etiquetado y detección de los contenidos generados por IA (artículo 50, apartado 2, del Reglamento de IA). Los proveedores de dichos sistemas deberán cumplir dichas obligaciones únicamente a partir del 2 de diciembre de 2026.
No es necesario etiquetar de forma retroactiva los contenidos generados antes del 2 de agosto de 2026. No obstante, la Comisión anima a los responsables de la puesta en servicio pertinentes a que lo hagan, siempre que sea posible, ya que ello contribuye a los objetivos perseguidos por el artículo 50 de la Ley de IA.
El cumplimiento de la normativa recaerá principalmente en las autoridades nacionales competentes en materia de vigilancia del mercado. El Supervisor Europeo de Protección de Datos velará por el cumplimiento de las normas en lo que respecta a los sistemas de IA utilizados por las instituciones, órganos y agencias de la UE.
Las multas pueden ascender hasta 15 millones de euros o el 3 % de la facturación mundial total del ejercicio financiero anterior, si bien se podrá tener en cuenta el principio de proporcionalidad en el caso de las pequeñas y medianas empresas (pymes) y las pequeñas empresas de capitalización media (SMC).
En nuestra sección de Actualidad podrás encontrar información sobre los eventos, charlas y conferencias más relevantes en el ámbito de la inteligencia artificial.
Preguntas y respuestas sobre el Código de Buenas Prácticas sobre...
Guías prácticas para el cumplimiento del Reglamento europeo de Inteligencia...
Preguntas y respuestas sobre el Reglamento de IA: artículo 50
Usamos cookies de terceros con fines analíticos, en resumen solo usamos las cookies de Google Analytics para poder analizar nuestro tráfico.
