El artículo 4 del Reglamento europeo de inteligencia artificial exige a los proveedores e implementadores de sistemas de IA que garanticen un nivel suficiente de alfabetización en materia de IA de su personal y de otras personas que tratan con sistemas de IA en su nombre.
Definiciones |
Cumplimiento |
Enfoque |
| Los proveedores e implementadores de sistemas de IA deben adoptar medidas para garantizar un nivel suficiente de alfabetización en materia de IA de su personal y de otras personas que se ocupen del funcionamiento y el uso de los sistemas de IA en su nombre. Deben hacerlo teniendo en cuenta sus conocimientos técnicos, experiencia, educación y formación del personal y otras personas, así como el contexto en el que se utilizarán los sistemas de IA y las personas en las que se utilizarán los sistemas de IA. |
|
El concepto de alfabetización en materia de IA mencionado en el artículo 4 del Reglamento de IA se basa en la definición del término que figura en el artículo 3, apartado 56, según el cual:
«alfabetización en materia de IA»: capacidades, conocimientos y comprensión que permiten a los proveedores, implementadores y personas afectadas, teniendo en cuenta sus respectivos derechos y obligaciones en el contexto del presente Reglamento, realizar un despliegue informado de los sistemas de IA, así como sensibilizar sobre las oportunidades y los riesgos de la IA y los posibles daños que puede causar. |
|
El artículo 4 del Reglamento de IA es una disposición clave para garantizar que todos los proveedores y responsables del despliegue de sistemas de IA doten a su personal de las capacidades, los conocimientos y la comprensión adecuados del sistema o sistemas proporcionados o desplegados. Esto afecta a cualquier persona de la organización que se ocupe directamente de un sistema de IA y refuerza las disposiciones de transparencia (artículo 13) y supervisión humana (artículo 14) incluidas en el Reglamento.
Al mismo tiempo, el artículo 4 contribuye indirectamente a la protección de las personas afectadas, ya que garantiza una aplicación efectiva de las normas del Regalmento de IA. «Personas que se ocupan del funcionamiento y el uso de sistemas de IA en nombre de proveedores/desplegadores» significa que no se trata de empleados, sino de personas que, en términos generales, están bajo el mandato organizativo. Podría ser, por ejemplo, un contratista, un proveedor de servicios, un cliente. |
| El artículo 4 no implica la obligación de medir el conocimiento de la IA de los empleados. Sin embargo, afirma que los proveedores y los implementadores de IA deben garantizar un nivel suficiente de alfabetización en materia de IA, teniendo en cuenta los conocimientos técnicos, la experiencia, la educación y la formación de los empleados. |
|
Sí, el Reglamento de IA distingue entre modelos de IA (modelos de IA de propósito general), sistemas de IA, incluidos los sistemas de IA de propósito general, sistemas prohibidos y sistemas de alto riesgo. Para más detalles, consulta la Guía de Definiciones de Sistemas de IA, publicada por la Comisión el 6 de febrero para ayudar a los proveedores y otras personas pertinentes a determinar si un sistema de software constituye un sistema de IA y facilitar la aplicación efectiva de las normas.
Estas directrices, que no son vinculantes y están diseñadas para evolucionar con el tiempo, explican la aplicación práctica del concepto jurídico, anclado en el Reglamento de IA y han sido publicadas, adicionalmente, a la Guía sobre prácticas prohibidas de inteligencia artificial, tal como se definen en la Ley de IA. |
| Por el momento, la información sobre las actividades de la Comisión en relación con el artículo 4 puede consultarse en la página web Pacto sobre la IA, incluida la grabación del seminario web que tuvo lugar el 20 de febrero y el repositorio permanente sobre alfabetización en materia de IA. Se está preparando una página web específica sobre alfabetización y capacidades en materia de IA. |
| La Oficina de IA no impondrá requisitos estrictos en relación con el artículo 4 del Reglamento de IA y su «nivel suficiente de alfabetización en materia de IA». Por el contrario, considera necesario un cierto grado de flexibilidad, teniendo en cuenta el amplio tema de la alfabetización en IA y la tecnología en rápida evolución que es la IA. Sin embargo, como mínimo, para cumplir con el artículo 4, los proveedores y los implementadores de sistemas de IA deben: |
| a) | Garantizar una comprensión general de la IA dentro de su organización: |
|
¿Qué es la IA? ¿Cómo funciona? ¿Qué IA se utiliza en nuestra organización? ¿Cuáles son sus oportunidades y peligros? |
|
| b) | Considerar el papel de su organización (proveedor o implementador de sistemas de IA): |
|
¿Mi organización está desarrollando sistemas de IA o simplemente está utilizando sistemas de IA desarrollados por otra organización? |
|
| c) | Considerar el riesgo de los sistemas de IA proporcionados o desplegados: |
|
¿Qué necesitan saber los empleados cuando tratan con este sistema de IA? ¿Cuáles son los riesgos que deben tener en cuenta y deben tener en cuenta la mitigación? |
|
| d) |
Construir concretamente sus acciones de alfabetización en IA sobre el análisis anterior, considerando: |
|
||
|
| Las consideraciones a, b, c y d incluyen aspectos legales y éticos. Por lo tanto, se fomentan las conexiones con el Reglamento de IA de la UE (es decir, su comprensión) y con los principios de ética y gobernanza. |
| Como se indica en la respuesta a la pregunta anterior, para cumplir el artículo 4 del Reglamento de IA, las organizaciones deben tener en cuenta su papel (siendo proveedores o implementadores de sistemas de IA), así como los riesgos asociados a los sistemas de IA que proporcionan o implementan. De acuerdo con esto, las organizaciones deben adaptar su enfoque de alfabetización en IA. Por ejemplo, si los sistemas de IA de la organización son de alto riesgo, de conformidad con el capítulo III del Reglamento, podrían ser pertinentes medidas adicionales para garantizar que los empleados sean conscientes de cómo tratar con los sistemas de IA en cuestión y evitar o mitigar sus riesgos. |
|
Esto depende de las respuestas de la organización a las consideraciones de la pregunta 1. Sin embargo, en muchos casos, el mero hecho de basarse en las instrucciones de uso de los sistemas de IA o de pedir al personal que las lea podría ser ineficaz e insuficiente. El artículo 4 del Reglamento tiene por objeto proporcionar la formación y la orientación más adecuadas sobre la base del nivel y el tipo de conocimientos de cada grupo destinatario, así como teniendo en cuenta el contexto y la finalidad de los sistemas de IA utilizados en la organización. Esto también está en consonancia con otras disposiciones del Reglamento de IA. Por ejemplo, el artículo 26 introduce la obligación de que los responsables del despliegue de sistemas de alto riesgo garanticen que el personal que se ocupa de los sistemas de IA en la práctica esté suficientemente formado para manejar el sistema y garantizar la supervisión humana. Por lo tanto, no basta con seguir las instrucciones de uso, sino que son necesarias medidas adicionales. |
| No hay un tamaño único para todos cuando se trata de alfabetización en IA y la Oficina de IA no tiene la intención de imponer requisitos estrictos o entrenamientos obligatorios. Los requisitos para una formación dependen del contexto concreto. Si bien la reproducción de las prácticas recogidas no otorga automáticamente la presunción de cumplimiento del artículo 4, las iniciativas del repositorio permanente sobre alfabetización en materia de IA podrían servir de inspiración. |
| No, la Oficina de IA no impone requisitos para sectores específicos. Sin embargo, como se indica en la respuesta a la pregunta 1, el contexto —incluidos el sector y la finalidad— en el que se proporcionan o implementan los sistemas de IA debe ser pertinente a la hora de desarrollar una iniciativa de alfabetización en materia de IA. Además, debe tenerse en cuenta el nivel de riesgo de los sistemas de IA. |
| Esto depende del tipo concreto de sistema de IA y del riesgo (por ejemplo, de alto riesgo). En general, las personas que trabajan para un proveedor de servicios o contratista deben tener las habilidades de IA adecuadas para cumplir la tarea en cuestión (igual que los empleados). |
| Sí, deben ser informados sobre los riesgos específicos, por ejemplo, la alucinación. |
| Estas son dos preguntas distintas. Los empleados y la interacción humana en el circuito necesitan las habilidades adecuadas, enfocadas al sistema que están utilizando. |
|
Normalmente sí, pero depende de la herramienta de IA en cuestión y de su cualificación específica. Esto es particularmente relevante en vista de la velocidad de los desarrollos tecnológicos. La organización aún debe considerar los pasos en la respuesta a la pregunta 1 y se pregunta: ¿Saben estos empleados técnicos lo que hay que saber sobre los sistemas de IA de la organización y cómo tratarlos? ¿Son conscientes de todos los riesgos y cómo evitarlos/ mitigarlos? Además, la organización debe considerar qué más podrían necesitar saber estos empleados; por ejemplo, aspectos jurídicos y éticos de la IA. |
| Sí, el artículo 4 del Reglamento de IA anima a los proveedores y responsables del despliegue a tener en cuenta los conocimientos, la experiencia, la educación y la formación de los empleados y otras personas para proporcionar un nivel suficiente de alfabetización en materia de IA. Dada la diferencia entre los sistemas de IA y el hecho de que el nivel de conocimientos y experiencia, así como el tipo de educación y formación recibida, pueden variar, puede ser adecuado tener diferentes niveles de formación o enfoques de aprendizaje. |
| No es necesario un certificado. Las organizaciones pueden llevar un registro interno de las formaciones y/ u otras iniciativas de orientación. |
| No, ninguna estructura de gobernanza específica está obligada a cumplir el artículo 4 del Reglamento de IA. |
|
Por el momento, se proporcionará orientación a través de otros ejemplos de prácticas, seminarios web y aclaraciones a través de estas preguntas y respuestas. Una vez designadas, las autoridades nacionales de vigilancia del mercado pertinentes podrían proporcionar más orientaciones sobre la ejecución. La Oficina de IA trabajará en estrecha colaboración con el Consejo de IA en el tema de la alfabetización en materia de IA, en consonancia con el artículo 66, letra f), y el artículo 95, apartado 2 septies, del Reglamento. |
| La Comisión publicará directrices sobre la aplicación de los requisitos y obligaciones a que se refieren los artículos 8 a 15 y el artículo 25 del Reglamento de IA, y estas directrices también abordarán cuestiones de alfabetización, al debatir, por ejemplo, la supervisión humana o la gestión de riesgos. |
|
La AI@EC Communication ya ha identificado como una acción operativa Desarrollar una política para crear y mantener una mano de obra cualificada en IA. La Comisión Europea ya ha aplicado varias medidas para su personal en relación con la alfabetización en materia de IA:
|
| En la actualidad, muchas de las agencias ya tienen acceso a la plataforma de aprendizaje de la Comisión (EU-Learn), así como a recursos como los paquetes de aprendizaje de IA y otras formaciones de la Comisión. |
| Para apoyar la aplicación y el cumplimiento del artículo 4 del Reglamento de IA, la Oficina de IA seguirá fomentando el repositorio sobre prácticas de alfabetización en materia de IA, recopilando más ejemplos de organizaciones y actualizando las preguntas y respuestas disponibles. Se organizarán nuevas actividades de sensibilización y se pondrá en marcha una página web específica para las actividades relacionadas con la alfabetización en materia de IA (dentro y fuera del ámbito de aplicación del artículo 4), las capacidades y el talento con el objetivo de promover el acceso a la alfabetización en materia de IA y fomentar el diálogo sobre la IA para todos. |
|
La Oficina de IA valora altamente los conocimientos y la experiencia de todas las partes interesadas, incluida la industria. Por esta razón, hemos creado el Pacto de IA para fomentar la creación de una comunidad colaborativa, donde las partes interesadas puedan compartir las mejores prácticas y políticas internas que puedan ser útiles para otros en su viaje de cumplimiento. Con respecto a la alfabetización en materia de IA, en el marco del Pacto sobre la IA hemos publicado recientemente un repositorio vivo de prácticas de alfabetización en materia de IA; se invita a cualquier proveedor o desarrollador de sistemas de IA que haya puesto en marcha un programa de alfabetización en materia de IA a presentar su contribución. La Oficina de IA verificará periódicamente que todas las contribuciones recibidas cumplen los criterios mínimos de transparencia y fiabilidad antes de aceptarlas en el repositorio público. Durante el período de verificación, la encuesta podría cerrarse temporalmente. |
En nuestra sección de Actualidad podrás encontrar información sobre los eventos, charlas y conferencias más relevantes en el ámbito de la inteligencia artificial.
Recursos útiles para la alfabetización en IA
El Reglamento Europeo de Inteligencia Artificial: Sistemas de alto riesgo
El Reglamento Europeo de Inteligencia Artificial: Sistemas Prohibidos
Usamos cookies de terceros con fines analíticos, en resumen solo usamos las cookies de Google Analytics para poder analizar nuestro tráfico.
