O artigo 4 do Regulamento europeo de intelixencia artificial esixe aos provedores e implementadores de sistemas de IA que garantan un nivel suficiente de alfabetización en materia de IA do seu persoal e doutras persoas que tratan con sistemas de IA no seu nome.
Definicións |
Cumprimento |
Enfoque |
| Os provedores e implementadores de sistemas de IA deben adoptar medidas para garantir un nivel suficiente de alfabetización en materia de IA do seu persoal e doutras persoas que se ocupen do funcionamento e o uso dos sistemas de IA no seu nome. Deben facelo tendo en conta os seus coñecementos técnicos, experiencia, educación e formación do persoal e outras persoas, así como o contexto no que se utilizarán os sistemas de IA e as persoas nas que se utilizarán os sistemas de IA. |
|
O concepto de alfabetización en materia de IA mencionado no artigo 4 do Regulamento de IA baséase na definición do termo que figura no artigo 3, apartado 56, segundo o cal:
«alfabetización en materia de IA»: capacidades, coñecementos e comprensión que permiten aos provedores, implementadores e persoas afectadas, tendo en conta os seus respectivos dereitos e obrigas no contexto do presente Regulamento, realizar un despregamento informado dos sistemas de IA, así como sensibilizar sobre as oportunidades e os riscos da IA e os posibles danos que pode causar. |
|
O artigo 4 do Regulamento de IA é unha disposición crave para garantir que todos os provedores e responsables do despregamento de sistemas de IA doten ao seu persoal das capacidades, os coñecementos e a comprensión adecuados do sistema ou sistemas proporcionados ou despregados. Isto afecta a calquera persoa da organización que se ocupe directamente dun sistema de IA e reforza as disposicións de transparencia (artigo 13) e supervisión humana (artigo 14) incluídas no Regulamento.
Ao mesmo tempo, o artigo 4 contribúe indirectamente á protección das persoas afectadas, xa que garante unha aplicación efectiva das normas do Regalmento de IA. «Persoas que se ocupan do funcionamento e o uso de sistemas de IA en nome de provedores/desplegadores» significa que non se trata de empregados, senón de persoas que, en termos xerais, están baixo o mandato organizativo. Podería ser, por exemplo, un contratista, un provedor de servizos, un cliente. |
| O artigo 4 non implica a obriga de medir o coñecemento da IA dos empregados. Con todo, afirma que os provedores e os implementadores de IA deben garantir un nivel suficiente de alfabetización en materia de IA, tendo en conta os coñecementos técnicos, a experiencia, a educación e a formación dos empregados. |
|
Si, o Regulamento de IA distingue entre modelos de IA (modelos de IA de propósito xeral), sistemas de IA, incluídos os sistemas de IA de propósito xeral, sistemas prohibidos e sistemas de alto risco. Para máis detalles, consulta a Guía de Definicións de Sistemas de IA, publicada pola Comisión o 6 de febreiro para axudar aos provedores e outras persoas pertinentes a determinar se un sistema de software constitúe un sistema de IA e facilitar a aplicación efectiva das normas.
Estas directrices, que non son vinculantes e están deseñadas para evolucionar co tempo, explican a aplicación práctica do concepto xurídico, ancorado no Regulamento de IA e foron publicadas, adicionalmente, á Guía sobre prácticas prohibidas de intelixencia artificial, tal como defínense na Lei de IA. |
| Polo momento, a información sobre as actividades da Comisión en relación co artigo 4 pode consultarse na páxina web Pacto sobre a IA, incluída a gravación do seminario web que tivo lugar o 20 de febreiro e o repositorio permanente sobre alfabetización en materia de IA. Está a prepararse unha páxina web específica sobre alfabetización e capacidades en materia de IA. |
| A Oficina de IA non imporá requisitos estritos en relación co artigo 4 do Regulamento de IA e o seu «nivel suficiente de alfabetización en materia de IA». Pola contra, considera necesario un certo grao de flexibilidade, tendo en conta o amplo tema da alfabetización en IA e a tecnoloxía en rápida evolución que é a IA. Con todo, como mínimo, para cumprir co artigo 4, os provedores e os implementadores de sistemas de IA deben: |
| a) | Garantir unha comprensión xeral da IA dentro da súa organización: |
|
¿Que é a IA? ¿Como funciona? ¿Que IA utilízase na nosa organización? ¿Cales son os seus oportunidades e perigos? |
|
| b) | Considerar o papel da súa organización (provedor ou implementador de sistemas de IA): |
|
¿A miña organización está a desenvolver sistemas de IA ou simplemente está a utilizar sistemas de IA desenvolvidos por outra organización? |
|
| c) | Considerar o risco dos sistemas de IA proporcionados ou despregados: |
|
¿Que necesitan saber os empregados cando tratan con este sistema de IA? ¿Cales son os riscos que deben ter en conta e deben ter en conta a mitigación? |
|
| d) |
Construír concretamente as súas accións de alfabetización en IA sobre a análise anterior, considerando: |
|
||
|
| As consideracións a, b, c e d inclúen aspectos legais e éticos. Por tanto, foméntanse as conexións co Regulamento de IA da UE (é dicir, a súa comprensión) e cos principios de ética e gobernación. |
| Como se indica na resposta á pregunta anterior, para cumprir o artigo 4 do Regulamento de IA, as organizacións deben ter en conta o seu papel (sendo provedores ou implementadores de sistemas de IA), así como os riscos asociados aos sistemas de IA que proporcionan ou implementan. De acordo con isto, as organizacións deben adaptar o seu enfoque de alfabetización en IA. Por exemplo, se os sistemas de IA da organización son de alto risco, de conformidade co capítulo III do Regulamento, poderían ser pertinentes medidas adicionais para garantir que os empregados sexan conscientes de como tratar cos sistemas de IA en cuestión e evitar ou mitigar os seus riscos. |
|
Isto depende das respostas da organización ás consideracións da pregunta 1. Con todo, en moitos casos, o mero feito de basearse nas instrucións de uso dos sistemas de IA ou de pedir ao persoal que as lea podería ser ineficaz e insuficiente. O artigo 4 do Regulamento ten por obxecto proporcionar a formación e a orientación máis adecuadas sobre a base do nivel e o tipo de coñecementos de cada grupo destinatario, así como tendo en conta o contexto e a finalidade dos sistemas de IA utilizados na organización. Isto tamén está en consonancia con outras disposicións do Regulamento de IA. Por exemplo, o artigo 26 introduce a obriga de que os responsables do despregamento de sistemas de alto risco garantan que o persoal que se ocupa dos sistemas de IA na práctica estea suficientemente formado para manexar o sistema e garantir a supervisión humana. Por tanto, non basta con seguir as instrucións de uso, senón que son necesarias medidas adicionais. |
| Non hai un tamaño único para todos cando se trata de alfabetización en IA e a Oficina de IA non ten a intención de impor requisitos estritos ou adestramentos obrigatorios. Os requisitos para unha formación dependen do contexto concreto. Se ben a reprodución das prácticas recollidas non outorga automaticamente a presunción de cumprimento do artigo 4, as iniciativas do repositorio permanente sobre alfabetización en materia de IA poderían servir de inspiración. |
| Non, a Oficina de IA non impón requisitos para sectores específicos. Con todo, como se indica na resposta á pregunta 1, o contexto —incluídos o sector e a finalidade— no que se proporcionan ou implementan os sistemas de IA debe ser pertinente á hora de desenvolver unha iniciativa de alfabetización en materia de IA. Ademais, debe terse en conta o nivel de risco dos sistemas de IA. |
| Isto depende do tipo concreto de sistema de IA e do risco (por exemplo, de alto risco). En xeral, as persoas que traballan para un provedor de servizos ou contratista deben ter as habilidades de IA adecuadas para cumprir a tarefa en cuestión (igual que os empregados). |
| Si, deben ser informados os riscos específicos, por exemplo, a alucinación. |
| Estas son dúas preguntas distintas. Os empregados e a interacción humana no circuíto necesitan as habilidades adecuadas, enfocadas ao sistema que están a utilizar. |
|
Normalmente si, pero depende da ferramenta de IA en cuestión e da súa cualificación específica. Isto é particularmente relevante en vista da velocidade dos desenvolvementos tecnolóxicos. A organización aínda debe considerar os pasos na resposta á pregunta 1 e pregúntase: Saben estes empregados técnicos o que hai que saber sobre os sistemas de IA da organización e como tratalos? Son conscientes de todos os riscos e como evitalos/ mitigalos? Ademais, a organización debe considerar que máis poderían necesitar saber estes empregados; por exemplo, aspectos xurídicos e éticos da IA. |
| Si, o artigo 4 do Regulamento de IA anima aos provedores e responsables do despregamento a ter en conta os coñecementos, a experiencia, a educación e a formación dos empregados e outras persoas para proporcionar un nivel suficiente de alfabetización en materia de IA. Dada a diferenza entre os sistemas de IA e o feito de que o nivel de coñecementos e experiencia, así como o tipo de educación e formación recibida, poden variar, pode ser adecuado ter diferentes niveis de formación ou enfoques de aprendizaxe. |
| Non é necesario un certificado. As organizacións poden levar un rexistro interno das formacións e/ ou outras iniciativas de orientación. |
| Non, ningunha estrutura de gobernación específica está obrigada a cumprir o artigo 4 do Regulamento de IA. |
|
Polo momento, proporcionarase orientación a través doutros exemplos de prácticas, seminarios web e aclaracións a través destas preguntas e respostas. Unha vez designadas, as autoridades nacionais de vixilancia do mercado pertinentes poderían proporcionar máis orientacións sobre a execución. A Oficina de IA traballará en estreita colaboración co Consello de IA no tema da alfabetización en materia de IA, en consonancia co artigo 66, letra f), e o artigo 95, apartado 2 septies, do Regulamento. |
| A Comisión publicará directrices sobre a aplicación dos requisitos e obrigas a que se refiren os artigos 8 a 15 e o artigo 25 do Regulamento de IA, e estas directrices tamén abordarán cuestións de alfabetización, ao debater, por exemplo, a supervisión humana ou a xestión de riscos. |
|
A AI@EC Communication xa identificou como unha acción operativa Desenvolver unha política para crear e manter unha man de obra cualificada en IA. A Comisión Europea xa aplicou varias medidas para o seu persoal en relación coa alfabetización en materia de IA:
|
| Na actualidade, moitas das axencias xa teñen acceso á plataforma de aprendizaxe da Comisión (EU-Learn), así como a recursos como os paquetes de aprendizaxe de IA e outras formacións da Comisión. |
| Para apoiar a aplicación e o cumprimento do artigo 4 do Regulamento de IA, a Oficina de IA seguirá fomentando o repositorio sobre prácticas de alfabetización en materia de IA, recompilando máis exemplos de organizacións e actualizando as preguntas e respostas dispoñibles. Organizaranse novas actividades de sensibilización e porase en marcha unha páxina web específica para as actividades relacionadas coa alfabetización en materia de IA (dentro e fóra do ámbito de aplicación do artigo 4), as capacidades e o talento co obxectivo de promover o acceso á alfabetización en materia de IA e fomentar o diálogo sobre a IA para todos. |
|
A Oficina de IA valora altamente os coñecementos e a experiencia de todas as partes interesadas, incluída a industria. Por esta razón, creamos o Pacto de IA para fomentar a creación dunha comunidade colaborativa, onde as partes interesadas poidan compartir as mellores prácticas e políticas internas que poidan ser útiles para outros na súa viaxe de cumprimento. Con respecto á alfabetización en materia de IA, no marco do Pacto sobre a IA publicamos recentemente un repositorio vivo de prácticas de alfabetización en materia de IA; convídase a calquera provedor ou desenvolvedor de sistemas de IA que puxese en marcha un programa de alfabetización en materia de IA a presentar a súa contribución. A Oficina de IA verificará periodicamente que todas as contribucións recibidas cumpren os criterios mínimos de transparencia e fiabilidade antes de aceptalas no repositorio público. Durante o período de verificación, a enquisa podería pecharse temporalmente. |
Na nosa sección de Actualidade poderás atopar información sobre os eventos, charlas e conferencias máis relevantes no ámbito da intelixencia artificial.
Recursos útiles para a alfabetización en IA
Aproximación xeral ao Regulamento Europeo de Intelixencia Artificial
Usamos cookies de terceiros con fins analíticos, en resumo só usamos as cookies de Google Analytics para poder analizar o noso tráfico.
