Sistemas prohibidos

O artigo 5 (Capítulo II) do Regulamento (UE) 2024/1689 de Intelixencia Artificial establece as prácticas de IA prohibidas. Trátase dun número moi limitado de casos, oito en concreto, que afectan especialmente á intimidade e dignidade das persoas e que se consideran riscos inaceptables no ámbito da Unión Europea.

Estas prácticas prohibidas están en vigor desde o 2 de febreiro de 2025 e son as seguintes:

	1. O uso de técnicas subliminares ou deliberadamente manipuladoras ou enganosas, causando ou podendo causar un dano significativo.
		Exemplo: O uso dun sistema de IA para imitar outra persoa co obxectivo de enganar e distorsionar o comportamento das persoas, afectando así a súa capacidade para tomar decisións informadas, de forma que causen ou razoablemente poidan causar un dano significativo.
	2. A explotación de vulnerabilidades relacionadas coa idade, a discapacidade ou as circunstancias socioeconómicas para distorsionar o comportamento dunha persoa ou grupo, de maneira que cause ou poida causar un dano significativo.
		Exemplo: Un sistema de IA que se aproveita das vulnerabilidades das persoas maiores para defraudarlles ou influír nas súas decisións, o que pode empeorar a súa saúde mental e causarlles graves danos psicolóxicos.
	3. A avaliación ou clasificación de persoas ou grupos baseándose nos seus comportamentos sociais ou trazos persoais, que conduza a un trato prexudicial ou desfavorable ou que sexa inxustificado ou desproporcionado.
		Exemplo: Unha axencia de benestar social utiliza un sistema de IA para estimar a probabilidade de fraude mediante a combinación de modelos predictivos con datos de comportamento non relacionados co propósito da avaliación, como o estado civil e os datos de saúde, e que conduza a un trato prexudicial ou desproporcionado cara a esa persoa ou grupos de persoas.
	4. A avaliación ou predición do risco de que unha persoa cometa un delito, baseándose unicamente na creación de perfís ou trazos de personalidade, con excepcións legais.
		Exemplo: Unha autoridade policial utiliza un sistema de IA para predicir o comportamento delituoso de delitos como o terrorismo baseándose unicamente na idade, a nacionalidade, a dirección, o tipo de coche e o estado civil dos individuos.
	5. A creación ou expansión de bases de datos de recoñecemento facial mediante a extracción indiscriminada de Internet ou de gravacións de circuítos pechados de televisión (sistemas de videovixilancia).
		Exemplo: Sistemas de IA que crean ou expanden bases de datos de recoñecemento facial mediante a extracción indiscriminada de imaxes faciais de Internet ou de gravacións de circuítos pechados de televisión.
	6. A inferencia de emocións dunha persoa no lugar de traballo ou centro educativo, excepto por razóns médicas ou de seguridade.
		Exemplo: Unha empresa utiliza sistemas de recoñecemento de emocións para avaliar o rendemento dos empregados ou para tomar decisións sobre ascensos.
	7. A clasificación biométrica das persoas para inferir datos sensibles tales como a raza, as opinións políticas, a relixión, a orientación sexual, etc.
		Exemplo: Un sistema de IA que categoriza ás persoas activas nunha plataforma de medios sociais segundo a súa suposta orientación sexual analizando os datos biométricos das fotos compartidas nesa plataforma e, sobre esa base, serve a esas persoas anuncios.
	8. A identificación biométrica remota en tempo real en espazos públicos e de forma masiva, salvo excepcións para garantir o cumprimento do Dereito.
		Exemplo: Un organismo policial instala cámaras preparadas para a biometría en múltiples lugares, incluíndo lugares de culto, varios lugares frecuentados pola comunidade LGBT+, consultorios médicos, farmacias e varios restaurantes e bares.

O obxectivo final de todas estas medidas é garantir un elevado nivel de protección dos cidadáns, da saúde, a seguridade e os dereitos fundamentais consagrados na Carta dos Dereitos Fundamentais da Unión Europea; ao mesmo tempo que se minimizan os efectos prexudiciais da IA.