Sistemes prohibits

L'article 5 (Capítol II) del Reglament (UE) 2024/1689 d'Intel·ligència Artificial estableix les pràctiques de IA prohibides. Es tracta d'un número molt limitat de casos, vuit en concret, que afecten especialment de la intimitat i dignitat de les persones i que es consideren riscos inacceptables en l'àmbit de la Unió Europea.

Aquestes pràctiques prohibides estan en vigor des del 2 de febrer de 2025 i són les següents:

	1. L'ús de tècniques subliminals o deliberadament manipuladores o enganyoses, causant o podent causar un mal significatiu.
		Exemple: L'ús d'un sistema de IA per a imitar una altra persona amb l'objectiu d'enganyar i distorsionar el comportament de les persones, afectant així la seva capacitat per a prendre decisions informades, de manera que causin o raonablement puguin causar un mal significatiu.
	2. L'explotació de vulnerabilitats relacionades amb l'edat, la discapacitat o les circumstàncies socioeconòmiques per a distorsionar el comportament d'una persona o grup, de manera que causi o pugui causar un mal significatiu.
		Exemple: Un sistema de IA que s'aprofita de les vulnerabilitats de les persones majors per a defraudar-los o influir en les seves decisions, la qual cosa pot empitjorar la seva salut mental i causar-los greus danys psicològics.
	3. L'avaluació o classificació de persones o grups basant-se en els seus comportaments socials o trets personals, que condueixi a un tracte perjudicial o desfavorable o que sigui injustificat o desproporcionat.
		Exemple: Una agència de benestar social utilitza un sistema de IA per a estimar la probabilitat de frau mitjançant la combinació de models predictius amb dades de comportament no relacionats amb el propòsit de l'avaluació, com l'estat civil i les dades de salut, i que condueixi a un tracte perjudicial o desproporcionat cap a aquesta persona o grups de persones.
	4. L'avaluació o predicció del risc que una persona cometi un delicte, basant-se únicament en la creació de perfils o trets de personalitat, amb excepcions legals.
		Exemple: Una autoritat policial utilitza un sistema de IA per a predir el comportament delictiu de delictes com el terrorisme basant-se únicament en l'edat, la nacionalitat, la direcció, el tipus de cotxe i l'estat civil dels individus.
	5. La creació o expansió de bases de dades de reconeixement facial mitjançant l'extracció indiscriminada d'Internet o d'enregistraments de circuits tancats de televisió (sistemes de videovigilància).
		Exemple: Sistemes de IA que creen o expandeixen bases de dades de reconeixement facial mitjançant l'extracció indiscriminada d'imatges facials d'Internet o d'enregistraments de circuits tancats de televisió.
	6. La inferència d'emocions d'una persona en el lloc de treball o centre educatiu, excepte per raons mèdiques o de seguretat.
		Exemple: Una empresa utilitza sistemes de reconeixement d'emocions per a avaluar el rendiment dels empleats o per a prendre decisions sobre ascensos.
	7. La classificació biomètrica de les persones per a inferir dades sensibles com ara la raça, les opinions polítiques, la religió, l'orientació sexual, etc.
		Exemple: Un sistema de IA que categoritza a les persones actives en una plataforma de mitjans socials segons la seva suposada orientació sexual analitzant les dades biomètriques de les fotos compartides en aquesta plataforma i, sobre aquesta base, serveix a aquestes persones anuncis.
	8. La identificació biomètrica remota en temps real en espais públics i de manera massiva, excepte excepcions per a garantir el compliment del Dret.
		Exemple: Un organisme policial instal·la cambres preparades per a la biometria en múltiples llocs, incloent llocs de culte, diversos llocs freqüentats per la comunitat LGBT+, consultoris mèdics, farmàcies i diversos restaurants i bars.

L'objectiu final de totes aquestes mesures és garantir un elevat nivell de protecció dels ciutadans, de la salut, la seguretat i els drets fonamentals consagrats en la Carta dels Drets Fonamentals de la Unió Europea; al mateix temps que es minimitzen els efectes perjudicials de la IA.