7/16/2024
El 12 de juliol es va publicar al Diari Oficial de la Unió Europea el Reglament que regula la intel·ligència artificial i que fixa un seguit d’obligacions per a la IA en funció dels seus riscos potencials i el seu nivell d’impacte.
Quin és l’objectiu del reglament?
El principal objectiu del Reglament és millorar el funcionament del mercat interior i promoure l’adopció d’una intel·ligència artificial centrada en l’ésser humà i fiable, garantint alhora un elevat nivell de protecció de la salut, la seguretat i els drets fonamentals consagrats a la Carta, inclosos la democràcia, l’Estat de Dret i la protecció del medi ambient, davant els efectes perjudicials dels sistemes d’IA a la Unió Europea així com donar suport a la innovació.
Quan entrarà en vigor el reglament?
El Reglament entrarà en vigor als 20 dies de la seva publicació al DOUE i s’aplicarà a partir del 2 d’agost del 2026 amb les següents excepcions:
- Els capítols I i II seran aplicables a partir del 2 de febrer del 2025.
- El capítol III, secció 4, el capítol V, el capítol VII i el capítol XII i l’article 78 seran aplicables a partir del 2 d’agost del 2025, a excepció de l’article 101.
- L’article 6, apartat 1, i les obligacions corresponents del present Reglament seran aplicables a partir del 2 d’agost del 2027.
Com que es tracta d’un Reglament, és d’aplicació directa a tots els Estats membres (no requereix transposició).
Què entén el Reglament per “sistema d’IA”?
El Reglament defineix el “sistema d’IA” com un sistema basat en una màquina que està dissenyat per a funcionar amb diferents nivells d’autonomia i que pot mostrar capacitat d’adaptació després del desplegament, i que, per a objectius explícits o implícits, infereix de la informació d’entrada que rep la manera de generar resultats de sortida, com prediccions, continguts, recomanacions o decisions, que poden influir en entorns físics o virtuals.
Quin és l’àmbit d’aplicació laboral?
El Reglament no ha d’afectar a les disposicions destinades a millorar les condicions laborals a la feina en plataformes digitals establertes en una Directiva del Parlament Europeu i del Consell relativa a la millora de les condicions laborals a la feina en plataformes digitals.
El present Reglament té per objectiu reforçar l’eficàcia d’aquests drets i vies de recurs vigents mitjançant l’establiment de requisits i obligacions específics, també en allò referent a la transparència, la documentació tècnica i la conservació de registres dels sistemes d’IA.
Les obligacions imposades als diferents operadors que participen en la cadena de valor de la IA en virtut del present Reglament s’han d’aplicar sense perjudici del Dret nacional que, de conformitat amb el Dret de la Unió, tingui per efecte limitar l’ús de determinats sistemes d’IA quan aquest Dret quedi fora de l’àmbit d’aplicació del present Reglament o persegueixi objectius legítims d’interès públic diferents dels perseguits pel present Reglament. Així, per exemple, el present Reglament no ha d’afectar al dret laboral nacional ni al Dret en matèria de protecció de menors, a saber, de persones de menys de 18 anys, que tenen en compte la Observació general n.o 25 (2021) de la Convenció sobre els Drets del Nen de les Nacions Unides relativa als drets dels nens en relació amb l’entorn digital, en la mesura en què no són específiques als sistemes d’IA i persegueixen altres objectius legítims d’interès públic.
Quines mesures en matèria laboral s’hi inclouen?
El Reglament remarca que, pel desequilibri de poder en el context laboral o educatiu, unit al caràcter intrusiu de determinats sistemes d’IA, aquests sistemes podrien donar lloc a un tracte perjudicial o desfavorable de determinades persones físiques o col·lectius sencers.
Per tant, s’ha de prohibir la introducció al mercat, la posada en servei i l’ús de sistemes d’IA destinats a ser utilitzats per a detectar l’estat emocional de les persones en situacions relacionades amb el lloc de treball i l’àmbit educatiu. Aquesta prohibició no s’ha d’aplicar als sistemes d’IA introduïts al mercat estrictament amb finalitats mèdiques o de seguretat, com els sistemes destinats a un ús terapèutic.
Les relacions contractuals d’índole laboral han d’incloure, de manera significativa, als empleats i les persones que presten serveis a través de plataformes, com indica el programa de treballa de la Comissió pel 2021.
Aquests sistemes d’IA en l’àmbit laboral poden perpetuar patrons històrics de discriminació, per exemple, contra les dones, determinats grups d’edat, les persones amb discapacitat o les persones d’orígens racials o ètnics concrets o amb una orientació sexual determinada, durant tot el procés de contractació i en l’avaluació, promoció o retenció de persones en les relacions contractuals d’índole laboral. Els sistemes d’IA empleats per a controlar el rendiment i el comportament d’aquestes persones també poden debilitar els seus drets fonamentals a la protecció de les dades personals i a la intimitat.
Per tant, s’han de classificar com a sistemes d’alt risc els següents en matèria d’ocupació, gestió dels treballadors i accés a l’autoocupació:
Selecció de personal
Sistemes d’IA destinats a ser utilitzats per a la contractació o la selecció de persones físiques, en particular per a publicar anuncis de feina específics, analitzar i filtrar les sol·licituds de feina i avaluar els candidats.
Adopció de decisions laborals i/o d’extinció de contractes
Presa de decisions laborals o extinció de contractes: sistemes d’IA destinats a ser utilitzats per a prendre decisions que afectin a les condicions de les relacions d’índole laboral o a la promoció o rescissió de relacions contractuals d’índole laboral, per a l’assignació de tasques a partir de comportaments individuals o trets o característiques personals o per a supervisar i avaluar el rendiment i el comportament de les persones en el marc d’aquestes relacions.
Reconeixement d’emocions al lloc de treball
Cal que es prohibeixi la introducció al mercat, la posada en servei i l’ús de sistemes d’IA destinats a ser utilitzats per a detectar l’estat emocional de les persones en situacions relacionades amb el lloc de treball i l’àmbit educatiu.
Ara bé, aquesta prohibició no s’ha d’aplicar als sistemes d’IA introduïts al mercat estrictament amb finalitats mèdiques o de seguretat, com els sistemes destinats a un ús terapèutic.
Tens dubtes? Contacta amb nosaltres