El Ministeri de Treball i Economia Social ha presentat la «Guia pràctica i eina sobre l'obligació empresarial d'informació sobre l'ús d'algoritmes a l'àmbit laboral», que permetrà a les persones treballadores afectades per algoritmes saber que les seves dades estan sent tractats de manera automatitzada i que uns certs elements de la seva relació laboral com la contractació, condicions laborals o acomiadaments depenen d'aquest mecanisme.
En aquesta Guia apareixen recollides les obligacions de l'empresa respecte a la informació que ha de facilitar a la representació legal de la plantilla i a les pròpies persones treballadores respecte a l'ús d'algoritmes. Així mateix, també contempla quina informació pot sol·licitar la representació legal de la plantilla i les pròpies persones treballadores. D'igual manera, es recull un llistat de les obligacions empresarials de negociació de l'algoritme, auditoria i avaluació d'impacte.
Què és un algoritme?
Per a la RAE és un conjunt ordenat i finit d'operacions que permet trobar la solució d'un problema. No obstant això, quan parlem d'un algoritme per a la presa de decisions, estem parlant que el propi procediment tria a qui assignar automàticament un horari, una promoció, una tasca…
A l'acte de presentació de la guia va participar Nick Srnicek, professor d'Economia Digital en el King´s College de Londres. El professor Srnicek va assenyalar que «els algoritmes no sols s'empren en les plataformes digitals, sinó que cada vegada més s'utilitzen en entorns laborals tradicionals». Per tant es pot arribar a reproduir una «discriminació algorítmica», reproduint la discriminació tradicional.
Quina obligació tenen les empreses?
Un punt important és saber a què afecta aquesta guia. Les organitzacions que utilitzen algoritmes per a:
- Selecció
- Contractació
- Assignació d'horaris
- Assignació de tasques
- Mesurament de productivitat
- Promocions
- Fixació de salaris
- Acomiadaments
Han de saber que han de complir l'obligació del art.22 del Reglament General de Protecció de Dades (RGPD) que estableix que l'ús de la tecnologia per a la presa de decisions empresarials ha de realitzar-se de manera transparent i informat dels mètodes emprats i la seva finalitat.
Quina informació ha de facilitar l'empresa als treballadors en matèria d'ús d'algoritmes?
Les empreses que facin ús d'algoritmes a l'àmbit laboral deuen proporcionar als seus treballadors la següent informació:
- Informació sobre l'ús d'algoritmes o sistemes d'intel·ligència artificial per a prendre decisions automatitzades, incloent-hi l'elaboració de perfils, identificant la tecnologia utilitzada i les decisions de gestió de persones respecte de les quals s'utilitza tal tecnologia: L'ús d'algoritmes i sistemes d'intel·ligència artificial per a la presa de decisions de gestió de persones i per a l'elaboració de perfils de les persones per a la seva aplicació a l'àmbit laboral, les concretes decisions de gestió de persones que són preses mitjançant algoritmes o sistemes de decisió automatitzada (selecció de persones, contractació, assignació de tasques, control de la productivitat, promocions, ascensos, etc.), el tipus de tecnologia utilitzada per part de l'algoritme si aquesta genera un algoritme de “caixa negra” o si es tracta d'un algoritme d'aprenentatge continu, el concret software o producte utilitzat i, en el seu cas, si compta amb alguna mena de certificació, i el grau d'intervenció humana qualificada en les decisions adoptades.
- Informació significativa, clara i simple sobre la lògica i funcionament de l'algoritme: Les variables i paràmetres utilitzats, com són la tipologia de perfils que elabora l'algoritme, les variables utilitzades per part de l'algoritme, enteses com la informació o factors utilitzats, els paràmetres utilitzats per part de l'algoritme per a la presa de decisions automatitzades, entesos com la ponderació relativa de cada variable, les regles i instruccions utilitzades per l'algoritme, enteses com les regles de programació, les dades d'entrenament, les mètriques de precisió o error a les tasques automatitzades, i les auditories o l'avaluació d'impacte realitzades per part de l'empresa.
- Informació sobre les conseqüències que poden derivar-se de la decisió adoptada mitjançant l'ús d'algoritmes o sistemes de decisió automatitzada, com són: Les conseqüències que la decisió adoptada mitjançant algoritmes o sistemes de decisió automatitzada poden tenir sobre la persona, i, a més, s'ha de proporcionar a la representació legal dels treballadors informació respecte a l'impacte en matèria d'igualtat i no discriminació entre dones i homes.
