6/25/2026
El Reglament Europeu d’Intel·ligència Artificial —Reglament (UE) 2024/1689— afecta les empreses que utilitzen sistemes d’IA en la seva activitat ordinària. En aquest cas, l’empresa actua habitualment com a responsable del desplegament o usuària professional del sistema, no com a proveïdora. El Reglament és directament aplicable en tots els Estats membres i estableix normes sobre l’ús, posada en servei i explotació de sistemes d’IA dins la Unió Europea
Quan entra en vigor?
El 2 de febrer del 2025.
1. Identificar quines eines d’IA utilitza l’empresa
La primera obligació pràctica és tenir un inventari intern de les eines d’IA utilitzades.
2. Classificar el risc de cada ús
El Reglament funciona per nivells de risc. Per exemple:
|
Categoria
|
Conseqüència pràctica
|
|
Ús prohibit
|
No es pot utilitzar.
|
|
Alt risc
|
S’exigeixen controls reforçats.
|
|
Risc de transparència
|
Cal informar que s’utilitza IA.
|
|
Risc limitat o baix
|
Cal política interna, formació i control raonable.
|
Els sistemes d’IA d’alt risc poden aparèixer, especialment, en àmbits com recursos humans, educació, serveis essencials, accés a crèdit, assegurances, biometria, infraestructures crítiques o decisions que afectin drets de persones físiques. La Comissió Europea assenyala que els sistemes d’alt risc són aquells que poden posar en perill la salut, la seguretat o els drets fonamentals.
3. Evitar usos prohibits
L’empresa ha de prohibir internament determinats usos d’IA. Entre altres, no s’haurien d’utilitzar sistemes destinats a manipular persones de manera enganyosa o subliminal, explotar vulnerabilitats, fer puntuació social, deduir emocions en l’entorn laboral —excepte supòsits molt específics— o categoritzar biomètricament persones en funció de dades sensibles.
4. Formar el personal en ús responsable d’IA
L’empresa ha d’adoptar mesures perquè el personal que utilitza sistemes d’IA tingui un nivell suficient d’alfabetització en IA, tenint en compte la seva formació, experiència, funcions i el context d’ús del sistema.
A nivell pràctic, això exigeix:
- formació mínima sobre què és IA i quins riscos té;
- instruccions sobre quines eines es poden utilitzar;
- prohibició d’introduir dades confidencials o sensibles en eines no autoritzades;
- obligació de revisar els resultats abans d’utilitzar-los;
- criteris per detectar errors, al·lucinacions, biaixos o contingut no verificat;
- pautes específiques per a documents jurídics, fiscals, laborals, financers o tècnics.
5. Aprovar una política interna d’ús d’IA
L’empresa hauria de tenir una política interna d’ús d’IA, encara que el Reglament no imposi un model formal únic per a totes les empreses.
Aquesta política hauria de regular:
- eines autoritzades i eines prohibides;
- usos permesos i usos que requereixen autorització prèvia;
- tractament de dades personals;
- tractament de dades confidencials, secrets empresarials i informació de clients;
- revisió humana obligatòria;
- responsabilitat del personal usuari;
- conservació d’evidències;
- procediment d’incidències;
- ús d’IA en comunicacions amb clients, persones treballadores o tercers;
- criteris per contractar nous proveïdors d’IA.
6. Informar quan les persones interactuen amb IA
Quan l’empresa utilitzi sistemes d’IA que interactuïn directament amb persones físiques, cal informar que s’està interactuant amb una IA, excepte quan sigui evident pel context. Això afecta, per exemple, xatbots d’atenció al client, assistents virtuals, sistemes automatitzats de resposta o plataformes que generen interaccions amb clients o persones usuàries.
També cal ser especialment prudent quan es generin o manipulin continguts mitjançant IA, com imatges, àudios, vídeos o textos que puguin induir a error sobre el seu origen.
Quines poden ser les sancions?
Les sancions poden ser elevades. L’incompliment de les pràctiques prohibides pot arribar fins a 35.000.000€ o el 7% del volum de negoci mundial anual. Altres incompliments poden arribar fins a 15.000.000€ o el 3% del volum de negoci mundial anual. La informació inexacta, incompleta o enganyosa facilitada a autoritats o organismes notificats pot sancionar-se fins a 7.500.000€ o l’1% del volum de negoci mundial anual. Per a pimes i empreses emergents s’aplica el menor dels imports corresponents.
L’empresa ha d’acreditar que utilitza la IA de forma controlada, transparent, segura i proporcionada. El risc principal no és només l’eina utilitzada, sinó la finalitat del tractament, les dades introduïdes i l’impacte que el resultat pot tenir sobre persones físiques, clients, persones treballadores o tercers.
Tens dubtes? Contacta amb nosaltres