Monocultures algorítmiques als RRHH: què han de fer les PIMEs

Si la teva PIME va començar a fer servir IA per filtrar currículums o automatitzar parts del procés de selecció el 2024-2025, és probable que t'hagis preguntat alguna vegada: "el sistema és just?". La resposta intuïtiva ha sigut sempre la mateixa: "depèn de com l'auditem internament". I aquesta resposta, fins fa pocs mesos, era raonable.

Ara ja no ho és. I no perquè la IA hagi empitjorat, sinó perquè el nou estudi de Stanford de maig de 2026 ha trobat un fenomen que la nostra intuïció no havia anticipat: el problema no és cada eina aïllada, és l'efecte combinat de fer servir les mateixes tres o quatre eines a tota la indústria.

Què va trobar Stanford (les xifres exactes)

L'estudi es diu "Algorithmic Monocultures in Hiring", publicat el maig de 2026 per Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky i Percy Liang del Stanford Digital Economy Lab. Van analitzar 4 milions de candidatures de 3 milions de sol·licitants processades per una sola plataforma comercial coneguda (Pymetrics) en molts grans ocupadors.

Els tres números que importen:

[Pots llegir el resum oficial de Stanford aquí](https://digitaleconomy.stanford.edu/publication/algorithmic-monocultures-in-hiring/) i el [Q&A complementari del Stanford Digital Economy Lab](https://digitaleconomy.stanford.edu/news/qa-algorithmic-monoculture/).

Per situar-ho amb un altre estudi recent: la Universitat de Washington (octubre 2024) va testar models de llenguatge en un experiment de filtrat de currículums i va trobar que els models afavorien noms associats amb raça blanca el 85% del temps vs negres el 9%, i mai favorien un nom associat amb home negre per sobre d'un nom associat amb home blanc. L'estudi de la UW va aïllar el biaix individual en condicions de laboratori; l'estudi de Stanford ha trobat el biaix col·lectiu en dades reals.

El concepte nou: monocultura algorítmica

Imagina aquest escenari (no és hipotètic, és el que descriu Stanford):

Tres quartes parts dels grans ocupadors del teu sector fan servir el mateix proveïdor d'ATS amb IA. El sistema, entrenat amb dades històriques, té un biaix subtil contra certs perfils. Una candidata és rebutjada per l'empresa A. Aplica a l'empresa B, que fa servir el mateix sistema → mateix rebuig. Empresa C, mateix proveïdor → mateix rebuig.

No és que cada empresa l'estigui rebutjant per la seva pròpia decisió. És que l'algoritme l'està rebutjant tres vegades.

Stanford anomena això "monocultura algorítmica": quan la indústria es concentra en pocs proveïdors d'IA per a una funció crítica, els errors d'aquests proveïdors no es queden a casa seva, es propaguen a tot el mercat com un sol fallada sistèmica.

Per a una candidata individual, això significa que un sol fall tècnic pot tancar-li 10 portes alhora. Per als responsables de RRHH d'una empresa concreta, significa que la teva "auditoria interna" mai detectarà aquest problema, perquè el problema viu a fora, a la convergència estructural del mercat.

Per què aquest és el moment de mirar-s'ho

Tres raons que es solapen aquest 2026 i fan que no es pugui ajornar:

1. L'AI Act s'aplica als sistemes d'alt risc, però amb deadline movida. Els sistemes d'IA utilitzats per a selecció de personal estan explícitament classificats com a alt risc a l'Annex III de l'AI Act. El 7 de maig de 2026, el Consell de la UE i el Parlament Europeu van arribar a un acord polític al Digital Omnibus que ajorna la data d'obligació de compliment per als sistemes d'alt risc del 2 d'agost de 2026 al 2 de desembre de 2027 ([font: Comissió Europea](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai); [anàlisi DLA Piper](https://knowledge.dlapiper.com/dlapiperknowledge/globalemploymentlatestdevelopments/2026/The-Digital-AI-Omnibus-Proposed-deferral-of-high-risk-AI-obligations-under-the-AI-Act)). L'ajornament no és cancel·lació, és temps addicional per preparar-se.

L'obligació es reparteix: el proveïdor del sistema ha de mantenir documentació tècnica i avaluacions de conformitat; l'empresa que el desplega (deployer) també té obligacions de supervisió humana, monitorització, i avaluació d'impacte. Si la teva PIME fa servir Workday, Pymetrics, HireVue, eightfold.ai o similar per a selecció, ets co-responsable.

2. L'AEPD ha fet enforcement molt més actiu el 2025. L'AEPD reporta 30.931 reclamacions (+64% interanual) i €48.108.765 en multes (+35% interanual) ([font oficial: nota de premsa AEPD](https://www.aepd.es/prensa-y-comunicacion/notas-de-prensa/la-agencia-recibio-mas-de-30.000-reclamaciones-en-2025-un-64-mas)). Encara que el recruitment no està al top-6 d'àrees més sancionades, l'AEPD ja ha anunciat un focus específic en IA per al període 2025-2027.

3. El cost reputacional ja és quantificable. Una empresa que apareix en un titular tipus "El seu ATS discriminava sistemàticament dones de més de 45 anys" perd més en setmanes de talent + clients que el que costaria una auditoria preventiva.

Com auditar un ATS amb IA: 5 accions concretes que poden fer els RRHH d'una PIME aquest mes

No cal contractar una consultora gran. Aquestes accions són fer-les internament amb un equip d'una o dues persones formades:

1. Inventari de tots els punts on intervé la IA al procés de selecció

Llistar amb noms i versions:

Sense aquest inventari, no pots auditar res.

2. Demanar al proveïdor l'informe de biaixos del seu sistema

L'AI Act obliga els proveïdors de sistemes d'alt risc a preparar i mantenir documentació tècnica, instruccions d'ús i evidències de conformitat. Com a client (deployer), pots i has de demanar la documentació disponible per a tu, específicament:

Si no et donen aquesta documentació en un termini raonable, és bandera vermella. La regulació l'exigeix; un proveïdor que no la té tampoc està preparat per al 2 de desembre de 2027.

3. Auditoria interna de selecció dels últims 12 mesos

Demanar al teu equip de RRHH (o al teu data analyst si en tens) que prepari un informe:

Aquesta auditoria no és una acusació al teu equip, és la línia base que l'AI Act et demanarà demostrar el 2027. Tenir-la ara és estar més d'un any avançada.

4. Procés de supervisió humana real (no decorativa)

L'AI Act exigeix "human oversight". A la pràctica, això vol dir:

5. Quatre formacions específiques en el teu equip

Estem als inicis d'una nova competència professional: gestió d'IA als RRHH. La teva PIME necessita persones formades en quatre coses:

Per què Catalunya té un component addicional

Hi ha un detall que els estudis americans no toquen i que afecta directament al mercat català: molts ATS amb IA estan entrenats predominantment en corpus en anglès i, en menor mesura, espanyol. La capacitat de parsejar correctament un CV en català és en general inferior a la d'un CV en castellà.

A la pràctica, això vol dir que un candidat amb el seu CV en català pot ser interpretat de manera diferent pel sistema que el mateix candidat amb el CV en castellà. Per a una empresa catalana que fa servir un ATS comercial estàndard, això vol dir que el biaix lingüístic pot estar amplificant el biaix algorítmic. Si la teva oferta permet aplicar en català, vols saber si el teu ATS l'està desafavorint.

Què passa si no fas res

L'escenari realista no és que demà l'AEPD truqui a la teva porta. L'escenari realista té tres parts:

A curt termini (2026-2027): el cost regulatori puja, però gradualment. Les primeres sancions seran a empreses grans. Tens 12-18 mesos per posar-te al dia.

A mig termini (2027-2028): començarà a haver-hi reclamacions individuals de candidats rebutjats que demanaran explicacions. L'empresa que tingui processos clars + documentació hi respondrà en una setmana; la que no, hi gastarà setmanes de feina interna improvisada.

A llarg termini (2028+): les empreses que hagin convertit l'auditoria d'IA RRHH en una competència nucli tindran avantatge en talent, perquè els candidats triaran activament empreses que demostrin processos justos. Ja passa als EUA.

Conclusió: el problema no és la IA, és la concentració

L'estudi de Stanford no és una crítica a la IA als RRHH. És una observació estructural: quan tota una indústria fa servir els mateixos tres o quatre sistemes per a una funció crítica, qualsevol error d'aquests sistemes es propaga a tot el mercat. Aquesta és la lliçó nova.

Per a una PIME, la implicació pràctica és clara: no n'hi ha prou amb confiar en el teu proveïdor. La responsabilitat de la justícia del procés és compartida, i la part que et toca a tu (deployer) inclou supervisió, monitorització i avaluació d'impacte. La bona notícia és que l'auditoria interna no és tècnicament difícil, el que és difícil és decidir-se a començar.

El 2 de desembre de 2027 és la nova data en què el regulador comença a comptar per a sistemes d'alt risc. Tenir l'inventari, l'informe de biaixos del proveïdor i una auditoria interna feta abans d'aquesta data és el millor regal que pots fer a la teva empresa.

---

A IAescola tenim formació específica per a equips de RRHH de PIMEs, [bonificable a través de FUNDAE](/ca/blog/cursos-ia-subvencionados-empresas) (codi entitat Nº 9900033425), adaptada al mercat espanyol i a l'AI Act. [Reserva un diagnòstic gratuït](/ca/diagnostic-formacio-ia) si vols veure quina formació encaixa millor amb on està la teva empresa avui.

Lectures relacionades:

Fonts citades: