Monoculturas algorítmicas en RRHH: guía de auditoría para PYMEs
Si tu PYME empezó a usar IA para filtrar currículums o automatizar partes del proceso de selección en 2024-2025, es probable que alguna vez te hayas preguntado: "¿el sistema es justo?". La respuesta intuitiva ha sido siempre la misma: "depende de cómo lo auditemos internamente". Y esa respuesta, hasta hace pocos meses, era razonable.
Ahora ya no lo es. Y no porque la IA haya empeorado, sino porque el nuevo estudio de Stanford de mayo de 2026 ha encontrado un fenómeno que nuestra intuición no había anticipado: el problema no es cada herramienta aislada, es el efecto combinado de usar las mismas tres o cuatro herramientas en toda la industria.
Lo que encontró Stanford (las cifras exactas)
El estudio se titula "Algorithmic Monocultures in Hiring", publicado en mayo de 2026 por Rishi Bommasani, Sarah Bana, Kathleen Creel, Dan Jurafsky y Percy Liang del Stanford Digital Economy Lab. Analizaron 4 millones de candidaturas de 3 millones de solicitantes procesadas por una única plataforma comercial conocida (Pymetrics) en muchos grandes empleadores.
Los tres números que importan:
[Puedes leer el resumen oficial de Stanford aquí](https://digitaleconomy.stanford.edu/publication/algorithmic-monocultures-in-hiring/) y el [Q&A complementario del Stanford Digital Economy Lab](https://digitaleconomy.stanford.edu/news/qa-algorithmic-monoculture/).
Para contextualizarlo con otro estudio reciente: la Universidad de Washington (octubre 2024) testó modelos de lenguaje en un experimento de filtrado de currículums y encontró que los modelos favorecían nombres asociados con raza blanca el 85% del tiempo vs nombres negros el 9%, y nunca favorecían un nombre asociado con hombre negro por encima de un nombre asociado con hombre blanco. El estudio de la UW aisló el sesgo individual en condiciones de laboratorio; el de Stanford ha encontrado el sesgo colectivo en datos reales.
El concepto nuevo: monocultura algorítmica
Imagina este escenario (no es hipotético, es lo que describe Stanford):
Tres cuartas partes de los grandes empleadores de tu sector usan el mismo proveedor de ATS con IA. El sistema, entrenado con datos históricos, tiene un sesgo sutil contra ciertos perfiles. Una candidata es rechazada por la empresa A. Aplica a la empresa B, que usa el mismo sistema → mismo rechazo. Empresa C, mismo proveedor → mismo rechazo.
No es que cada empresa la esté rechazando por su propia decisión. Es que el algoritmo la está rechazando tres veces.
Stanford llama a esto "monocultura algorítmica": cuando la industria se concentra en pocos proveedores de IA para una función crítica, los errores de esos proveedores no se quedan en casa, se propagan a todo el mercado como un único fallo sistémico.
Para una candidata individual, eso significa que un solo fallo técnico puede cerrarle 10 puertas a la vez. Para los responsables de RRHH de una empresa concreta, significa que tu "auditoría interna" nunca detectará ese problema, porque el problema vive fuera, en la convergencia estructural del mercado.
Por qué este es el momento de mirárselo
Tres razones que se solapan este 2026 y hacen que no se pueda aplazar:
1. El AI Act se aplica a los sistemas de alto riesgo, pero con el deadline movido. Los sistemas de IA utilizados para selección de personal están explícitamente clasificados como alto riesgo en el Anexo III del AI Act. El 7 de mayo de 2026, el Consejo de la UE y el Parlamento Europeo alcanzaron un acuerdo político en el Digital Omnibus que aplaza la fecha de obligación de cumplimiento para los sistemas de alto riesgo del 2 de agosto de 2026 al 2 de diciembre de 2027 ([fuente: Comisión Europea](https://digital-strategy.ec.europa.eu/en/policies/regulatory-framework-ai); [análisis DLA Piper](https://knowledge.dlapiper.com/dlapiperknowledge/globalemploymentlatestdevelopments/2026/The-Digital-AI-Omnibus-Proposed-deferral-of-high-risk-AI-obligations-under-the-AI-Act)). El aplazamiento no es cancelación, es tiempo adicional para prepararse.
La obligación se reparte: el proveedor del sistema debe mantener documentación técnica y evaluaciones de conformidad; la empresa que lo despliega (deployer) también tiene obligaciones de supervisión humana, monitorización, y evaluación de impacto. Si tu PYME usa Workday, Pymetrics, HireVue, eightfold.ai o similar para selección, eres co-responsable.
2. La AEPD ha hecho enforcement mucho más activo en 2025. La AEPD reporta 30.931 reclamaciones (+64% interanual) y €48.108.765 en multas (+35% interanual) ([fuente oficial: nota de prensa AEPD](https://www.aepd.es/prensa-y-comunicacion/notas-de-prensa/la-agencia-recibio-mas-de-30.000-reclamaciones-en-2025-un-64-mas)). Aunque el recruitment no está en el top-6 de áreas más sancionadas, la AEPD ya ha anunciado un foco específico en IA para el periodo 2025-2027.
3. El coste reputacional ya es cuantificable. Una empresa que aparece en un titular tipo "Su ATS discriminaba sistemáticamente a mujeres de más de 45 años" pierde más en semanas de talento + clientes que lo que costaría una auditoría preventiva.
Cómo auditar un ATS con IA: 5 acciones concretas que pueden hacer los RRHH de una PYME este mes
No hace falta contratar una consultora grande. Estas acciones se pueden hacer internamente con un equipo de una o dos personas formadas:
1. Inventario de todos los puntos donde interviene la IA en el proceso de selección
Listar con nombres y versiones:
Sin este inventario, no puedes auditar nada.
2. Pedir al proveedor el informe de sesgos de su sistema
El AI Act obliga a los proveedores de sistemas de alto riesgo a preparar y mantener documentación técnica, instrucciones de uso y evidencias de conformidad. Como cliente (deployer), puedes y debes solicitar la documentación disponible para ti, específicamente:
Si no te dan esta documentación en un plazo razonable, es bandera roja. La regulación lo exige; un proveedor que no la tiene tampoco está preparado para el 2 de diciembre de 2027.
3. Auditoría interna de selección de los últimos 12 meses
Pedir a tu equipo de RRHH (o a tu data analyst si tienes uno) que prepare un informe:
Esta auditoría no es una acusación a tu equipo, es la línea base que el AI Act te pedirá demostrar en 2027. Tenerla ahora es estar más de un año por delante.
4. Proceso de supervisión humana real (no decorativa)
El AI Act exige "human oversight". En la práctica, eso significa:
5. Cuatro formaciones específicas en tu equipo
Estamos en los inicios de una nueva competencia profesional: gestión de IA en RRHH. Tu PYME necesita personas formadas en cuatro cosas:
Por qué Cataluña tiene un componente adicional
Hay un detalle que los estudios americanos no tocan y que afecta directamente al mercado catalán: muchos ATS con IA están entrenados predominantemente en corpus en inglés y, en menor medida, español. La capacidad de parsear correctamente un CV en catalán es en general inferior a la de un CV en castellano.
En la práctica, eso significa que un candidato con su CV en catalán puede ser interpretado de manera diferente por el sistema que el mismo candidato con el CV en castellano. Para una empresa española con presencia en Cataluña que usa un ATS comercial estándar, esto significa que el sesgo lingüístico puede estar amplificando el sesgo algorítmico. Si tu oferta permite aplicar en catalán, querrás saber si tu ATS lo está desfavoreciendo (puedes contrastar la distribución demográfica del IDESCAT con los pools de finalistas).
Qué pasa si no haces nada
El escenario realista no es que mañana la AEPD llame a tu puerta. El escenario realista tiene tres partes:
A corto plazo (2026-2027): el coste regulatorio sube, pero gradualmente. Las primeras sanciones serán a empresas grandes. Tienes 12-18 meses para ponerte al día.
A medio plazo (2027-2028): empezará a haber reclamaciones individuales de candidatos rechazados que pedirán explicaciones. La empresa que tenga procesos claros + documentación responderá en una semana; la que no, gastará semanas de trabajo interno improvisado.
A largo plazo (2028+): las empresas que hayan convertido la auditoría de IA RRHH en una competencia núcleo tendrán ventaja en talento, porque los candidatos elegirán activamente empresas que demuestren procesos justos. Ya pasa en EE.UU.
Conclusión: el problema no es la IA, es la concentración
El estudio de Stanford no es una crítica a la IA en RRHH. Es una observación estructural: cuando toda una industria usa los mismos tres o cuatro sistemas para una función crítica, cualquier error de esos sistemas se propaga a todo el mercado. Esa es la lección nueva.
Para una PYME, la implicación práctica es clara: no basta con confiar en tu proveedor. La responsabilidad de la justicia del proceso es compartida, y la parte que te toca a ti (deployer) incluye supervisión, monitorización y evaluación de impacto. La buena noticia es que la auditoría interna no es técnicamente difícil, lo difícil es decidirse a empezar.
El 2 de diciembre de 2027 es la nueva fecha en que el regulador empieza a contar para sistemas de alto riesgo. Tener el inventario, el informe de sesgos del proveedor y una auditoría interna hecha antes de esa fecha es el mejor regalo que puedes hacerle a tu empresa.
---
En IAescola tenemos formación específica para equipos de RRHH de PYMEs, [bonificable a través de FUNDAE](/es/blog/cursos-ia-subvencionados-empresas) (código entidad Nº 9900033425), adaptada al mercado español y al AI Act. [Reserva un diagnóstico gratuito](/es/diagnostic-formacio-ia) si quieres ver qué formación encaja mejor con dónde está tu empresa hoy.
Lecturas relacionadas:
Fuentes citadas: