¿Qué es el precontrato de trabajo para extranjeros en España?
13 agosto, 2025
La IA que selecciona candidatos necesita reglas propias para evitar la discriminación
Un nuevo informe propone estándares específicos para controlar la inteligencia artificial utilizada en selección de personal. Analiza cómo detectar discriminación, auditar rankings, proteger datos sensibles, explicar decisiones y asegurar una supervisión humana efectiva.
Los sistemas de inteligencia artificial ya filtran currículos, ordenan candidaturas y recomiendan qué personas deberían avanzar en un proceso de selección. El problema es que las normas generales sobre IA no explican con suficiente detalle cómo controlar estos sistemas cuando una puntuación puede decidir quién accede a una entrevista y quién queda descartado.
El informe Vertical Standardisation for High-Risk AI Systems under the EU AI Act: A Domain-Specific Framework for Algorithmic Hiring, elaborado por Anna Gatzioura, Vrettos Moulos y Nina Baranowska, propone crear estándares específicos para la contratación algorítmica. Su tesis es clara: aplicar reglas horizontales a todos los sistemas de IA no basta para afrontar los riesgos propios de la selección de personal.
El trabajo, publicado como preprint en arXiv en julio de 2026, se centra especialmente en los sistemas que clasifican o puntúan candidatos según su supuesta adecuación a un puesto. No plantea prohibirlos, sino traducir las obligaciones generales del Reglamento Europeo de Inteligencia Artificial en controles concretos que puedan auditarse.
La selección automatizada se considera un uso de alto riesgo
El Reglamento Europeo de Inteligencia Artificial incluye entre los sistemas de alto riesgo determinadas herramientas utilizadas para:
- analizar y filtrar solicitudes de empleo;
- clasificar candidatos;
- evaluar su idoneidad;
- mostrar anuncios de empleo de forma dirigida;
- apoyar decisiones que afectan a la relación laboral.
Esta clasificación responde al efecto que una decisión automatizada puede tener sobre el acceso al trabajo y sobre derechos como la igualdad de trato y la no discriminación.
Tras los cambios acordados en 2026, las obligaciones específicas para sistemas de alto riesgo empleados en ámbitos como el empleo comenzarán a aplicarse el 2 de diciembre de 2027. La Comisión Europea también ha publicado directrices para aclarar qué sistemas entran en esta categoría.
En esta guía sobre IA en procesos de selección y derechos de los candidatos explicamos qué información puede pedir una persona cuando una empresa utiliza algoritmos para analizar su candidatura.
El principal vacío: las normas generales no explican cómo actuar en contratación
El informe parte de una carencia práctica. Existen marcos y estándares generales como ISO/IEC 42001 para sistemas de gestión de IA, ISO/IEC 23894 para la gestión de riesgos o el marco de gestión de riesgos de IA del NIST.
Estas referencias ayudan a organizar responsabilidades, documentación y controles, pero no resuelven por completo cuestiones propias de la selección de personal:
- qué datos deben conservarse para detectar discriminación;
- cómo comprobar si determinados grupos aparecen sistemáticamente en posiciones inferiores;
- qué indicadores de equidad deben medirse;
- cuándo debe revisarse un modelo;
- qué explicación debe recibir un candidato;
- cómo debe intervenir una persona antes de confirmar un descarte.
Los autores defienden una estandarización vertical: requisitos diseñados para un ámbito concreto, en este caso la contratación algorítmica, que complementen los estándares horizontales aplicables a cualquier sistema de IA.
Los riesgos deben controlarse durante toda la vida del sistema
Una de las ideas centrales del informe es que una auditoría realizada antes de poner en marcha una herramienta no resulta suficiente.
Un modelo puede superar las pruebas iniciales y empezar a generar resultados desiguales cuando cambian las ofertas, las candidaturas, el mercado de trabajo o los criterios utilizados por la empresa.
El estudio propone que la revisión del riesgo se active cuando aparezcan:
- diferencias inesperadas entre grupos;
- cambios en el comportamiento del modelo;
- pérdida de precisión;
- nuevas formas de discriminación;
- resultados perjudiciales detectados durante el uso real.
Este planteamiento, denominado por los autores AuditOps, conecta las pruebas previas, la vigilancia posterior y la modificación del sistema. El control deja de depender únicamente de auditorías periódicas y pasa a responder también a los daños observados.
El diagrama de la página 8 del informe representa este proceso completo: desarrollo con datos y modelos sensibles a la equidad, validación antes del uso, despliegue y vigilancia posterior de posibles desigualdades.
No basta con medir la precisión media
Una herramienta puede mostrar una tasa de acierto elevada y perjudicar al mismo tiempo a determinados colectivos.
Por eso, el informe pide que las empresas no evalúen solo el rendimiento agregado. También deberían comprobar:
- qué candidatos aparecen en las primeras posiciones;
- qué grupos reciben menor visibilidad;
- quién supera cada fase;
- qué diferencias existen entre los resultados previos y posteriores a corregir un sesgo;
- si una característica aparentemente neutra funciona como sustituto indirecto del sexo, la edad, el origen o la discapacidad.
Los autores recomiendan analizar la equidad en tres niveles: los datos introducidos, la puntuación o clasificación generada y el resultado final del proceso.
Este planteamiento encaja con los resultados de un reciente estudio de Stanford sobre cuatro millones de candidaturas. La investigación encontró diferencias raciales en una herramienta utilizada por unos 150 empleadores y advirtió de un riesgo adicional: cuando varias empresas usan el mismo modelo, una persona puede quedar descartada repetidamente por el mismo patrón algorítmico.
Infoposiciones.net analizó ese trabajo en el artículo IA en selección: Stanford alerta de sesgos raciales.
Datos sintéticos para probar el sistema antes de utilizarlo
Uno de los problemas más delicados consiste en detectar discriminación sin vulnerar la privacidad de los candidatos.
Para comprobar si un modelo discrimina puede ser necesario conocer características protegidas. Pero el tratamiento de datos sensibles está limitado por el Reglamento General de Protección de Datos.
El informe propone utilizar currículos sintéticos o semisintéticos durante las pruebas previas. Estos conjuntos reproducen determinadas características estadísticas sin utilizar directamente expedientes reales identificables.
Podrían servir para comprobar, por ejemplo, si dos perfiles equivalentes reciben puntuaciones distintas cuando cambia una característica demográfica.
Los autores introducen, sin embargo, una limitación importante: los datos sintéticos sirven para probar el sistema antes de desplegarlo, pero no sustituyen la vigilancia con información procedente del funcionamiento real. No pueden reflejar todos los cambios que aparecen una vez que el algoritmo empieza a interactuar con candidatos y empresas.
Qué debería registrar una herramienta de selección
El registro técnico de actividad suele limitarse a errores, accesos o fallos del sistema. Para auditar discriminación hacen falta otros datos.
El informe recomienda conservar información sobre:
- la posición asignada a cada candidatura;
- la visibilidad obtenida dentro de los primeros resultados;
- los factores utilizados para calcular la puntuación;
- las versiones del modelo;
- los cambios en los datos;
- las intervenciones humanas;
- los resultados de las pruebas de equidad;
- las modificaciones realizadas tras detectar un problema.
Estos registros permitirían reconstruir cómo se produjo una decisión y comprobar si determinadas variables actuaron como sustitutos de características protegidas.
El reto es conservar pruebas suficientes sin generar una base de datos invasiva sobre los candidatos. Los autores plantean recurrir a terceros de confianza y técnicas de computación segura para calcular indicadores sin revelar directamente los datos sensibles.
Las explicaciones deben servir al candidato
La transparencia no puede limitarse a publicar un documento técnico difícil de entender.
El informe distingue entre la información que necesitan los desarrolladores, los responsables de recursos humanos, los auditores y las personas candidatas. Cada grupo debería recibir explicaciones adaptadas a su función.
Para los candidatos propone dos tipos:
- Explicación factual: qué factores influyeron en el resultado.
- Explicación contrafactual: qué tendría que haber sido diferente para obtener otra puntuación.
Esta segunda modalidad puede ser útil, aunque plantea un riesgo: una explicación no debería responsabilizar al candidato de modificar características personales irrelevantes ni revelar instrucciones que permitan manipular el proceso.
La documentación también tendría que informar sobre el origen de los datos, las limitaciones conocidas, los grupos poco representados y los cambios realizados en el modelo.
La supervisión humana no puede consistir en pulsar “aceptar”
Muchas herramientas afirman contar con supervisión humana porque un reclutador confirma la recomendación del algoritmo. El informe cuestiona esta interpretación.
Para que el control humano sea real, la persona responsable debe:
- comprender cómo funciona el sistema;
- conocer sus limitaciones;
- identificar señales de error o discriminación;
- poder detener, modificar o revertir el resultado;
- asumir una responsabilidad concreta sobre la decisión.
La interfaz debería mostrar niveles de incertidumbre, alertas cuando un perfil se aleja de los datos conocidos y los factores que han influido en la clasificación. También debería evitar respuestas binarias como “contratar” o “rechazar” cuando sea necesario un juicio profesional.
El informe propone incluso una segunda validación humana para decisiones de especial impacto, como la exclusión definitiva de una persona.
Esta idea coincide con el análisis que publicamos sobre regulación, transparencia y control humano de la IA en el trabajo.
La visión positiva: la IA también puede mejorar el acceso al empleo
El informe se concentra en los riesgos, pero no sostiene que la contratación algorítmica sea necesariamente discriminatoria.
La OCDE ha señalado que estas herramientas pueden:
- reducir tareas administrativas;
- mejorar la correspondencia entre ofertas y perfiles;
- identificar competencias que un filtro tradicional pasaría por alto;
- ampliar las oportunidades de determinados candidatos;
- detectar algunos sesgos humanos.
También advierte de problemas relacionados con la robustez, la privacidad, la transparencia y la explicación de las decisiones.
El proyecto TalentCLEF 2026 muestra una aplicación potencialmente positiva: utilizar IA para relacionar currículos, ofertas y competencias, en lugar de depender únicamente de títulos profesionales o coincidencias literales de palabras.
La cuestión no es elegir entre selección humana o selección automatizada. Ambas pueden introducir sesgos. La diferencia es que un sistema automatizado puede reproducir el mismo criterio a gran escala y afectar a miles de personas antes de que alguien detecte el problema.
La visión crítica: una norma técnica no resuelve por sí sola la discriminación
El informe aporta medidas concretas, pero también presenta algunas limitaciones.
La primera es que se trata de una propuesta académica y no de un estándar europeo aprobado. Sus recomendaciones pueden influir en futuros trabajos de normalización, pero todavía no son obligaciones aplicables.
La segunda afecta al papel de las empresas tecnológicas en la elaboración de estándares. Las decisiones sobre qué nivel de discriminación se considera aceptable no son solo técnicas. También implican criterios jurídicos, sociales y laborales.
La tercera es la dificultad para medir la equidad. Una mejora en un indicador puede empeorar otro, y una representación equilibrada en la lista de finalistas no asegura una contratación más diversa.
Un estudio de 2025 sobre cerca de 800.000 candidaturas concluyó que imponer listas equilibradas tiene un efecto limitado cuando el algoritmo reproduce los mismos criterios que después utilizará el responsable humano. Los investigadores proponen que el sistema busque también perfiles valiosos que previsiblemente serían ignorados por el reclutador.
Qué deberían hacer las empresas que utilizan IA para contratar
Aunque parte de la regulación todavía está en desarrollo, las organizaciones pueden empezar a revisar sus sistemas.
1. Inventariar las herramientas utilizadas
No solo deben revisarse los sistemas que toman decisiones finales. También los que redactan ofertas, filtran currículos, puntúan pruebas, analizan entrevistas o recomiendan candidatos.
2. Exigir documentación al proveedor
La empresa debería conocer los datos de entrenamiento, las métricas utilizadas, las limitaciones, los grupos evaluados y los procedimientos de vigilancia posteriores.
3. Medir resultados por grupos
La precisión media no permite detectar diferencias persistentes en exposición, clasificación, entrevistas o contrataciones.
4. Definir quién puede intervenir
Debe quedar registrado quién puede detener una decisión, revisar una candidatura, corregir un resultado y comunicar una incidencia.
5. Informar a los candidatos
Las personas afectadas deberían saber que se utiliza un sistema automatizado, qué papel desempeña y cómo pueden solicitar una revisión humana.
6. Revisar periódicamente el modelo
Un sistema válido en una fecha y contexto determinados puede dejar de serlo cuando cambien los datos, los puestos o la población candidata.
Un avance necesario, pero todavía incompleto
La principal aportación del informe es convertir principios generales como transparencia, equidad o supervisión humana en obligaciones que puedan probarse.
Un sistema de contratación responsable debería poder demostrar qué datos utiliza, cómo ordena las candidaturas, qué diferencias genera entre grupos, quién revisa sus resultados y qué ocurre cuando aparece un problema.
La normalización vertical puede ayudar a comparar herramientas y exigir pruebas comunes a los proveedores. Pero su eficacia dependerá de tres factores: que participen especialistas ajenos a la industria tecnológica, que los controles puedan verificarse de forma independiente y que los candidatos dispongan de vías reales para cuestionar una decisión.
Fuentes y recursos
- Informe completo en arXiv
- Ficha del informe y autores
- Reglamento Europeo de Inteligencia Artificial
- Directrices europeas sobre sistemas de IA de alto riesgo
- Proyecto europeo FINDHR
- IA y conexión entre oferta y demanda de trabajo, OCDE
- Estudio de Stanford sobre sesgos raciales en la selección algorítmica
Nota editorial: el documento analizado es un informe publicado en arXiv. Sus propuestas no equivalen a normas armonizadas aprobadas ni a una interpretación oficial del Reglamento Europeo de Inteligencia Artificial.
