Inteligencia Artificial y empleo: ¿cómo evitar que los algoritmos discriminen?

La urgencia de actuar ante los sesgos algorítmicos

La Inteligencia Artificial (IA) ha llegado al ámbito laboral para quedarse. En procesos de selección, evaluación, promoción o desvinculación, muchas organizaciones están incorporando sistemas automatizados de toma de decisiones que prometen eficiencia y objetividad. Pero, ¿qué ocurre cuando estos sistemas no solo no corrigen las desigualdades existentes, sino que las reproducen y amplifican?

El proyecto IA+Igual, cofinanciado con fondos europeos Next Generation, ha lanzado un Libro Blanco que sienta las bases para el desarrollo de un estándar de certificación ética de la IA en el ámbito laboral. El objetivo es claro: evitar que los algoritmos discriminen sin saberlo y garantizar que su uso sea justo, transparente y conforme a los derechos fundamentales.

Una investigación empírica con casos reales

El Libro Blanco ha sido elaborado por el Instituto de Ciencia de los Datos y la Inteligencia Artificial (DATAI) de la Universidad de Navarra. A diferencia de muchos informes teóricos, este se basa en el análisis empírico de 7 algoritmos reales utilizados por empresas en procesos de Recursos Humanos y 3 casos prácticos de gobernanza del dato.

Este enfoque ha permitido detectar problemas concretos en entornos reales, lo que da aún más valor a las conclusiones: desde sesgos invisibles en los modelos hasta incumplimientos normativos sistemáticos o falta de preparación para gestionar herramientas tan complejas como influyentes.

¿Dónde se ocultan los sesgos?

Uno de los hallazgos más preocupantes es que muchas organizaciones, con la intención de evitar discriminaciones, optan por eliminar variables sensibles como el género o la discapacidad. Sin embargo, esta estrategia no elimina el sesgo, sino que lo camufla.

Los algoritmos siguen entrenándose con datos históricos que reflejan desigualdades estructurales. Y aunque no “vean” explícitamente esas variables, aprenden a predecirlas a través de variables correlacionadas (como tipo de estudios, interrupciones en la trayectoria laboral o código postal), reproduciendo así patrones discriminatorios sin que nadie lo advierta.

El impacto es especialmente grave en colectivos vulnerables, como personas con discapacidad, migrantes, mujeres con trayectorias laborales interrumpidas o mayores de 45 años sin competencias digitales. Su invisibilización en los datos compromete directamente sus oportunidades de empleabilidad.

Una normativa que no se cumple

El informe también revela que ninguna de las empresas evaluadas había realizado una evaluación de impacto, a pesar de que los algoritmos analizados entran en la categoría de “alto riesgo” según la normativa europea. Esto representa un incumplimiento grave del marco legal vigente, incluyendo el Reglamento General de Protección de Datos (RGPD), la LOPDGDD y el recientemente aprobado Reglamento de Inteligencia Artificial de la UE (AI Act).

Además, se detectaron usos no autorizados de algoritmos fuera de su finalidad original, sin control ni trazabilidad sobre los datos utilizados ni transparencia en los criterios de decisión automatizada.

La gobernanza del dato, es decir, la gestión responsable y documentada del ciclo de vida de los datos, brilla por su ausencia en la mayoría de los casos analizados.

Falta de formación y cultura crítica

El entusiasmo por adoptar IA contrasta con el desconocimiento generalizado sobre su funcionamiento y riesgos. La mayoría de las organizaciones cuenta con formación técnica limitada (en el uso de herramientas como ChatGPT o Copilot), pero carece de perspectiva ética, legal o estratégica.

Se delega en proveedores tecnológicos decisiones clave sin establecer criterios de explicabilidad ni validar los modelos utilizados. En muchos casos, se opta por soluciones complejas sin justificación técnica, cuando modelos más simples y comprensibles habrían sido más adecuados.

Esta brecha formativa también afecta a quienes toman decisiones en RRHH, que muchas veces no cuentan con herramientas ni conocimientos para evaluar, supervisar o auditar sistemas basados en IA.

Un marco de certificación progresivo

Ante esta realidad, IA+Igual propone la creación de un sello ético de certificación, escalonado en distintos niveles (Bronce, Plata, Oro y Platino) en función del grado de compromiso y madurez de cada organización. Este sistema permitiría avanzar hacia modelos más responsables sin caer en el “todo o nada”.

El sello se basaría en principios de justicia, transparencia y responsabilidad, alineados con marcos internacionales de ética digital. Su aplicación incluiría auditorías independientes, publicación de informes de transparencia y creación de comités éticos.

Además, el informe propone que las administraciones públicas impulsen este sistema, incorporándolo como criterio en licitaciones o facilitando incentivos a las organizaciones certificadas.

¿Cómo identificar y mitigar sesgos?

El documento dedica una sección clave a explicar las principales formas de sesgo algorítmico en RRHH:

• Sesgo de representación: algunos grupos están infrarrepresentados en los datos, lo que reduce la precisión del modelo para esos perfiles.
• Sesgo de selección: se aprenden patrones previos que ya eran discriminatorios.
• Sesgo de exclusión: se omiten variables clave o se usan proxies que distorsionan.
• Sesgo de medición: la variable objetivo (por ejemplo, “rendimiento”) está mal definida.
• Sesgo de evaluación: se aplican métricas globales sin desagregación por subgrupos.

También se describen las estrategias de mitigación, organizadas según el momento del ciclo de vida del modelo:

• Preprocesamiento: reequilibrar los datos antes del entrenamiento.
• In-training: introducir restricciones de equidad durante el entrenamiento.
• Postprocesamiento: ajustar los resultados después de obtener las predicciones.

Herramientas como AI Fairness 360, SHAP o LIME permiten evaluar y visualizar estos sesgos. La elección de las métricas adecuadas debe hacerse con criterios normativos explícitos, porque no existe una única definición de equidad, y muchas veces no se pueden cumplir todas a la vez.

¿Y qué pasa con la IA generativa?

El informe no pasa por alto la expansión de la IA generativa en los procesos laborales. Cada vez es más común utilizar herramientas que redactan informes, elaboran perfiles de talento o generan recomendaciones automatizadas.

Pero esto abre nuevas preguntas:
¿Quién valida la información generada?
¿En qué condiciones puede usarse en un proceso de selección?
¿Quién es responsable si el contenido generado discrimina?

La necesidad de definir responsabilidades y protocolos claros para este tipo de tecnologías se vuelve urgente.

Alternativas para una IA inclusiva

El documento también propone soluciones innovadoras para mejorar la representatividad sin vulnerar la privacidad:

• Uso de datos sintéticos que representen perfiles reales de colectivos vulnerables.
• Redefinición de conceptos: por ejemplo, describir “capacidades funcionales” en lugar de “discapacidades”.
• Evaluación diferenciada del rendimiento de los algoritmos por subgrupos poblacionales.

Estas medidas permiten identificar desigualdades sin necesidad de registrar datos sensibles directamente, cumpliendo con la normativa de protección de datos.

Implicaciones para el empleo público y privado

La aplicación de este tipo de estándares no solo afecta al sector privado. La creciente incorporación de IA en el sector público, incluidos los servicios de empleo y los procesos selectivos, exige también adoptar principios de transparencia, equidad y responsabilidad.

Por ejemplo, si se utiliza IA para cribar currículums en una convocatoria pública, debe garantizarse que no se excluya sistemáticamente a ciertos perfiles por razones estructurales. Y si se automatiza parte del proceso de evaluación, debe explicarse cómo se toman las decisiones y en qué se basan.

En este sentido, el Libro Blanco ofrece una hoja de ruta útil también para las administraciones, especialmente aquellas implicadas en empleo, formación o gestión de talento.

Conclusiones: entre la urgencia y la oportunidad

El mensaje final del informe es claro: estamos a tiempo, pero no podemos improvisar. Aplicar IA sin control ni evaluación no solo es ineficiente, sino que agrava la desigualdad y compromete derechos fundamentales.

Las organizaciones necesitan recursos, formación y herramientas para usar la IA de forma ética. Pero también deben asumir su responsabilidad y dejar de delegar decisiones críticas en proveedores tecnológicos sin garantías.

El empleo del futuro se está definiendo ahora. Y lo que hagamos (o dejemos de hacer) con la IA hoy tendrá consecuencias directas en la equidad, la inclusión y la calidad del mercado laboral mañana.

---

Enlaces de interés

• Nota de prensa del Libro Blanco
• Resumen ejecutivo
• Documento completo del Libro Blanco
• Web oficial del proyecto IA+Igual

Temas relacionados: Inteligencia artificial