La inteligencia artificial está ganando espacio en los procesos de selección. Actualmente puede ayudar a organizar postulaciones, identificar coincidencias con un perfil, analizar información y priorizar personas candidatas para su revisión.
Estas capacidades ofrecen beneficios importantes: mayor eficiencia, criterios más consistentes y la posibilidad de procesar grandes volúmenes de información. Sin embargo, también plantean preguntas que van más allá de la tecnología: ¿qué está midiendo realmente el sistema?, ¿con qué datos fue desarrollado?, ¿es válido para la población en la que se utiliza? y ¿quién responde por las decisiones tomadas con apoyo de sus resultados?
Un caso que abre una discusión más amplia
Reuters analiza un litigio en curso relacionado con herramientas de selección de Workday. Un grupo de personas sostiene que determinados procesos automatizados pudieron generar resultados desfavorables para algunos grupos demográficos y ha solicitado que el caso sea tratado como una acción colectiva.
Workday niega haber incurrido en discriminación. La compañía afirma que sus herramientas consideran las cualificaciones para el empleo y no características protegidas como la raza, la edad o la discapacidad. También señala que las organizaciones usuarias pueden configurar sus propios criterios de revisión y selección.
El proceso judicial continúa y todavía no existe una sentencia que determine que la plataforma haya discriminado. Por tanto, no corresponde anticipar una conclusión sobre las partes involucradas.
Lo relevante para el sector de talento humano es la pregunta que surge del caso: ¿cómo se distribuye la responsabilidad cuando una decisión laboral combina tecnología, criterios organizacionales e intervención humana?
Esta pregunta no se limita a una plataforma. Puede aplicarse a cualquier solución que clasifique, recomiende o descarte personas dentro de un proceso de selección.
La inteligencia artificial puede reducir sesgos, pero no lo hace automáticamente
Las decisiones humanas tampoco son completamente neutrales. Una entrevista poco estructurada, la afinidad personal con una persona candidata o una primera impresión pueden introducir sesgos difíciles de identificar y controlar.
Una tecnología correctamente diseñada puede aportar consistencia, aplicar criterios comparables y ayudar a que las decisiones se apoyen en información relevante. La inteligencia artificial también puede facilitar la revisión de grandes cantidades de datos y permitir que los profesionales concentren su atención en los aspectos que requieren análisis y criterio humano.
Sin embargo, estos beneficios no son automáticos. Un sistema también puede aprender relaciones inadecuadas, utilizar información poco representativa o convertir un indicador débil en un criterio decisivo.
El riesgo no aparece únicamente cuando la tecnología falla. También puede surgir cuando funciona exactamente como fue programada, pero el objetivo, los datos o las reglas iniciales no fueron definidos correctamente.
La Organización Internacional del Trabajo propone analizar estas herramientas a partir de tres elementos: el objetivo que persigue el sistema, los datos que utiliza y la forma en que fue programado. La calidad de estos componentes determina si la tecnología ayuda a mejorar una decisión o simplemente automatiza un proceso que ya tenía limitaciones.
Automatizar no equivale a validar
Una herramienta no se convierte en válida por utilizar inteligencia artificial ni por producir resultados rápidamente.
Para confiar en sus conclusiones es necesario demostrar, entre otros aspectos:
- Qué variable, capacidad o comportamiento pretende evaluar.
- Por qué esa variable es relevante para el desempeño en el cargo.
- Qué evidencia respalda la relación entre la medición y el criterio laboral.
- Con qué población se desarrolló el sistema.
- Qué nivel de precisión y error presentan sus resultados.
- Cómo funciona la herramienta en diferentes grupos de personas.
- Si sus conclusiones pueden ser comprendidas y revisadas.
Una clasificación puede ser técnicamente consistente y, aun así, medir algo poco relacionado con el trabajo. También puede funcionar adecuadamente en el país o sector donde fue desarrollada, pero perder precisión al trasladarse a otro contexto.
Por eso, la calidad de una decisión automatizada depende tanto del desarrollo tecnológico como de la calidad del análisis del cargo, la pertinencia de los datos y la evidencia científica que respalda la evaluación.
¿Por qué este debate es especialmente relevante para América Latina?
Las organizaciones latinoamericanas están incorporando plataformas globales, evaluaciones digitales y herramientas de automatización. Esta evolución puede fortalecer la gestión del talento, pero exige revisar la adecuación de cada solución al contexto regional.
Un modelo desarrollado con datos de otros países no necesariamente representa las trayectorias educativas, laborales y culturales de las poblaciones latinoamericanas. Las diferencias de idioma, acceso educativo, condiciones socioeconómicas, informalidad laboral y oportunidades de desarrollo pueden modificar el significado de las variables utilizadas por un sistema.
También es necesario examinar los datos históricos. Si un algoritmo aprende exclusivamente de las personas que una organización contrató, promovió o consideró exitosas en el pasado, puede terminar reproduciendo los mismos criterios y patrones presentes en esas decisiones.
Esto no significa que los datos históricos sean necesariamente inadecuados. Significa que deben analizarse antes de utilizarlos como representación de lo que la organización considera talento, potencial o éxito.
La iniciativa regional fAIr LAC, impulsada por el Banco Interamericano de Desarrollo, plantea la necesidad de evitar que los algoritmos sean entrenados con sesgos que reproduzcan o amplíen la desigualdad. También promueve principios de transparencia, explicabilidad, supervisión y rendición de cuentas.
La CEPAL ha señalado igualmente que el aprovechamiento de la inteligencia artificial en América Latina requiere reflexión, visión estratégica, regulación y coordinación, con especial atención a la privacidad, los sesgos y la discriminación en las decisiones basadas en algoritmos.
Estas advertencias no buscan detener la innovación. Su propósito es crear las condiciones para que la tecnología produzca beneficios sin trasladar riesgos innecesarios a las personas.
Una responsabilidad compartida
La responsabilidad sobre una decisión automatizada difícilmente puede atribuirse a un solo actor.
El proveedor conoce el diseño del sistema, sus datos, limitaciones y condiciones de uso. La organización define el cargo, configura el proceso, establece los criterios y determina cuánto peso tendrá el resultado. Los profesionales de talento humano interpretan la información y toman o respaldan la decisión.
Por eso, la relación entre proveedores y organizaciones debe basarse en transparencia y colaboración. No se trata únicamente de adquirir una tecnología, sino de comprender para qué puede utilizarse, cuáles son sus límites y qué controles necesita.
La supervisión humana también debe ser significativa. Incluir a una persona al final del proceso no es suficiente si su función consiste simplemente en confirmar la recomendación del sistema. Quien revisa el resultado debe contar con información, criterio y capacidad para cuestionarlo.
La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO sitúa la dignidad humana, la prevención del daño, la equidad, la transparencia y la supervisión humana entre los principios centrales para el uso responsable de estas tecnologías.
¿Qué deberían revisar las organizaciones?
Antes de incorporar una herramienta automatizada en selección, resulta conveniente verificar:
- La relación entre los criterios evaluados y las exigencias reales del cargo.
- La evidencia técnica y psicométrica que respalda la herramienta.
- La población y el contexto en los que fue desarrollada y validada.
- Los posibles efectos diferenciales entre grupos de personas.
- La trazabilidad y la posibilidad de explicar los resultados.
- El tratamiento y la protección de los datos personales.
- La existencia de una revisión humana efectiva.
- Las responsabilidades del proveedor y de la organización durante todo el proceso.
Estas revisiones no deberían realizarse una sola vez. Los cargos cambian, las poblaciones evolucionan y los sistemas pueden ser actualizados. La validación y el seguimiento deben acompañar todo el ciclo de uso de la herramienta.
La innovación necesita evidencia
La discusión no debería plantearse como una elección entre tecnología y criterio humano. Una combinación adecuada puede producir procesos más consistentes, eficientes y profundos que los obtenidos por cualquiera de los dos elementos por separado.
El verdadero desafío consiste en asegurar que la tecnología evalúe variables relevantes, utilice datos apropiados, produzca resultados interpretables y permanezca bajo una supervisión responsable.
En Psigma consideramos que la tecnología debe ampliar la profundidad y la calidad de la evidencia disponible para tomar decisiones de talento. Su valor no está solamente en hacer más rápido un proceso, sino en ayudar a comprender mejor a las personas y reducir la incertidumbre sin perder de vista el contexto, la equidad y la responsabilidad.
El artículo de Reuters representa una oportunidad para anticipar esta conversación en América Latina. No es necesario esperar a que aparezcan controversias locales para establecer estándares más exigentes. La adopción responsable comienza preguntando no solo qué puede hacer una herramienta, sino qué evidencia demuestra que debería utilizarse para tomar una decisión sobre una persona.
Artículo que dio origen a esta reflexión
Greene, Jenna. These workers say an AI hiring platform discriminated against them. But who should pay? Reuters, 21 de septiembre de 2026. Artículo disponible en inglés.
