Nueva investigación sobre la IA y la equidad en la contratación

¿La IA mejorará o empeorará la equidad? Dado que casi el 90 % de las empresas utilizan actualmente algún tipo de IA en la contratación, esta pregunta es prioritaria para muchos líderes y tiende a dividirlos en dos bandos. Unos creen que los algoritmos harán que la contratación sea más justa al reducir los «sesgos» y el «ruido» humanos en la toma de decisiones. El otro advierte que los algoritmos pueden reproducir e incluso amplificar las desigualdades existentes a gran escala. Ambos pasan por alto una realidad crucial: cuando se adopta la IA, se redefine lo que se considera justo en primer lugar. Eso es un problema. La mayoría de las empresas adoptan herramientas de contratación basadas en IA sin evaluarlas en profundidad y de forma continua durante su desarrollo y uso. La equidad se considera algo que la herramienta ofrece desde el primer día, en lugar de algo que los líderes deben supervisar y ajustar en la práctica. El riesgo es sutil, pero grave: la IA puede reducir su grupo de candidatos, dejar de lado la experiencia humana y limitarse a una única definición de equidad. En un nuevo estudio, analizamos cómo las definiciones de lo que es justo influyen en los resultados de la contratación, y ofrecemos a los líderes mejores preguntas que pueden plantear para asegurarse de que las herramientas realmente mejoran la contratación para los candidatos, los gerentes y las empresas. Lo que muestra nuestra investigación Nuestras conclusiones provienen de un estudio de campo de tres años realizado en una empresa global de bienes de consumo que gestiona más de 10 000 solicitudes de empleo al año. Con el fin de mejorar la equidad, el departamento de RR. HH. sustituyó la revisión de currículos por evaluaciones ciegas y gamificadas analizadas por IA. El algoritmo se entrenó con datos de empleados actuales que habían completado los mismos juegos, vinculando sus puntuaciones con los resultados de rendimiento. Al aprender qué patrones de rasgos se asociaban con el éxito, el sistema predecía la «idoneidad» de los nuevos candidatos, omitiendo nombres, escuelas y otros marcadores demográficos. La idea parecía sencilla: hacer que la contratación fuera más justa mediante reglas coherentes y basadas en datos. Pero a medida que la herramienta se ampliaba, lo que se consideraba justo comenzó a cambiar. El departamento de RR. HH. daba prioridad a la coherencia entre todos los candidatos, mientras que los gerentes de primera línea valoraban el contexto local, reconociendo que lo que hace que una contratación sea sólida varía según el puesto, el mercado y el equipo. Esas opiniones habían coexistido durante años. Sin embargo, el algoritmo convirtió los principios de RR. HH. en reglas rígidas que eran difíciles de eludir. Con el tiempo, esta versión algorítmica de la equidad se impuso, mientras que otras opiniones, como la adaptación a las necesidades locales, se desvanecieron. Las verdaderas preguntas que deben plantearse los líderes La lección para los líderes es que preguntarse si los seres humanos o las máquinas son más justos no les llevará muy lejos. En su lugar, deberían plantearse otras preguntas, preguntas que den lugar a respuestas sobre lo que realmente significa «justo» dentro de la organización, quién lo define y qué versión de la justicia refuerza o deja de lado la IA. Las preguntas que figuran a continuación, basadas en nuestra investigación, ayudarán a los líderes a evaluar los sistemas más profundamente antes y después de su implementación para garantizar que la equidad, en toda su pluralidad, siga siendo el eje central. 1. ¿Qué versiones de equidad existen en nuestra organización? Cuando las empresas introducen la IA en la contratación, a menudo asumen que la equidad tiene un significado claro. En realidad, la equidad suele tener varios significados, y no siempre coinciden. En la empresa global de bienes de consumo que estudiamos, RR. HH. supervisaba la equidad en la contratación y la equiparaba con la coherencia y los procedimientos imparciales. Cuando los gerentes de primera línea se desviaban de los marcos estandarizados en sus decisiones de contratación, RR. HH. lo interpretaba como un error humano. Lo que no se dieron cuenta es que los gerentes se guiaban por una versión diferente de la equidad, sensible al contexto. Como esta versión seguía siendo informal y tácita, nunca se tuvo en cuenta en el diseño de la IA. Una vez que el sistema entró en funcionamiento, esta perspectiva ausente se hizo dolorosamente evidente cuando surgieron rápidamente los conflictos. Por ejemplo, un alto directivo quería contratar a un becario al que había asesorado de cerca y que creía que destacaría en una región en rápido crecimiento. Sin embargo, el algoritmo señaló al candidato como «poco adecuado» basándose en sus datos de personalidad. El departamento de RR. HH. se mantuvo fiel al modelo, considerando cualquier desviación como una violación de la coherencia; el directivo lo vio como un rechazo injusto de su experiencia. Esta tensión revela una lección clave: si no se reconoce y se incorpora desde el principio una definición de equidad, el sistema no la reconocerá más adelante, lo que dará lugar a conflictos. Los líderes pueden mitigar estos conflictos descubriendo qué significa realmente «justo» en toda la organización. Una práctica que ayuda a los líderes a revelar las diferentes definiciones es hacer que los científicos de datos y los líderes de proyectos sigan de cerca el proceso de contratación (como hicimos nosotros como investigadores). Estos observadores externos deben dedicar una cantidad significativa de tiempo a evaluar qué decisiones se consideran «justas» e «injustas» para los diferentes grupos, desde los responsables de RR. HH. y los gerentes de primera línea hasta los propios candidatos a los puestos de trabajo y los responsables legales. Ver de primera mano lo que cada grupo considera justo ayuda a descubrir las múltiples y a menudo contradictorias definiciones que coexisten en las organizaciones. Igualmente importante es crear «infraestructuras éticas», es decir, espacios dedicados donde grupos diversos reflexionen y evalúen colectivamente los dilemas éticos a medida que surgen. Por ejemplo, los desacuerdos sobre los umbrales algorítmicos, las predicciones o las excepciones no son signos de fracaso, sino momentos en los que las suposiciones ocultas sobre la equidad se hacen visibles y se abren al debate. El Grupo H&M ofrece un ejemplo de cómo esto puede funcionar en la práctica. En lugar de tratar la ética como una lista de verificación fija, la empresa creó un Club de Debate sobre IA Ética en el que equipos diversos se reúnen y debaten las ventajas y desventajas del uso de la IA en escenarios realistas. Al institucionalizar estos debates, H&M convierte la reflexión continua sobre la equidad en una parte cotidiana del trabajo, y no en una idea secundaria. 2. ¿Quién le da a la IA el poder de decidir qué es «justo» y sobre qué base? Los sistemas de IA no deciden por sí mismos lo que es justo; son las personas quienes les otorgan ese poder. Los algoritmos obtienen su influencia de las personas y los departamentos que deciden implementarlos, autorizan su uso y los posicionan como «objetivos» o «justos». Vimos esta dinámica de primera mano. En la empresa global de bienes de consumo, tanto el departamento de RR. HH. como el proveedor externo de IA defendieron la tecnología como un avance moral y técnico. Los responsables de RR. HH. veían la IA como una forma de eliminar la inconsistencia y el sesgo humanos; el proveedor la describía como «científicamente probada» y «capaz de poner fin a la desigualdad». El planteamiento fue muy eficaz para impulsar la selección automatizada y desviar la atención de los posibles riesgos para la organización. Los directores de primera línea que expresaron su preocupación por la «clonación» de los perfiles de los candidatos o por la pérdida de candidatos atípicos que se ajustaban a sus equipos específicos fueron tachados de subjetivos en lugar de defensores de la equidad. Lo que comenzó como una iniciativa en favor de la equidad terminó dejando de lado los conocimientos locales que durante mucho tiempo habían respaldado la contratación. Esta dinámica no es única. En todos los sectores, los términos«equidad»y«antiprejuicios»suelen ayudar a impulsar las herramientas de IA y a reducir el margen para el debate. Cuando los sistemas se presentan como intrínsecamente justos, resulta casi imposible cuestionarlos sin parecer contrario al progreso. Pero la equidad no está integrada en el código, sino que la negocian las personas que lo diseñan, implementan y defienden. Por lo tanto, los líderes deben examinar minuciosamente el lenguaje de equidad que acompaña a las iniciativas de IA. Cuando se promociona un sistema como «ético», «científico» o «imparcial», ese es precisamente el momento de detenerse y preguntarse: ¿Quién hace estas afirmaciones y a qué intereses o agendas sirven? ¿Qué métricas definen la equidad en este caso y qué voces o tipos de experiencia se están dejando de lado? Estas preguntas no frenan el progreso, sino que ayudan a garantizar que este se ajuste a una amplia gama de perspectivas, en lugar de estar impulsado por un optimismo tecnológico sin control. Los líderes también pueden equilibrar las reclamaciones replanteándose quién forma parte de los equipos de implementación. Cuando solo los defensores de la tecnología impulsan los proyectos de IA, el resultado reflejará su visión del mundo. En cambio, los líderes deben reunir una mezcla de opiniones —expertos en ética, socios comerciales y representantes de los más afectados por el sistema— y darles la misma voz. Este equilibrio de perspectivas garantiza que las decisiones sobre la equidad se debatan, no se den por sentadas, y que el juicio crítico siga formando parte del proceso. Microsoft ilustra cómo las empresas pueden intentar crear este equilibrio de forma deliberada. Además de las estructuras de gobernanza centrales, se apoya en «campeones de la IA responsable» locales: expertos en la materia dentro de las unidades de negocio cuya función es detectar problemas éticos y cuestionar supuestos a medida que se crean y se implementan los sistemas. La conclusión para los líderes: no dejen que «el modelo es justo» sea el final de la conversación; creen funciones y rutinas que permitan que múltiples voces puedan cuestionar qué significa la justicia a medida que la IA va tomando forma. 3. ¿Qué versión de la equidad refuerza la IA y qué se pierde con el tiempo? Los sistemas de IA no solo aplican una definición de equidad, sino que la refuerzan. Una vez que los principios se codifican en umbrales, modelos y flujos de trabajo, adquieren un nuevo poder. A menos que los líderes revisen estas decisiones periódicamente, se queda fijada una única visión de la equidad, mientras que otras perspectivas valiosas se pierden de vista. Eso es lo que ocurrió en la empresa que estudiamos. Una vez que los principios de RR. HH. se tradujeron en puntuaciones algorítmicas y umbrales fijos, la equidad pasó a equipararse con una coherencia rígida. Los candidatos que obtenían una puntuación superior al 72 % pasaban automáticamente a la siguiente fase, mientras que los que obtenían una puntuación inferior eran rechazados sin una revisión humana. Lo que antes era una decisión subjetiva se convirtió en una línea estricta. Mientras tanto, consideraciones menos cuantificables, como la escasez de talento local o el potencial de candidatos atípicos que no encajaban en el perfil algorítmico, perdieron importancia. Como resultado, los gerentes se encontraron con candidatos que consideraban muy similares, ya que el sistema favorecía un perfil de personalidad limitado basado en los empleados anteriores. Y como la organización perdió de vista a los candidatos rechazados automáticamente, no sabía qué potencial estaba perdiendo. Los líderes confundieron la ausencia de pruebas con la prueba de que el sistema funcionaba. Así es como se desvía la equidad: no a través de fracasos dramáticos, sino a través de la lenta e invisible exclusión de puntos de vista alternativos. Los líderes pueden evitar esta desviación considerando la equidad como algo que debe evaluarse continuamente, y no como un ejercicio puntual. Programe revisiones periódicas en las que los científicos de datos, el departamento de RR. HH., los gerentes de primera línea y los equipos jurídicos analicen casos reales de contratación junto con los resultados del modelo y se pregunten si el sistema sigue reflejando las prioridades actuales. Facilite técnicamente el ajuste de los umbrales, las ponderaciones y las entradas de datos cuando las pruebas sugieran desviaciones o efectos no deseados. Los gerentes de primera línea deben ser fundamentales en estas revisiones. Ellos detectan rápidamente cuándo un umbral que funcionó en una prueba piloto está limitando una cartera regional o filtrando candidatos atípicos pero con gran potencial. Si sus señales no tienen ningún destino o no obtienen una respuesta garantizada, la organización no notará los problemas hasta que se manifiesten en forma de puestos sin cubrir o equipos homogéneos. IBM ofrece un ejemplo de cómo puede ser en la práctica una revisión continua de la equidad. Proporciona a los equipos herramientas tangibles, como AI Fairness 360, para evaluar los modelos en función de múltiples medidas de equidad, identificar compensaciones y realizar comprobaciones hipotéticas, por ejemplo, ver cómo un límite más estricto o una nueva entrada de datos cambia los resultados para diferentes grupos. El valor de estas herramientas no radica en que declaren que un modelo es justo de una vez por todas, sino en que mantienen la equidad inspeccionable a lo largo del tiempo, de modo que los líderes pueden ver qué versión de equidad refuerza el sistema y revisar las hipótesis para que la equidad no se desvíe por defecto. . . . Si usted patrocina o dirige proyectos de contratación de IA, es el responsable de la equidad en su empresa, no la tecnología. Su trabajo consiste en garantizar que se tengan en cuenta múltiples puntos de vista sobre la equidad durante el diseño, la implementación y el uso; en dejar claro quién otorga autoridad al sistema y sobre qué base; y en evaluar continuamente qué versión de la equidad refuerza el sistema y qué queda relegado a un segundo plano. Los líderes que lo hacen bien logran una colaboración más fluida entre RR. HH. y los gerentes de primera línea, mantienen perspectivas valiosas en el proceso y construyen reclamos de equidad que realmente se sostienen. Los que no lo hacen corren el riesgo de reducir su reserva de talento, dejar de lado conocimientos especializados críticos y derivar hacia una automatización ciega. La lección más amplia va más allá de la contratación. Muchas empresas invierten mucho en IA, pero no logran generar un valor real a partir de ella. La diferencia entre los sistemas que aportan valor y los que decepcionan rara vez es solo el modelo. Lo que importa es si los líderes reúnen a las personas adecuadas, formulan las preguntas correctas y siguen poniendo a prueba las hipótesis sobre la realidad del trabajo. Si lo hace, irá más allá del debate «¿Quién es más justo, los humanos o la IA?» y llegará a algo más útil: definir qué significa «justo» aquí y ahora, y crear rutinas para que siga siendo así.

Nueva investigación sobre la IA y la equidad en la contratación

Resumen.

Partner Center