Si bien la IA es utilizada principalmente por los equipos de recursos humanos para seleccionar y filtrar candidatos, los líderes pueden tomar medidas para evitar que los sesgos introducidos en las primeras etapas del proceso de contratación influyan en la decisión final.
Cuando la empresa tecnológica en la que trabaja Ana anuncia una herramienta de inteligencia artificial capaz de filtrar miles de currículums en minutos y asignar puntuaciones a los candidatos según sus calificaciones, ella se entusiasma al pensar que su trabajo como especialista en adquisición de talento será mucho más fácil. Sin embargo, unos meses después, Ana nota que el algoritmo clasifica de manera constante a los postulantes hombres por encima de las mujeres. Resulta que el motor fue entrenado para identificar patrones en los currículums que la empresa recibió durante los últimos 10 años. Como la mayoría fueron enviados por hombres, el sistema aprendió a preferir candidatos masculinos. Ana reporta el problema a su jefe, quien decide informar al liderazgo senior y dejar de usar la herramienta.
Eso fue exactamente lo que ocurrió en Amazon. Aun así, muchas personas comparten el entusiasmo por los programas informáticos que prometen hacer que los procesos de contratación sean más justos y transparentes. Después de todo, si se tiene un cerebro, se tiene sesgos. Y las personas tienden a recurrir a atajos mentales cuando están sobrecargadas o con poco tiempo.
Un estudio encontró que el 60% de las decisiones de contratación se toman en la primera mitad de una entrevista de 30 minutos. Para tomar una decisión de juicio tan rápida, los gerentes pueden elegir a alguien debido, por ejemplo, a un sesgo de similitud, nuestra preferencia innata por las personas que son como nosotros, o un sesgo de rapidez, que nos motiva a seguir nuestro instinto cuando tenemos prisa.
Teóricamente, un robot puede operar sin estos problemas y centrarse solo en credenciales y rendimiento en entrevistas, ignorando factores no relacionados como género y edad. Sin embargo, la investigación y las aplicaciones en la vida real de la IA demuestran que no es el caso:
- En un estudio de 2019, los anuncios de carreras STEM diseñados para ser neutrales en cuanto al género fueron mostrados por un algoritmo a más solicitantes masculinos que femeninos. Se instruyó al algoritmo que optimiza la eficiencia de costos, y era más caro publicitar a solicitantes femeninas más jóvenes porque se consideraban un grupo demográfico valioso.
- Un análisis de Google mostró que los modelos de procesamiento de lenguaje natural clasifican como más tóxicos los textos que mencionan discapacidad o enfermedades mentales. Incluso frases positivas como “lucharé por las personas con enfermedades mentales” eran interpretadas como negativas.
- Los sistemas de reconocimiento automático de voz de Amazon, Apple, Google, IBM y Microsoft tienen más dificultades para entender a los hablantes negros que a los blancos. Esto podría afectar cómo la IA interpreta las entrevistas con candidatos no blancos o personas cuya lengua materna no es el inglés.
¿Qué Sucede dentro de la «mente» de un Robot?
La inteligencia artificial aprende sesgos a partir de los datos con los que se le entrena. Si la información que se le proporciona a los algoritmos está sesgada, los resultados que generen también lo estarán. Existe una compleja red histórica de exclusión laboral hacia mujeres y minorías, y esa historia aún está presente en nuestros datos, explica Jiahao Chen, fundador de la firma de auditoría Responsible Artificial Intelligence LLC, en Bloomberg Law. Como consecuencia, los softwares de contratación entrenados con estos datos pueden perpetuar desigualdades en el lugar de trabajo si no se supervisan adecuadamente.
Por eso, se necesita supervisión humana para detectar y prevenir que el sesgo se infiltre en las decisiones de contratación. Sin embargo, solo la mitad de los participantes en una encuesta reciente afirmó que sus empresas están monitoreando el desempeño de sus herramientas de IA. Omitir este paso puede hacer que prácticas injustas pasen desapercibidas y, con el tiempo, derivar en consecuencias legales. En julio, el gobierno de la ciudad de Nueva York promulgó una ley que exige a los empleadores realizar una auditoría anual para garantizar que su tecnología de IA no esté sesgada. Varios estados, como California, Illinois, Maryland y Nueva Jersey, han propuesto regulaciones similares.
Aunque la IA es utilizada principalmente por recursos humanos para seleccionar y pre filtrar candidatos, los líderes pueden tomar medidas para evitar que los sesgos introducidos en las primeras etapas del proceso de contratación influyan en la decisión final. Aquí algunas recomendaciones.
Adopta una actitud de curiosidad
En primer lugar, infórmate sobre cómo tu empresa utiliza herramientas de IA en la contratación y evalúa el nivel de riesgo en cada etapa. Por ejemplo, si el área de Recursos Humanos usa IA para redactar descripciones de puestos, podría introducirse sesgo si los textos anteriores incluían lenguaje que favorece o excluye a ciertos grupos (como “competitivo” o “decidido”, palabras que, según investigaciones, pueden desalentar a mujeres a postular). En estos casos, una solución sencilla es que el gerente de contratación revise los textos antes de publicarlos.
Sin embargo, cuando la IA se utiliza para filtrar currículums o analizar entrevistas, el riesgo es mayor. Para cuando se reciben los perfiles seleccionados por la IA, ya se han descartado otros, y esos candidatos no se pueden recuperar. Por eso, es clave contar con una estrategia de mitigación más sólida.
Desarrolla sistemas de seguridad
Una vez identificadas las áreas propensas a sesgo en el sistema de IA, es fundamental establecer puntos de control y medidas correctivas. Esto requiere colaboración con el equipo de Recursos Humanos para reestructurar el proceso de contratación según el uso específico de la tecnología. Por ejemplo, se puede agregar una etapa para que las descripciones de puestos sean revisadas antes de su publicación. Si la IA filtra currículums, conviene revisar la lista de candidatos antes de realizar las entrevistas iniciales. Esto permite evaluar si existe una representación equitativa en términos de edad, raza, género y capacidades antes de que se formen impresiones.
Independientemente de la etapa del proceso, es útil aplicar una técnica llamada priming para fomentar la objetividad. Esta consiste en prestar atención de forma intencional a los posibles sesgos antes de tomar decisiones. Antes de revisar descripciones de trabajo y currículums vale la pena hacerse algunas preguntas clave, como por ejemplo: “¿Cuál es la cualidad más importante que estamos buscando, y realmente es relevante para el puesto?” o “¿Esta impresión se basa en hechos o en interpretaciones personales?”
Mitiga los sesgos
Dado que la IA se entrena con datos basados en decisiones pasadas, encontrar sesgos en sus resultados puede ser una oportunidad para identificar sesgos inconscientes presentes en quienes toman decisiones. Por ejemplo, si la IA tiende a seleccionar candidatos que asistieron a ciertas universidades, podría deberse a que, en el pasado, se contrató con frecuencia a personas exitosas provenientes de esas instituciones: un caso típico de sesgo de experiencia.
Cuando se detecta un sesgo en el algoritmo, es útil clasificarlo utilizando el Modelo SEEDS©, que agrupa los sesgos en cinco categorías: similaridad, ser expedito, experiencia, distancia y seguridad. Nombrar el sesgo permite entender mejor su naturaleza y desarrollar una estrategia para reducir su influencia. En el ejemplo anterior, una forma de mitigación sería diseñar preguntas centradas en logros laborales y aplicar el mismo guión en todas las entrevistas, evitando así que la universidad de origen influya en la evaluación. Reconocer y mitigar estos sesgos inconscientes permite comenzar a eliminarlos del conjunto de datos y evitar que futuras versiones del programa de IA los aprendan y reproduzcan.
La inteligencia artificial tiene un enorme potencial para mejorar nuestras vidas, pero aún no es perfecta. Con el ritmo acelerado al que avanza esta tecnología, es fácil olvidar que todavía se encuentra en una etapa temprana de desarrollo. Tal vez algún día la IA pueda aprender a reconocer sus propios sesgos, pero hasta que eso ocurra, la responsabilidad de mitigarlos sigue estando en manos humanas.
Este artículo fue publicado originalmente en la revista Fast Company, para leerlo haz click en este enlace.