¿Encontrar el mejor talento para la empresa mediante algoritmos? Eso salió terriblemente mal para Amazon

En realidad, el gigante del comercio electrónico Amazon quería desarrollar un sistema para mostrar lo fácil que es encontrar automáticamente el mejor talento utilizando inteligencia artificial. Pero el sistema no funcionó correctamente.

“Todo el mundo quería el Santo Grial”, dijo uno del proyecto. Una persona familiarizada con Amazon dijo a Reuters. La agencia de noticias habló con cinco empleados anónimos sobre una herramienta de contratación de Amazon destinada a automatizar el proceso de solicitud. Se estaba desarrollando un sistema que seleccionaría automáticamente las cinco mejores entre 100 solicitudes, facilitando así la selección de nuevos empleados. Un equipo ha estado desarrollando un algoritmo desde 2014 que debía identificar el mejor talento para la empresa estadounidense. En 2015 se hizo evidente un gran problema: el proceso de selección automática de candidatos no era neutral en cuanto al género, sino que sistemáticamente perjudicaba a las mujeres.

Sueño con un proceso de solicitud automatizado

La razón del comportamiento ___ista: Amazon utilizó en gran medida aplicaciones de los últimos diez años como material de aprendizaje para el sistema. En su mayoría procedían de hombres, por lo que el algoritmo se entrenó a sí mismo para comportarse incorrectamente. Los solicitantes masculinos generalmente obtuvieron una calificación más alta en la escala de una a cinco estrellas porque la calidad de “masculino” recibió una calificación alta. El algoritmo concluyó: Las solicitudes de mujeres o con una referencia femenina tienen menos probabilidades de ser clasificadas. Los desarrolladores cambiaron el comportamiento del sistema para que la palabra “mujer” fuera vista de manera neutral, pero esto no ayudó como se deseaba.

Industria tecnológica dominada por hombres

La empresa de Seattle detuvo el proyecto a principios de 2017 porque, según antiguos empleados, había perdido la esperanza en él. Los reclutadores de Amazon habrían analizado las recomendaciones del algoritmo, pero nunca se habrían basado exclusivamente en sus clasificaciones. Preguntada por Reuters, la empresa estadounidense no quiso comentar sobre los problemas, pero enfatizó que la herramienta no se utiliza para evaluar a los solicitantes. Sin embargo, Amazon no negó que los reclutadores tuvieran en cuenta las recomendaciones, informó la agencia de noticias.

Un gráfico de Statista muestra que la industria tecnológica está dominada por los hombres. Según esto, las mujeres siguen estando subrepresentadas en el ámbito profesional en EE.UU. En Amazon, su participación en la fuerza laboral estadounidense es del 40 por ciento. Las mujeres constituyen una cuarta parte de los directivos; No hay información para trabajos tecnológicos. Se pueden observar condiciones similares en otras grandes corporaciones como Netflix, Facebook y Apple.