Por: Andrés Coria.

La inteligencia artificial ha demostrado ser una excelente aliada tecnológica al ayudar a los seres humanos a realizar diferentes tareas, no obstante, está lejos de ser completamente perfecta. Prueba de ello lo encontramos en el hecho de que recientemente Amazon dio a conocer que dejaría de utilizar una inteligencia artificial en su proceso de selección de empleados al encontrar una falla importante.

Desde el 2014 Amazon anunció que estaba trabajando en el desarrollo de una inteligencia artificial capaz de analizar los currículums de candidatos laborales con el objetivo de agilizar y automatizar el proceso de selección. Este sistema fue creado por el centro de ingeniería de Edimburgo y fue entrenado para identificar 50 mil términos que aparecían en los currículums de los interesados que se habían presentado en los últimos 10 años.

curriculum

Lamentablemente, la empresa se dio cuenta que el sistema contaba con un error: el software contaba con un sesgo contra las mujeres postulantes. Esto ocurrió porque el algoritmo fue entrenado con los currículums de los postulantes de los últimos 10 años, mismos que en su mayoría habían sido hombres. Por lo tanto, la inteligencia artificial infirió que la empresa prefería a los hombres sobre las mujeres por mayoría estadística.

Una vez que Amazon identificó el problema, intentó modificar los programas para que fueran neutrales, no obstante, el sesgo no desapareció, por lo que la compañía tomó la decisión de terminar con el programa a principios del año pasado. Cabe mencionar que esta información se desconocía hasta el momento y que los encargados de las contrataciones nunca se guiaron exclusivamente de los resultados del software.

Fuente.