Los algoritmos están presentes en nuestro día a día y en nuestros dispositivos digitales. Nos ayudan a descubrir música nueva en función de nuestros gustos o nos recomiendan películas en base a las que ya hemos visto. Pero los algoritmos también han llegado a los Recursos Humanos y están jugando un papel importante en la selección de personal al mismo tiempo que abren nuevos debates: ¿son realmente eficientes? ¿y éticos?

¿Qué voy a leer en este artículo?

• Origen y funcionamiento de los algoritmos
• Los algoritmos forman parte de nuestra vida
• Los departamentos de Recursos Humanos y el uso de algoritmos
• Sesgos y prejuicios de los algoritmos

¿De dónde vienen y cómo funcionan los algoritmos?

El interés por los Recursos Humanos, entre muchos otros ámbitos. No obstante, y aunque podamos llegar a pensar que los algoritmos son una práctica eminentemente moderna y cosa de informáticos, la verdad es que ni una cosa ni la otra.

Hoy en día se entiende por algoritmo un procedimiento programado que transforma datos de entrada en resultados que nos permiten tomar decisiones. Más específicamente, la RAE lo define como un “un conjunto ordenado y finito de operaciones que permite hallar la solución a un problema”.

“Se entiende por algoritmo un procedimiento programado que transforma datos de entrada en resultados que nos permiten tomar decisiones”.

Por lo tanto, para que un algoritmo se complete se necesitan tres pasos. Entrada, entendida como el conjunto de datos que el algoritmo necesitas procesar. Proceso, definido como los pasos aplicados para el algoritmo para llegar a la solución. Y finalmente, salida, que es el resultado producido.

Los algoritmos presentes en nuestro móvil y en nuestro día a día

Un buen ejemplo moderno de la importancia de los algoritmos es Spotify. Spotify no es la plataforma musical que ha llegado a ser por el simple hecho de poder acceder a buena parte de la música producida, sino porque a través de sus algoritmos, que examinan nuestro comportamiento histórico de escucha (datos de entrada), ofrece predicciones personalizadas (salida) en forma de canciones que “nos gustarán”. Los algoritmos de Spotify tienen la función de ofrecer al usuario canciones que el algoritmo “sabe” que nos harán vibrar.

Es interesante pensar que, de hecho, nadie ha hecho la selección concreta para nosotros, nadie he escuchado antes el listado de canciones personalizado, sino que se ha creado un complejo algoritmo para que este nos ofrezca una predicción personalizada, que solo cada usuario final escuchará. El objetivo final del algoritmo es ofrecer la canción correcta a la persona correcta.

Lo mismo sucede con los algoritmos programados por muchas redes sociales para ofrecer anuncios personalizados a cada usuario: el anuncio correcto para la persona correcta.

Los algoritmos también han llegado con fuerza en el trabajo. De hecho, están ya transformando el mercado laboral y el mundo corporativo. Se usan algoritmos para distribuir tareas, indicaciones, tiempos, a partir de la ubicación y disponibilidad de los empleados. Un ejemplo claro es el de la distribución de las motos en servicios de Motosharing . El mismo tipo de algoritmo rige la nueva manera de funcionar de empresas de reparación de ascensores, o de servicios de asistencia en carreteras.

¿Cómo utiliza Recursos Humanos los algoritmos para seleccionar personal?

En recursos humanos, los algoritmos se han expandido en la contratación de personal, en la evaluación, promoción y la verificación de consecución de objetivos. Y es bueno contar con ayuda objetiva para tomar buenas decisiones.

No obstante, los expertos nos advierten que mientras los algoritmos nos pueden ofrecer nueva objetividad, a su vez, pueden llevar consigo nuevos riesgos y cuestiones éticas que deben ser considerados. En primer lugar, en muchos países, se han aprobado ya nuevas leyes para regular el uso de los algoritmos que afecten a las condiciones laborales.

En segundo lugar, los expertos nos indican que los algoritmos pueden estar sesgados, y es importante no tener una fe ciega en ellos. Claramente, el algoritmo no fallará nunca en su proceso para convertir datos de entrada en salida, pero sí que puede fallar que la programación de estos procesos no evite que los resultados de salida sean discriminatorios.

“Los empleados deben conocer si en su organización hay sistema de inteligencia artificial que afectan a sus condiciones laborales”.

Por ejemplo, en el e-recruitment (reclutamiento digital), los algoritmos interpretan semánticamente el contenido escrito en las cartas de recomendación y de los CVs, pero a la vez estos sistemas aprenden de las preferencias de los reclutadores, y pueden hacer predicciones para ofrecer al reclutador candidatos similares a los contratados anteriormente, generando un posible sesgo a favor de una parte de la población.

Un segundo ejemplo más específico facilitado por el prof. Ali, de la Universidad de Northestarn y sus colegas (2019), es que los algoritmos de abastecimientos, aquellos necesarios para llegar a una audiencia potencial, son claves en el proceso de contratación, aunque no se entienda como parte del proceso en sí. Estos algoritmos de abastecimiento funcionan del mismo modo que los anuncios personalizados, pero en este caso, se facilita la oferta de trabajo a un público potencial.

Los algoritmos también tienen sesgos y prejuicios

Para entender los posibles sesgos de los algoritmos en la contratación, Ali y su equipo hicieron un experimento interesante. Pagaron 8,500 dólares en anuncios a Facebook para compartir distintas ofertas de trabajo entre usuarios. En su caso, aunque las ofertas de trabajo eran distintas (una posición en la industria de la madera, una posición como cajero en una cadena de supermercados, y una posición en una empresa de taxis), el público objetivo específico como anunciantes fue idéntico en los tres casos.

Sin embargo, aunque las instrucciones fueran que el público objetivo específico fuera el mismo, los resultados del análisis del experimento revelaron que el empleo de la industria de la madera llegó a una audiencia que era mayoritariamente blanca y masculina (72% y 90% respectivamente), que el anuncio de cajero en un supermercado llegó a una audiencia femenina (85%), y que el anuncio de taxista llegó a un 75% de audiencia afroamericana.

Lo mismo sucedió con un segundo experimento ofreciendo casas y pisos de alquiler y venta, algunas de lujo y otras económicas. De nuevo, contratando anuncios para un público objetivo similar para ambos tipos de vivienda, los anuncios de lujo llegaron mayoritariamente a personas blancas, y las económicas a personas afroamericanas.

Por lo tanto, de nuevo, los expertos animan a revisar los propios sesgos que los algoritmos pueden generar. Por lo tanto, sería bueno:

• No evaluar, ni tomar decisiones completamente a ciegas siguiendo los resultados de los algoritmos, sino usarlos como datos necesarios y complementarios a otros generados por las personas involucradas en el proceso.
• Monitorear la tubería entera. En el caso de la contratación, a menudo no se considera el algoritmo de abastecimiento como un proceso clave en la contratación, pero tal y como sugiere Alí, este primer punto ya es clave y puede discriminar en favor a una población versus otra. Por lo tanto, sería deseable examinar todos los procesos implicados en una toma de decisión.
• Realizar intervenciones y experimentos para entender de propia mano en la organización posibles sesgos en la programación, comparando por ejemplo procesos de decisión múltiples (humanos + resultado algoritmos) con procesos de decisión unilaterales (el mejor resultado facilitado por el algoritmo).

Referencias:

Ali, M., Sapiezynski, P., Bogen, M., Korolova, A., Mislove, A., & Rieke, A. (2019). Discrimination through optimization: How Facebook’s Ad delivery can lead to biased outcomes. Proceedings of the ACM on human-computer interaction, 3(CSCW), 1-30.