Caso Workday: La IA no inventa los prejuicios. Los aprende.

¿Qué pasa cuando decisiones que durante años tomamos en automático, en silencio, muchas veces sin registrarlo, empiezan a tomarse solas... y a una velocidad que ya no podemos seguir?

El problema aparece cuando la IA aprende de decisiones tomadas por personas. Porque, si durante años las organizaciones eligieron talento por prejuicios —conscientes o inconscientes—, la inteligencia artificial puede amplificar esos mismos sesgos a una velocidad y una escala que nunca habíamos visto. La IA no inventa los prejuicios. Los aprende.

Y ese es el orden de los hechos, aunque nos cueste reconocerlo: primero está la persona, con sus miedos, su desconocimiento, sus sesgos y prejuicios. Tomando decisiones. Generando información. Entrenando, casi siempre sin saberlo, a los sistemas de inteligencia artificial. Después, esos sistemas, alimentados por esa enorme base de datos viva, empiezan a decidir cada vez más rápido... y a una escala que nunca antes habíamos visto.

De dónde vienen nuestros criterios

Los criterios con los que tomamos decisiones tienen una carga alta de subjetividad. Traen nuestra experiencia de vida, lo que hemos visto, lo que creemos, lo que valoramos y lo que no. Si creemos que las personas jóvenes, sin experiencia laboral, no pueden asumir ciertos roles, y que las personas después de los 50 años no pueden aprender o adaptarse a determinadas exigencias, entonces nuestras decisiones —todas, una por una— van a reflejar exactamente esa creencia.

Cuando esa creencia se contagia, se multiplica y termina asumiéndose como una verdad, aparece una cultura. Una cultura que consolida esos valores y esas formas de hacer las cosas, muchas veces sin que nadie las cuestione. Se replican automáticamente y aseguran su continuidad en el tiempo. Hasta ahora, ese "automático" tenía un límite: la capacidad humana. En el caso que estamos analizando, una persona solo puede leer, evaluar y descartar una determinada cantidad de CV por día.

Lo que cambia con la tecnología

Lo que cambia es justamente ese límite. Esas decisiones, repetidas durante años —muchas veces de manera inconsciente—, empiezan a transformarse en reglas escritas en forma de algoritmos. Dejan de aplicarse caso por caso. Empiezan a aplicarse de manera generalizada. Y a una velocidad que supera ampliamente la capacidad humana para revisar, cuestionar o corregir cada decisión.

Ahí, con todas las ventajas reales que trae la velocidad, la estandarización y el reemplazo de tareas rutinarias —pensemos en leer CVs y conformar un primer grupo de candidatos para entrevistar—, empieza a formarse una bola de nieve. Solo podemos verla si recuperamos, entrenamos y ejercitamos nuestro sentido crítico frente a las nuevas tecnologías. Si cuestionamos nuestras propias certezas. Incluso esa certeza, tan cómoda, de que la tecnología va a reemplazarnos o resolver todo el trabajo que no queremos hacer.

Un caso, con nombre y con números

Annie Coleman, embajadora global del Stanford Center on Longevity, suele utilizar un caso que resume este desafío. Workday, una de las plataformas de Recursos Humanos más utilizadas del mundo, enfrenta una demanda colectiva por presunta discriminación por edad en sus procesos automatizados de selección. Según la causa, la plataforma rechazó más de 1.100 millones de postulaciones durante el período analizado. La Justicia estadounidense decidió que la demanda continúe como acción colectiva, habilitando a que cualquier persona mayor de 40 años que haya postulado a través de Workday desde 2020 pueda sumarse al reclamo si considera que fue afectada por esos procesos automatizados.

Durante años, la discriminación por edad en los procesos de selección fue difícil de probar. Bastaba con una entrevista, una decisión no documentada, un "no encaja con el perfil" que nadie terminaba de explicar. Pero cuando la decisión pasa de una persona a una plataforma, el sesgo no desaparece: se escala, deja huella y rastro. Y, ”no lo sabíamos" deja de ser una respuesta válida.

No es un caso aislado ni una anécdota lejana. Es la evidencia de que un sesgo que durante años quedó implícito en una decisión individual, ahora puede quedar codificado y aplicado de manera sistemática, a una velocidad y una magnitud que ningún área de selección hubiera alcanzado trabajando "a mano".

Cuestionarnos, no enfrentarnos

La responsabilidad que tenemos por delante no es solo de quienes diseñan algoritmos. Es de todos nosotros. Necesitamos aprender a trabajar de manera intergeneracional, interdisciplinaria e intercultural. A complementarnos. Pero, sobre todo, a cuestionarnos. ¿Por qué hay decisiones que nos parecen obvias? ¿Por qué descartamos determinadas opciones casi automáticamente? ¿Qué prejuicios estamos dando por ciertos sin siquiera advertirlo?

Esa conversación, cuando es honesta, vale más que cualquier auditoría de sesgos encargada a un proveedor. Porque una auditoría puede revisar el código. Pero la pregunta incómoda nos obliga a revisarnos a nosotros. Y ahí es donde, casi siempre, empieza el sesgo.

Aprender, aprender, aprender. Con rumbo, con intención y con los pies en la tierra.

Y aprender, en estos tiempos, es mucho más que descargar ChatGPT, hacer una pregunta y maravillarse con la respuesta. Es comprender qué hay detrás de lo que vemos. Y eso requiere estar más lúcidos. También más lentos. Porque, corriendo, es muy difícil ver los detalles que aparecen cuando caminamos.

Comprender para después integrar. Ampliar la mirada, abrir diálogos nuevos y escuchar voces con las que no coincidimos o que, incluso, todavía no entendemos. Y, desde ahí, animarnos a transformar. Aprovechar las oportunidades que traen estas nuevas tecnologías —trabajar mejor, vivir con mayor salud y bienestar, conocernos más profundamente— sin dejar de ver y gestionar las sombras que también conllevan.

Porque el riesgo es mayor y el momento es ahora.

La inteligencia artificial ya está transformando la forma en que las personas somos evaluadas, elegidas o descartadas. Está ocurriendo mucho más de lo que imaginamos. Y, precisamente por eso, está en nosotros revisar nuestros propios sesgos. Porque aquello que la tecnología amplifique dependerá, en gran medida, de aquello que primero decidamos cambiar en nosotros mismos.