Sesgos en la contratación automatizada

La inteligencia artificial enfrenta desafíos para evitar estereotipos en procesos laborales

Inteligencia artificial demuestra una tendencia más marcada que los humanos a generar sesgos durante los procesos de contratación. Un estudio reciente revela que los modelos de lenguaje tienden a estereotipar a las personas con base en sus grupos demográficos. En una medición de segregación laboral, donde el valor más alto…

Inteligencia artificial demuestra una tendencia más marcada que los humanos a generar sesgos durante los procesos de contratación. Un estudio reciente revela que los modelos de lenguaje tienden a estereotipar a las personas con base en sus grupos demográficos. En una medición de segregación laboral, donde el valor más alto indica una división completa, los humanos obtuvieron un puntaje de 0.84, mientras que los modelos de IA alcanzaron un resultado significativamente mayor, con el modelo de razonamiento o3 de OpenAI registrando un preocupante 1.83.

Esta predisposición se origina en la tendencia de los modelos de lenguaje a generalizar a partir de datos limitados. La capacidad de estos sistemas para crear generalizaciones es parte de su diseño central. Cada decisión, ya sea humana o automatizada, enfrenta el dilema de explotar soluciones comprobadas o explorar nuevas alternativas, conocido como el "dilema exploración-explotación" en psicología. Modelos avanzados como el o3 de OpenAI y el R1 de DeepSeek exhiben sesgos más acentuados, especialmente cuando se apresuran a generalizar en contextos sociales, con potenciales consecuencias negativas.

Relevante en un contexto donde los chatbots están mejorando sus funciones de memoria y personalización, el historial de interacciones puede replicar patrones de comportamiento, propiciando sesgos. Sin embargo, disminuir la capacidad de memoria no es una solución viable, ya que los usuarios valoran que se recuerden sus preferencias. El reto radica en encontrar un equilibrio en la memoria que evite la excesividad o insuficiencia. Aunque indicar a un modelo que actúe equitativamente no parece afectar su comportamiento, ofrecer incentivos por diversidad ha mostrado ser efectivo en la reducción de sesgos. Así, el desafío es definir objetivos que integren valores sociales, permitiendo que los modelos de lenguaje operen de acuerdo con principios éticos y sociales.