Según la investigación, todos los grandes modelos de lenguaje sometidos a prueba extrajeron conclusiones infundadas sobre la fiabilidad o las capacidades de las personas.
Estas apreciaciones también influyeron en sus evaluaciones, por ejemplo, a la hora de determinar si alguien era apto para recibir financiación de capital de riesgo o si podía ser sospechoso de trata de personas. Los investigadores hablaron de una «sorprendente vulneración de la neutralidad».
Cómo se probó a GPT-4o, GPT-5, Gemini y Claude
En las pruebas, los investigadores pidieron a GPT-4o que realizara cerca de 4.600 elecciones entre rostros generados por ordenador. Posteriormente, repitieron el experimento con GPT-5, Gemini 3 Flash Preview y Claude Sonnet 4.5.
Los modelos debían decidir, por ejemplo, qué rostro parecía más inteligente, trabajador, servicial, egoísta o agresivo. En otros experimentos, se pidió a los modelos de lenguaje que evaluaran quién podría ser, por ejemplo, un asesino en serie o un gestor financiero adecuado.
En lo referente a la fiabilidad y la confianza en uno mismo, GPT-4o eligió en el 74,88 % de los casos el rostro que cabía esperar según las valoraciones realizadas por seres humanos. Su sucesor, GPT-5, mostró todavía más seguridad al emitir este tipo de juicios.
¿De dónde vienen estos prejuicios de la inteligencia artificial?
Según los investigadores, no está claro cómo los modelos de lenguaje, entrenados a partir de textos, llegan a atribuir rasgos de carácter a los rostros basándose en prejuicios.
Un posible factor sería que la literatura contiene innumerables asociaciones entre la apariencia física y el carácter. Un ejemplo se encuentra en Julio César, de Shakespeare: «Ese Casio tiene una mirada flaca y hambrienta… Los hombres así son peligrosos».
Los investigadores advierten de que, si no se trabaja para corregir la tendencia de los sistemas de IA a reproducir prejuicios, existe el riesgo de que su utilización agrave aún más los «resultados injustos bajo el manto de una supuesta objetividad y precisión matemática».
Sin embargo, reconocen que sus conclusiones deben tomarse con cautela, ya que las pruebas se realizaron en condiciones de laboratorio. Tampoco descartan que algunas de las imágenes utilizadas estuvieran presentes en los datos con los que se entrenó la IA, aunque no encontraron indicios de que los modelos las reconocieran.
El autor principal del estudio, Steven Lehr, psicólogo de Harvard, es también fundador y asesor científico de una empresa estadounidense que opera una plataforma de selección de personal basada en inteligencia artificial.
No dejes que el algoritmo oculte las noticias. Si confías en este sitio para obtener información confiable, por favor dedica un momento a seleccionarnos como tu fuente preferida en Google: haz clic aquí y marca el casillero o pulsa el botón de DW.com para ver siempre nuestras noticias verificadas en tus preferencias.
