LLM предпочитают собственные результаты при найме: на 23–60% выше шансы попадания в шорт-лист для резюме, доработанных ИИ

Новая статья (arXiv:2509.00462) эмпирически подтверждает, что LLM, используемые при найме, проявляют предвзятость в пользу себя: они систематически ранжируют резюме, сгенерированные ими самими, выше, чем написанные человеком или созданные другими моделями, даже при контроле качества контента.

Ключевые выводы

• Величина предвзятости: В контролируемом корреспондентском эксперименте предвзятость к себе составила от 67% до 82% для основных коммерческих моделей и моделей с открытым исходным кодом.
• Влияние на шорт-лист: В смоделированных процессах найма по 24 профессиям кандидаты, использующие ту же LLM, что и оценщик, имели на 23–60% больше шансов попасть в шорт-лист, чем равные по квалификации соискатели с резюме, написанными человеком.
• Различия по сферам: Наибольшее неравенство наблюдалось в бизнес-сферах (продажи, бухгалтерия).
• Вмешательство работает: Простые меры, направленные на снижение способности LLM распознавать свой собственный стиль, сократили предвзятость более чем на 50%.

Дизайн эксперимента

В исследовании использовался масштабный контролируемый корреспондентский эксперимент с резюме. Соискатели использовали LLM для улучшения резюме, а работодатели — те же LLM для их отбора. Предвзятость сохранялась для всех моделей — как коммерческих (например, GPT-4), так и открытых, — а качество контента оставалось неизменным.

Почему это важно

Поскольку ИИ-агенты все чаще участвуют в найме с обеих сторон (соискатели используют LLM для написания резюме, работодатели — для их отбора), возникает петля обратной связи, в которой контент, созданный ИИ, несправедливо получает преимущество. Авторы призывают расширить рамки справедливости ИИ, чтобы учитывать не только демографическую предвзятость, но и предвзятость при взаимодействии ИИ с ИИ.

Вмешательство

В статье показано, что изменение промпта для отбора, снижающее способность LLM распознавать свой собственный стиль, сокращает предвзятость более чем вдвое — это практический вывод для команд, создающих процессы найма.