ИИ для найма в США усиливает расовую предвзятость на масштабе

ИИ действительно помогает IT-менеджерам находить лучших кандидатов на вакансии?

Исследовательский проект, изучавший найм с использованием ИИ по всей территории США, выявил системную расовую предвзятость.

Исследователи из Stanford University обнаружили поразительную картину расовых различий, анализируя приглашения на собеседования по итогам 4 миллионов заявок на работу, поданных 156 работодателям. Ситуацию усугубляет «монокультура» в программном обеспечении для ИИ-найма: более 90% работодателей в США используют софт для первичного отбора кандидатов, а 60% компаний из Fortune 500 применяют один и тот же инструмент — HireVue, установили исследователи.

Соискатели, подавшие заявки в несколько компаний, использующих ИИ, чаще получали отказы по всем направлениям — это происходило чаще, чем ожидалось бы при независимой работе систем отбора в каждой компании. По расчетам, Black и Asian-кандидатов отклоняли чаще, чем предполагали бы базовые показатели. Согласно исследованию, без внедрения ИИ на собеседование могли бы пригласить еще 29 000 азиатских кандидатов.

Исследователей тревожит то, как именно используется ИИ. «Инструменты ИИ-скрининга объединяют три свойства, которые не должны сосуществовать в принятии решений с высокими ставками: они повсеместно внедрены, крайне значимы и непрозрачны для общественности», — сказали они в пресс-релизе о представлении работы.

Последствием может стать рынок труда, где рабочие места будут все больше формировать однородную «монокультуру», что в перспективе может оказаться невыгодным для компаний.

Впервые материал опубликован на CIO.

Материал — перевод статьи с английского.

Оригинал: AI hiring monoculture is delivering racial bias at scale