Инструменты ИИ не могут уменьшить предвзятость при наборе персонала — исследование

Исследователи утверждают, что инструменты найма с искусственным интеллектом не уменьшают предвзятость и не улучшают разнообразие.

«Растет интерес к новым способам решения таких проблем, как предвзятость в интервью», Об этом говорят исследователи Кембриджского университета.в журнале «Философия и техника».

Использование ИИ становится все более распространенным, но его анализ видео-кандидатов или приложений — это «псевдонаука».

Профессиональная организация по управлению персоналом сообщила BBC News, что искусственный интеллект может противодействовать предвзятости.

В исследовании отмечается, что в 2020 году международный опрос 500 специалистов по кадрам показал, что почти четверть из них использовали ИИ для «привлечения талантов в форме автоматизации».

Но использование его для уменьшения предвзятости контрпродуктивно, и, как сказала BBC News постдокторский исследователь Центра гендерных исследований Кембриджского университета Керри Маккерет, это основано на «мифе».

«Эти инструменты нельзя научить только определять характеристики, связанные с работой, и исключать пол и расу из процесса найма, потому что те атрибуты, которые, как мы считаем, необходимы для того, чтобы быть хорошим сотрудником, неотъемлемо связаны с полом и расой». она сказала.

В исследовании отмечается, что некоторые компании также сочли эти инструменты проблематичными.

В 2018 году, например, Amazon объявила, что отказалась от разработки системы подбора персонала на основе ИИ, поскольку она могла определять пол по резюме и дискриминация женщин-заявителей.

Особую озабоченность у исследователей вызывали инструменты для «анализа деталей речи и телодвижений кандидата», чтобы увидеть, насколько они напоминают предполагаемого идеального сотрудника компании.

Технология анализа видео и изображений не имеет «научной основы», заявила BBC News соавтор Элеонора Дрэдж, отвергнув ее как «современную френологию», а ложная теория формы черепа может выявить характер и умственные способности.

«Говорят, что они могут узнать вашу личность, взглянув на ваше лицо. Идея состоит в том, что, подобно тесту на детекторе лжи, ИИ может видеть «сквозь» ваше лицо настоящего вас», — сказала она BBC News.

Вместе с шестью студентами, изучающими информатику, исследователи создали собственный упрощенный инструмент для набора ИИ, чтобы оценивать фотографии кандидатов по личностным качествам «большой пятерки»:

Но рейтинги были искажены множеством нерелевантных переменных.

«Когда вы используете наш инструмент, вы можете видеть, что ваша оценка личности меняется, когда вы меняете контраст/яркость/насыщенность», – написала г-жа Дрэдж.

Сайт новостей технологий The Register отметил другие расследования пришли к аналогичному выводу.

А Немецкий общественный вещатель обнаружение в видео очках или платке изменило баллы кандидата.

Хайфа Мохдзаини из Чартерного института персонала и развития сообщила Би-би-си. его исследование предложило только 8% работодателей использовали ИИ для отбора кандидатов.

«ИИ может эффективно помочь увеличить разнообразие организации, отфильтровывая из более широкого пула кандидатов, но он также может упустить много хороших кандидатов, если правила и обучающие данные будут неполными или неточными», — сказала она.

«Программное обеспечение ИИ для анализа голоса и языка тела кандидатов при приеме на работу находится в зачаточном состоянии и, следовательно, несет в себе как возможности, так и риски».