11 октября 2018

Алгоритм Amazon для поиска персонала оказался сексистом

Экспериментальное программное обеспечение, которое Amazon разработал для подбора кадров, систематически отсеивало кандидатов женского пола, поэтому компания от него отказалась.

Кадр из фильма «Робот по имени Чаппи», реж. Нил Бломкамп, 2015 г.

Кадр из фильма «Робот по имени Чаппи», реж. Нил Бломкамп, 2015 г.

В 2014 году Amazon собрала команду разработчиков в Шотландии и поставила перед ним задачу разработать ИИ-алгоритм для подбора сотрудников. Инженеры создали 500 моделей, которые анализировали опубликованные в открытом доступе резюме и отбирали подходящих кандидатов на основе 50 тысяч ключевых терминов.

Спустя год разработчики заметили, что алгоритм подбирает непропорционально много мужчин. Они объяснили это тем, что в базе, на которой обучался алгоритм — а в нее вошли резюме сотрудников Amazon за последние 10 лет — оказалось намного больше мужчин, чем женщин.

Мужчины и сейчас преобладают в IT, а раньше они просто доминировали. Кроме того, программа по какой-то причине блокировала резюме, содержавшие слово «женский» — например, в словосочетании «капитан женского шахматного клуба».

Искусственный интеллект пришел к выводу, что мужчины предпочтительнее, и чаще предлагал нанимать их. В частности, алгоритм отбирал резюме только выпускниц двух женских колледжей.

Amazon признал программу ненадежной, и проект закрыли, однако, по информации Reuters, еще какое-то время отдел кадров принимал во внимание рекомендации алгоритма, хотя и не основывал на них свое окончательное решение.

Опыт Amazon может стать важным уроком для растущего списка крупных компаний, которые стремятся автоматизировать процесс найма. По данным опроса, проведенного в 2017 году фирмой CareerBuilder в области рекрутинга, около 55% менеджеров по персоналу США заявили, что искусственный интеллект станет частью их рабочей рутины в течение следующих пяти лет. Однако опыт Amazon и опрошенные Reuters эксперты доказывают, что до этого еще очень далеко.


Читайте также

Чтобы оставить комментарий, нужно войти.