Кадр из фильма «Робот по имени Чаппи», реж. Нил Бломкамп, 2015 г.

Кадр из фильма «Робот по имени Чаппи», реж. Нил Бломкамп, 2015 г.

В 2014 году Amazon собрала команду разработчиков в Шотландии и поставила перед ним задачу разработать ИИ-алгоритм для подбора сотрудников. Инженеры создали 500 моделей, которые анализировали опубликованные в открытом доступе резюме и отбирали подходящих кандидатов на основе 50 тысяч ключевых терминов.

Спустя год разработчики заметили, что алгоритм подбирает непропорционально много мужчин. Они объяснили это тем, что в базе, на которой обучался алгоритм — а в нее вошли резюме сотрудников Amazon за последние 10 лет — оказалось намного больше мужчин, чем женщин.

Мужчины и сейчас преобладают в IT, а раньше они просто доминировали. Кроме того, программа по какой-то причине блокировала резюме, содержавшие слово «женский» — например, в словосочетании «капитан женского шахматного клуба».

Искусственный интеллект пришел к выводу, что мужчины предпочтительнее, и чаще предлагал нанимать их. В частности, алгоритм отбирал резюме только выпускниц двух женских колледжей.

Amazon признал программу ненадежной, и проект закрыли, однако, по информации Reuters, еще какое-то время отдел кадров принимал во внимание рекомендации алгоритма, хотя и не основывал на них свое окончательное решение.

Опыт Amazon может стать важным уроком для растущего списка крупных компаний, которые стремятся автоматизировать процесс найма. По данным опроса, проведенного в 2017 году фирмой CareerBuilder в области рекрутинга, около 55% менеджеров по персоналу США заявили, что искусственный интеллект станет частью их рабочей рутины в течение следующих пяти лет. Однако опыт Amazon и опрошенные Reuters эксперты доказывают, что до этого еще очень далеко.

Читайте также