Американский гигант-ритейла Amazon решил отыскать новый технологичный способ поиска сотрудников. Для этого компания создала алгоритм на основе ИИ, который может самостоятельно подбирать кандидатов. Все бы ничего, да вот только вышел недочет: искусственный разум пренебрегает кандидатами женского пола.
По данным Reuters, Amazon дал старт проекту еще в 2014 году. В компании надеялись получить действенный инструмент, который смог бы отбирать лучшие резюме из большого числа предложенных с целью найма этих людей.
Разработчики создали 500 компьютерных моделей, способных искать подходящие резюме в открытых базах рекрутинговых компаний и отбирать кандидатов на основе наибольшего числа совпадений среди 50 тысяч терминов, взятых из резюме соискателей, которые в итоге были приняты в Amazon. ИИ оценивал кандидатов по пятибалльной системе.
В 2015 году команда разработчиков обратила внимание, что система предпочитает женщинам мужчин. Разработчики объяснили это тем, что для обучения ИИ ему «скормили» базу резюме всех сотрудников Amazon за последнее десятилетие. Сильного пола в выборке было значительно больше, а посему система решила, что кандидаты-мужчины предпочтительнее.
В Amazon сперва отредактировали алгоритм, однако корректировка не могла дать гарантий, что искусственный интеллект не будет дискриминировать соискателей по другим параметрам, поэтому, в конечном счете, от услуг системы пришлось отказаться.
Представитель компании не стали комментировать отказ от алгоритма, заявив только, что при найме сотрудников Amazon руководствуется принципами разнообразия и равенства.
