11-10-2018 08:10

Искусственный интеллект Amazon пришлось закрыть из-за проявлений сексизма

Тестировавшийся компанией Amazon алгоритм искусственного интеллекта для поиска сотрудников оказался сексистским.

Как сообщает агентство Reuters со ссылкой на свои источники, проблема оказалась в выборке, по которой обучалась система, – большинство резюме в ней от кандидатов-мужчин.

Искусственный интеллект справился с тестом по прочтению мыслей человека. ВИДЕО

Стало известно, что 4 года назад сотрудники Amazon поставили цель разработать программу, которая способна выставлять звезды кандидатам от одной до пяти в зависимости от степени соответствия должности.

Инженеры предполагали, что система сформирует пять резюме, наиболее удовлетворяющих запросу, после чего примется за поиск необходимых людей, – пояснил источник агентства.

Однако в 2015 году выяснилось, что искусственный интеллект не смог соблюсти нейтралитет в гендерном вопросе и чаще отдавал предпочтение мужчинам.

Команда разработчиков объяснила это тем, что алгоритм обучался на базе, в которую вошли резюме всех сотрудников Amazon за последние 10 лет. Мужчин в выборке оказалось больше, чем женщин, поэтому искусственный интеллект пришел к выводу, что кандидаты-мужчины предпочтительнее.

Amazon отредактировала алгоритм, но корректировка не давала гарантий, что он не будет дискриминировать кандидатов по другим признакам, поэтому к началу 2017 года компания решила отказаться от использования системы.

Причем сообщается, что HR-специалисты все это время опирались на результаты нейросети, однако решение при выборе сотрудника на работу все же принимали самостоятельно.

Представитель Amazon отказался комментировать агентству опыт создания алгоритма и заявил, что при найме сотрудников компания руководствуется в том числе и принципами гендерного равенства.

Напомним, гендиректор компаний SpaceX и Tesla Илон Маск еще в 2017 году призывал готовиться к восстанию машин.

По его оценке, людям нужно активно регулировать эту сферу, потому что отреагировать мы можем не успеть.

Потому что к тому времени, когда мы будем реагировать, станет уже слишком поздно, — заявил Маск.

Маск отметил, что он имеет доступ к самому передовому искусственному интеллекту, а потому знает, о чем говорит.