В 2014 году инженеры компании создали искусственный интеллект, который должен был подбирать подходящих кандидатов на работу. Они сделали 500 моделей, которые искали кандидатов в открытых базах на основе 50 тысяч ключевых терминов.
В 2015 году выяснилось, что алгоритм, в основном, одобряет кандидатуры мужчин.
Оказалось, что система обучалась на базе данных, в которую вошли резюме всех сотрудников Amazon за последние десять лет. Работниками компании были преимущественно мужчины. Поэтому искусственный интеллект делал выбор в пользу сильного пола.
