Иск против ИИ-рекрутера: как алгоритмы создают черные списки

Программное обеспечение Eightfold AI оценивает кандидатов по шкале от 0 до 5, прогнозируя их будущую эффективность. Однако соискатели остаются в неведении относительно критериев оценки, так как система работает по принципу «черного ящика». Адвокат истцов Рэйчел Демпси подчеркивает: без прозрачности процесса кандидаты не могут оспорить ошибки алгоритмов, которые могут дискриминировать их на основе неверных данных.

Ситуация усугубляется отсутствием в США законодательного регулирования, обязывающего компании раскрывать использование ИИ при найме. Профессор юридической школы Университета Эмори Ифеома Аджунва отмечает, что если алгоритм один раз отклонил кандидата, система может зафиксировать этот отказ как эталонный, транслируя решение на других работодателей. Подобная автоматизация способна не только повторять человеческие предубеждения, но и масштабировать их до катастрофических значений, создавая устойчивые стереотипы на основе демографических или лингвистических признаков.