0

Поздравляем: Вы впечатлили роботизированного рекрутера

Человек или машина? Выяснилось, что даже с точки зрения принятия решений, оба могут действовать несправедливо. © Bloom Productions / Getty Images

Когда речь идет о повышении сотрудника или о трудоустройстве нового человека, нередко объективному принятию решения мешают предрассудки. Стоит ли доверить эти вопросы обладателям искусственного интеллекта?

Решения судей в обеденное время отличается от утренних вердиктов, а работодатели доверяют иностранным кандидатам меньше, чем соотечественникам. Люди часто совершают несправедливые суждения, опираясь на те или иные предрассудки. Так почему бы не использовать компьютеры в вопросах справедливости? Юстиция, богиня правосудия, часто изображается с завязанными глазами, потому что она должна судить, не глядя на человека. Что может быть более честным, чем оставить свои решения за холодной технологией? И сможет ли это решение устранить все несправедливости, которые пронизывают рабочий мир?

«Честность через алгоритмы» - этот лозунг звучит слишком хорошо, чтобы быть правдой. И к сожалению, это так. Уже давно ходят слухи, что даже алгоритмы могут копать глубже холодных фактов. Известный случай связан с областью уголовного правосудия: как выяснили журналисты из Pro Publica, компьютерная программа, предназначенная для расчета вероятности рецидивов у преступников и, таким образом, для поддержки решений о досрочном освобождении, допустила различные ошибки для светлокожих и чернокожих обвиняемых: ошибки при расчетах говорили в пользу белых и в ущерб обвиняемых афроамериканского происхождения. Подобная дискриминация может распространяться и на рынке труда. Несколько лет назад стало известно, что Google показывал объявления о высокооплачиваемой работе на руководящих должностях чаще мужчинам, чем женщинам. Так что все (несправедливость), как и прежде, только на этот раз в цифровом варианте?

Это было бы опрометчивым суждением - потому что вы можете провести четкую грань между диагнозом и решением. Данные, собранные по заявителям, чернокожим и светлокожим группам населения, могут выделить многое из того, что ранее было трудно определить: например, тот факт, что неблагоприятные условия жизни различных групп населения уменьшаются с продвижением по карьерной лестнице все больших респондентов. Часто решающим фактором становятся стереотипы и предрассудки, связанные с определенными характеристиками, такими как этническая принадлежность и пол. Big Data и алгоритмы могут быть очень полезны в диагностике несправедливости - если только документировать то, что в любом случае знают и замечают подверженные дискриминации группы, таким образом, что их уже нельзя отрицать как отдельные случаи.

Не каждый шаблон данных должен быть обновлен

Все возможные наборы данных, используемые сегодня алгоритмическими системами принятия решений, содержат несправедливости, копившиеся десятилетиями и даже столетиями. Делать их видимыми, возможно, даже количественно, может быть очень полезно. С другой стороны, создание алгоритмов на основе таких записей весьма проблематично (не считая проблем с конфиденциальностью!). Потому что не каждый паттерн, который обнаруживают алгоритмы в данных, заслуживает обновления. Например, когда искусственный интеллект используется для определения характеристик сотрудников, которые работают особенно эффективно, неясно, что конкретно стоит использовать в качестве критериев для будущих кандидатов. Если алгоритм обнаруживает, что хорошие сотрудники часто носят очки - стоит ли нанимать только людей с плохим зрением? А что, если определенные люди кажутся более эффективными, потому что они особенно искусны в украшении себя чужими лаврами и получении успехов, которые действительно идут в команду?

Использование алгоритмических систем отбора кандидатов - распространенная практика, особенно в США, которую Кэти О'Нил обсуждает в своей книге «Алгоритмы атаки», которая является бестселлером, - также порождает проблему, заключающуюся в том, что судьба отклоненных кандидатов зависит от и их прошлых профессиональных успехов или неудач, которые не вписываются в список критериев компании. Это все равно что сажать деревья в исследовательских целях и наблюдать за их развитием и в итоге установить их будущее развитие только с помощью сруба. То, имеет ли место несправедливая дискриминация определенных групп заявителей, которые даже не приглашены на личное собеседование, до сих пор остается непонятным.

Если у людей есть работа, могут ли они хотя бы понять свои достижения лучше, чем обычно? Сбор данных на рабочем месте обещает справедливость посредством индивидуальных оценок. Но действительно ли желательно, чтобы все, от нажатий клавиш до перерыва в туалете, было записано, что произойдет на протяжение длительного рабочего дня в офисе или в мастерской? Вероятно, опытные сотрудники быстро поймут, как они могут перехитрить алгоритмы. Это, в свою очередь, исказит данные и, возможно, заставит и других работать над цифровой оптимизации, а не выполнять свою реальную работу. Уважительное, основанное на доверии сотрудничество выглядит иначе. Кроме того: не все вклады в достижения команды могут быть одинаково хорошо уловлены собранными данными. Как насчет человека, который пишет меньше электронных писем, но поддерживает настроение и мотивацию своим чувством юмора? Эмпирические правила, которые мешают кому-либо опираться на спину других, часто являются лучшим решением, чем неправильно понятая точность.

Человек является социальным существом, а не набором данных

Большая справедливость благодаря алгоритмическим решениям — это обещание, которое должно встречаться с особой осторожностью. В любом случае, компьютеры не смогут за нес ответить на вопрос о том, что на самом деле справедливо, а что нет. Каким образом разные вклады оцениваются в команде, как взаимодействие различных видов деятельности можно отнести к отдельным лицам, все это не может быть решено алгоритмом. Вполне может быть, что во многих местах самое справедливое решение состоит не в том, чтобы приписывать преимущества индивидуально, поэтому серьезно относитесь к повязке с завязанными глазами Юстиции - просто потому, что нет концепции для индивидуального достижения, если это команда, которая работает вместе Люди часто работают очень успешно, когда дополняют навыки друг друга. И поскольку эти навыки настолько различны, то зачастую они могут раскрыть свой потенциал только в связи со способностями других людей. В мире труда мы больше, чем набор данных - мы социальные существа!

Возврат к списку

Хотите подписаться на статьи электронного журнала "Электрорешения"?