Big Data: оружие математического поражения

тот алгоритм, конечно, непрозрачный, заставляет родителей абитуриентов залезать в кредиты и пускаться во все тяжкие, что вовсе не гарантирует ни поступления, ни последующего процветания. Зато он помогает безбедно существовать всевозможным коучам и консультантам. Но как быть тем, у кого нет денег? Дорога к хорошему образованию для них практически закрыта. Алгоритм плодит социальные привилегии для избранных и углубляет социальное неравенство. И даже те, кому удалось поступить, не столько получают знания, сколько при помощи тестирования, созданного алгоритмами, стараются эти алгоритмы удовлетворить.

Для сбора необходимых данных используются анкеты. Они включают вопросы о наличии и количестве судимостей, месте жительства, материальном положении, употреблении алкоголя и наркотиков, обстоятельствах рождения и воспитания (состав семьи, наличие судимости у родственников). Таким образом, получается, что тот, кто вырос в бедных кварталах и неблагополучных семьях, представляет собой главную угрозу обществу. Вопрос о материальном положении, по мнению О’Нил, вообще является явно лишним. Как и другие, не относящиеся к сути дела вопросы, вроде судимости родственника, — ведь людей судят за то, что они сделали, а не за то, кто они. Между тем, человек, набравший высокие баллы возможности рецидива, безработный и выросший в бандитском квартале, будет снова и снова попадать в тюрьму, в общество преступников, в том числе благодаря алгоритму. Ему все труднее будет найти работу, что снова толкнет его на преступление. И вот оно, доказательство правильной работы алгоритма, высчитывающего рецидив — но и провоцирующего его.

Алгоритмы используются и при приеме на работу. Например, работодатели смотрят на кредитные баллы для оценки своих потенциальных сотрудников, считая, что человек, вовремя оплачивающий счета, более ответственно относится к работе. Но каждый случай индивидуален, считает О’Нил, и прекрасный ответственный специалист может иногда оказаться в стесненных обстоятельствах. Однако у него меньше шансов найти работу — из-за алгоритма, в котором плохое выполнение работы коррелируется с низким кредитным баллом. Безработный беднеет еще больше, его баллы падают все ниже вместе с шансами на трудоустройство. Получается порочный круг, нисходящая спираль. И таких токсичных приложений в алгоритмах много, утверждает автор. Их общая черта — еще больше обогащать богатых и разорять бедных. Они непрозрачны, непререкаемы и не имеют обратной связи. Сортируя миллионы людей по неким принципам, возможно, ошибочным, они выдают свои выводы за реальность.