Кэти О'Нил

Убийственные большие данные. Как математика превратилась в оружие массового поражения

Посвящается всем аутсайдерам

Благодарности

Спасибо моим мужу и детям за их невероятную поддержку. Также спасибо Джону Джонсону, Стиву Уолдману, Маки Инаде, Беки Джефф, Аарону Абрамсу, Джули Стил, Карен Бернс, Мэтту ЛаМаните, Марте Пун, Лизе Рэдклифф, Льюсу Дэниелу и Мелиссе Билски. И, наконец, спасибо людям, без которых эта книга не могла бы родиться: Лоре Стросфелд, Аманде Кук, Эмме Берри, Джордану Элленбергу, Стивену Бейкеру, Джею Мэнделу, Сэму Кансон-Бенанаву и Эрни Дэвису.

Вступление

В детстве я любила высматривать из окна машины номерные знаки других автомобилей. Я делила их на базовые элементы – числа, из которых они состояли. 45=3×3×5. Этот процесс, который называется разложением на множители, был моим любимым познавательным времяпрепровождением. Математика уже тогда очень меня интересовала, и особенно я была заинтригована простыми числами.

Моя любовь к математике постепенно переросла в страсть. В четырнадцать лет я отправилась в математический лагерь и вернулась домой, прижимая к груди кубик Рубика. Математика дала мне аккуратное, уютное убежище, где можно было укрыться от хаотичности реального мира. Математика двигалась вперед, ее поле знаний постоянно расширялось, от доказательства к доказательству. Я чувствовала, что могу сделать и свой вклад. Я изучала математику в колледже, и степень доктора философии получила тоже в области математики. Темой моей диссертации была алгебраическая теория чисел – область, основанная на разложении на множители, которое так интересовало меня в детстве. В конце концов я стала профессором в Барнард-колледже, математический факультет которого объединен с Колумбийским университетом.

А затем я резко изменила свою жизнь: ушла из колледжа и устроилась на работу специалистом по количественному анализу в один из крупнейших хедж-фондов – фонд David E. Shaw. Уйдя из академического заведения в мир финансов, я перенесла математику из абстрактной теории в практику. Операции, которые мы производили с цифрами, воплощались в триллионы долларов, перетекающих с одного счета на другой. Сначала я была ошеломлена и взбудоражена работой в этой новой лаборатории глобальной экономики. Но осенью 2008 года, не успела я проработать в этой области год с небольшим, экономика начала рушиться.

Это крушение продемонстрировало, что математика, когда-то бывшая моим убежищем, не только оказалась глубоко вовлечена в мировые проблемы, но и послужила причиной многих из них. Жилищный кризис, коллапс основных финансовых институтов, рост безработицы – все это произошло благодаря содействию и подстрекательству со стороны математиков, выдававших волшебные формулы. Более того – благодаря невероятной мощи, которую я так любила, математика смогла объединиться с технологиями, что привело к умножению хаоса и несчастий, а также к росту эффективности и масштабности систем, которые я теперь считаю ущербными.

Если бы мы проявили больше здравомыслия, мы отступили бы в тот момент на шаг назад, выяснили, как именно математика была использована во вред и что нужно сделать, чтобы предотвратить подобную катастрофу в будущем. Но вместо этого сразу после кризиса появились еще более крутые математические технологии, распространившиеся на новые области. С помощью этих технологий мы круглосуточно перерабатывали петабайты информации, большая часть которой была взята из социальных сетей или с сайтов интернет-магазинов. И анализ этих данных все больше сосредоточивался не на движениях глобальных финансовых рынков, а на людях – то есть на нас с вами. Математики и статистики изучали наши желания, перемещения и финансовые возможности. Они прогнозировали нашу кредитоспособность и оценивали наш потенциал в качестве студентов, работников, любовников, преступников-рецидивистов.

Это была экономика Больших данных, и она сулила потрясающие возможности. Компьютерная программа могла просмотреть тысячи резюме или кредитных заявок и за одну-две секунды разложить их по аккуратным спискам, поместив наверх самых многообещающих кандидатов. Это не только экономило время, но и считалось справедливым и объективным. Ведь в основе этой системы – не полные предубеждений человеческие существа, копающиеся в бумажных кипах, а машины, обрабатывающие бесстрастные цифры. Примерно к 2010 году математика утвердила себя в человеческих делах с небывалым ранее запасом прочности – и люди в большинстве своем это приветствовали.

Однако я увидела здесь проблему. Усиленные математикой приложения, на которых работала экономика данных, были основаны на выборе, сделанном несовершенными человеческими существами. Иногда выбор, без сомнения, делался из лучших побуждений. Но многие из этих моделей вставляли предубеждения, непонимание и предвзятость, свойственные каждому живому человеку, в программное обеспечение, которое во все большей степени управляло нашими жизнями. Подобно богам, эти математические модели были загадочными, а принцип их работы – непонятным ни для кого, кроме высшей касты – математиков и специалистов в области компьютерных наук. Их вердикты, даже неправильные и наносящие вред, оказывались вне рамок обсуждения и за пределами обжалования. И в их работе проявлялась тенденция к наказанию бедных и угнетенных слоев населения в нашем обществе, в то время как богатые становились еще богаче.

Я подобрала название для таких вредоносных моделей: оружие математического поражения, или сокращенно ОМП. Сейчас мы с вами разберем один пример, и я продемонстрирую разрушительные возможности этого оружия.

Как часто бывает, все началось с благой цели. В 2007 году Адриан Фенти, новый мэр Вашингтона, решительно взялся за улучшение недостаточно успешных школ. Перед ним стояла непростая задача: в то время половина старшеклассников едва дотягивала до конца девятого класса и лишь 8 % восьмиклассников осваивали соответствующую их возрасту программу по математике. Фенти нанял реформатора в области образования Мишель Ри и назначил ее на высокую должность председателя городского школьного совета Вашингтона.

Основной причиной, по которой ученики не получали знаний в достаточном количестве, считалось низкое качество преподавания. Поэтому в 2009 году Ри привела в действие план по «выкорчевыванию» плохих учителей. Этот процесс вскоре распространился на всю страну, затронув районы с наиболее проблемным образованием. И с точки зрения системного проектирования план был идеальным: давайте оценим учителей, избавимся от самых плохих и поместим самых лучших туда, где они смогут принести больше всего пользы. Говоря языком специалистов по анализу данных, это «оптимизирует» школьную систему, предположительно обеспечив лучшие результаты для детей.

Кто стал бы с этим спорить, кроме самих «плохих» учителей? Ри разработала инструмент оценки учителей под названием IMPACT, и к концу 2009–2010 учебного года федеральный округ уволил всех преподавателей, чьи результаты оказались в нижних 2 %. К концу следующего учебного года еще 5 %, то есть 205 учителей, были уволены из школ.

У Сары Высоцки, учительницы пятого класса, казалось бы, не было повода для беспокойства. Она преподавала в средней школе Макфарланда всего два года, но уже удостоилась высоких оценок своей работы и от директора школы, и от родителей своих учеников. В одном отзыве подчеркивалось ее внимание к детям, в другом было отмечено, что «она – одна из лучших учительниц, с которыми мне когда-либо доводилось сталкиваться».

Однако в конце 2010–2011 учебного года Высоцки получила крайне низкий результат в тесте IMPACT. Проблема заключалась в новой системе подсчета, известной как моделирование коэффициента улучшения знаний учеников, которая оценивала эффективность преподавания математики и языковых навыков. Этот результат, выданный алгоритмом, составлял половину общей оценки Сары Высоцки – и он перевесил положительные оценки со стороны школьной администрации и местного сообщества. У округа не осталось выбора, кроме как уволить ее вместе с другими 205 учителями, результат теста у которых оказался ниже минимального порога.

Это не выглядело ни охотой на ведьм, ни сведением счетов. В таком подходе городского школьного совета есть логика. В конце концов, администраторы могут просто дружить с очень плохими учителями. Они могут восхищаться их стилем или лояльностью. Плохие учителя вполне могут производить впечатление хороших. И в Вашингтоне, как и во многих других школьных округах, минимизировали фактор человеческой предвзятости и сосредоточились на результатах, основанных на объективных данных: достижения детей в математике и чтении. Официальные лица пообещали, что цифры будут говорить сами за себя, что цифры более справедливы.

Разумеется, Высоцки посчитала цифры ужасно несправедливыми и захотела узнать, откуда они взялись. «Я не думаю, что кто-либо понимал это», – позже сказала она мне. Как хороший учитель может получить такой ужасный результат? В чем заключалась система подсчета увеличения коэффициента знаний учеников?

Дело оказалось весьма запутанным. Школьный округ пригласил консалтинговую компанию Mathematica Policy Research (MPR) из Принстонского университета, чтобы она помогла разработать критерии оценки. Задачей MPR было оценить прогресс в образовании учеников округа, а затем подсчитать, в какой степени улучшение или ухудшение их результатов зависело от учителей. Задача, конечно, была непростой. Исследователи знали, что на результаты может повлиять множество факторов, от социально-экономической ситуации до специфических индивидуальных нарушений способности к обучению. Алгоритмы MPR должны были учитывать эти факторы, и это было одной из причин, по которой они оказались такими сложными.

И в самом деле, попытки вместить человеческое поведение, деятельность и потенциал в алгоритмы – это непростая работа. Чтобы понять, с чем пришлось столкнуться MPR, представьте себе десятилетнюю девочку, которая живет в бедном квартале на юго-востоке города Вашингтон. В конце учебного года она сдает стандартизированный тест для пятого класса. После этого ее жизнь продолжается. У нее могут появиться семейные или финансовые проблемы. Она может переехать в другой дом или переживать за брата, у которого возникли проблемы с законом. Она может страдать из-за собственного лишнего веса или бояться какого-нибудь школьного хулигана. В любом случае в следующем году она сдает еще один стандартизированный тест, теперь уже предназначенный для шестиклассников.

Если вы сравните результаты двух тестов девочки, количество набранных баллов должно остаться стабильным или, в лучшем случае, увеличиться. Но если она наберет меньше баллов, чем в прошлом году, будет очень просто увидеть разницу между ее результатами и результатами более успешных учеников.

Но насколько эта разница возникла по вине учителя? Сложно сказать, и модели MPR располагают лишь несколькими числами для сравнения. В компаниях Больших данных, таких как Google, напротив, исследователи проводят постоянные тесты и отслеживают тысячи переменных. Они могут изменить шрифт рекламного объявления с синего на красный, испытать каждую версию на десяти миллионах пользователей и отследить, на какую из версий пришлось больше кликов. Они используют этот отклик, чтобы оттачивать свои алгоритмы и их действия. И хотя у меня есть много претензий к Google (до этого мы еще доберемся), нельзя не признать, что такой тип тестирования – это эффективное использование статистики.

Попытка подсчитать, какое воздействие один человек может иметь на другого в течение учебного года, – гораздо более сложная задача. «Есть столько факторов, которые вмешиваются в процесс обучения, что проанализировать их крайне сложно», – говорит Высоцки. Более того, попытка оценить эффективность учителя, проанализировав результаты тестов всего лишь 25 или 30 учеников, статистически несостоятельна и просто смехотворна. Эти числа слишком малы, учитывая потенциальное количество вариантов, в которых «что-то пошло не так». В самом деле, если бы мы анализировали учителей со статистической тщательностью интернет-поисковика, нам пришлось бы привлечь для теста тысячи или даже миллионы случайно выбранных учеников. Специалисты по статистике оперируют большими числами, чтобы сбалансировать исключения и аномалии. (И ОМП, как мы увидим, зачастую наказывает тех, кто оказывается исключением.)

Что не менее важно, статистические системы требуют ответной реакции – чтобы вовремя увидеть, что алгоритмы сбились с курса. Специалисты по статистике используют ошибки, чтобы «натренировать» свои модели и сделать их более интеллектуальными. Если Amazon.com в результате ошибочной корреляции начнет предлагать девочкам-подросткам книги по уходу за лужайками, количество кликов резко снизится – и алгоритм будет оттачиваться, пока заново не настроится. Без обратной связи, однако, статистический механизм может и дальше работать с ошибками и искажать анализ, при этом не обучаясь на этих ошибках.

Многие компоненты ОМП, которые я буду обсуждать в этой книге, включая систему оценки прогресса учеников, введенную школьным округом Вашингтона, ведут себя именно так. Они предлагают собственное определение реальности и исходят из него, чтобы оправдать свои результаты. Это самовозобновляющийся, крайне деструктивный – и весьма распространенный тип модели.

Когда система оценивания MPR объявляет Сару Высоцки и 205 других учителей бездарностями, город их увольняет. Но откуда система узнает, что она выдала правильный результат? Ниоткуда. Сама система определила их как бездарностей – и именно в таком качестве они и рассматриваются. Двести шесть «плохих» учителей уходят. Один этот факт призван продемонстрировать эффективность оценивающей модели – ведь она избавляет школьный округ от недостаточно хорошо работающих учителей. Вместо того чтобы искать правду, система оценки становится ее воплощением.

Это один из примеров петли обратной связи ОМП. В этой книге мы увидим и множество других примеров подобных петель. Работодатели, например, все более широко используют кредитную историю соискателей для оценки потенциальных новых работников. Считается, что люди, которые вовремя платят по кредитам, с большей вероятностью будут следовать правилам и не опаздывать на работу. На самом деле есть множество ответственных людей и хороших работников, которым случалось пережить неудачное стечение обстоятельств, от которых пострадала их кредитная история. Но убеждение в том, что плохая кредитная история коррелирует с плохим исполнением рабочих обязанностей, оставляет людям, имевшим проблемы с выплатами кредитов, гораздо меньше шансов найти работу. Безработица подталкивает их к бедности, что еще сильнее ухудшает их кредитную историю – и еще сильнее понижает шансы на получение работы. Это спираль, ведущая вниз. Работодатели никогда не узнают о том, какое количество хороших работников они потеряли из-за того, что сосредоточились на кредитной истории кандидатов. В ОМП многие вредные установки прикрываются математикой – и с этого момента практически не проверяются и не подвергаются критическому анализу.

Это подчеркивает еще одну распространенную особенность ОМП: это оружие имеет свойство наказывать бедных. Отчасти это происходит из-за того, что ОМП разработано для того, чтобы оценивать большие массы людей. Оно специализируется на больших числах, и оно дешево. Это часть его привлекательности. К богатым же людям, с другой стороны, зачастую используется индивидуальный подход. В привилегированной юридической фирме или в частном детском саду личные рекомендации и личные встречи будут значить больше и случаться гораздо чаще, чем в сети ресторанов быстрого питания или в испытывающем финансовые трудности городском школьном округе. Мы постоянно видим, что привилегированные слои обслуживаются и анализируются людьми, а массы – машинами.

Неспособность Высоцки найти хоть кого-то, кто мог бы объяснить, почему она получила столь ужасный результат, тоже говорит о многом. Вердикты от ОМП подобны велениям неких алгоритмических богов. Сама модель представляет собой черный ящик, а его содержимое – яростно оберегаемая корпоративная тайна. Это позволяет таким консультантам, как MPR, брать больше денег за свою работу, но также служит и другой цели: считается, что, если людям, которых оценивают, ничего не объяснять, они с меньшей вероятностью будут пытаться обыграть систему. Вместо этого они просто будут усердно работать, следовать правилам и молиться, чтобы модель признала и оценила их усилия. А если детали скрыты, то становится сложнее поставить под сомнение результат или опротестовать его.

Не один год учителя Вашингтона жаловались на произвольные результаты и требовали разглашения принципов подсчета. Им отвечали, что это очень сложный алгоритм, – и такой ответ сам по себе уже отпугивал многих от дальнейших попыток разобраться. К сожалению, математика пугает многих. Но учитель математики Сара Бакс продолжила добиваться правды от администратора округа Джейсона Камраса. После переписки, длившейся несколько месяцев, Камрас предложил Бакс подождать технического доклада, который должен был вот-вот поступить. Бакс ответила: «Как вы можете оценивать людей с помощью процедуры, которую вы сами не в состоянии объяснить?» Но именно такова природа ОМП. Анализ перенаправлен программистам и специалистам по статистике. А они, как правило, предоставляют слово машинам.

При всем при этом Сара Высоцки была хорошо осведомлена о том, что в формуле имели большое значение результаты стандартизированного теста ее учеников. Именно здесь она подозревала наличие ошибки. Прежде чем начать свой последний учебный год в средней школе Макфарланда, она с радостью обнаружила, что ее будущие пятиклассники на удивление хорошо справились с итоговыми тестами четвертого класса. В начальной школе Барнарда, откуда пришли многие ученики Сары, уровень чтения 29 % учащихся был определен как «продвинутый», что в пять раз превышало средний показатель по городскому школьному округу.

Однако, когда начались занятия, выяснилось, что многие из ее учеников с трудом способны прочесть простое предложение. Много позднее журналистские расследования, проведенные газетами The Washington Post и USA Today, выявили высокий уровень исправлений в ответах стандартизированных тестов в 41 школе округа, включая школу Барнарда. Высокий уровень исправленных ответов указывает на большую вероятность подделки результатов. В некоторых школах под подозрение попало до 70 % классов.

Какое отношение это имеет к ОМП? Тут важны два фактора. Во-первых, алгоритмы оценки учителя – мощный инструмент для корректировки поведения. Это, собственно, и есть цель этих алгоритмов, и в школах Вашингтона они олицетворяли собой как кнут, так и пряник. Учителя знали, что, если их ученики плохо напишут тесты, их собственные рабочие места окажутся под угрозой. Это давало учителям сильную мотивацию добиться того, чтобы их ученики нормально справились с тестами, – особенно после того, как на рынок труда обрушилась Великая рецессия. В то же время, если их студенты превзошли бы сверстников, учителя и администрация могли получить бонусы суммой до восьми тысяч долларов. Добавьте эти мощные мотивационные элементы к уликам в деле – большому количеству исправлений и аномально высоким результатам, – и вы получите основания подозревать, что учителя четвероклассников либо из страха, либо из жадности подделали результаты экзаменов своих учеников.

Таким образом, вполне вероятно, что ученики Сары Высоцки начали учебный год с искусственно завышенными результатами. В таком случае результаты их тестов в конце года вполне могли показать, что у них существенно снизился уровень результатов – то есть что учителя пятого класса недостаточно хорошо их обучали. Высоцки убеждена, что именно это с ней и случилось. Это объяснение хорошо укладывалось в наблюдения родителей, коллег и директора, которые в один голос утверждали, что она очень хорошая учительница. Если бы учительницу уволили люди, это можно было бы оспорить. У Сары Высоцки были очень веские основания для апелляции.

Но апеллировать к оружию математического поражения невозможно. Это – часть его пугающей силы. Оно ни к кому не прислушивается и ни перед кем не отступает. Оно глухо не только к лести, угрозам и уговорам, но и к логике, даже когда есть хорошие основания усомниться в информации, которая послужила основной их выводов. Да, если становится очевидно, что автоматическая система выдает настолько неверные результаты, что это бросается в глаза, программисты все-таки доработают алгоритмы. Но по большей части программы изрекают вердикты, не подлежащие обжалованию, а обслуживающие их люди могут только пожимать плечами, словно хотят сказать: «Ну что же тут поделаешь?»

Именно этот ответ Сара Высоцки и получила от школьного округа. Джейсон Камрас позже сообщил Washington Post, что исправления были «подозрительными» и что цифры у ее пятого класса могли быть неверными. Но эти свидетельства не были достаточно убедительными. По его мнению, с Сарой поступили справедливо.

Видите парадокс? Алгоритм обрабатывает массу статистических данных и выдает вероятность того, что определенный человек может быть ненадежным арендатором, сомнительным заемщиком, террористом или плохим учителем. Эта вероятность выражается в результате, который может разрушить чью-то жизнь. Однако когда человек высказывает претензии к этому результату, то «подозрительные» свидетельства, могущие его оспорить, просто не принимаются во внимание. Дело должно быть железобетонным. Люди – жертвы ОМП, как мы увидим снова и снова, должны предоставить гораздо более четкие свидетельства, чем сами алгоритмы.

Пережив шок от увольнения, Сара Высоцки оставалась без работы всего несколько дней. Ее окружала масса людей, включая ее бывшего директора, которые готовы были поручиться за нее как за отличного учителя, и в результате она быстро нашла работу в школе соседнего округа, в Северной Вирджинии. Благодаря спорной модели бедная школа потеряла хорошего учителя, а богатая школа, которая не увольняет людей на основании результатов ученических тестов, этого хорошего учителя приобрела.

После ипотечного кризиса я остро осознала, насколько повсеместно распространено ОМП в банковском деле, и ту опасность, которую оно предоставляет для нашей экономики. В начале 2011 года я ушла из хедж-фонда. Позже, переименовав себя в специалиста по анализу данных, я присоединилась к стартапу в области онлайн-торговли. С этой выигрышной позиции мне было прекрасно видно, как легионы других видов ОМП ввинчиваются во все области промышленности и многие из них при этом усиливают неравенство и наказывают бедных. Оружие математического поражения находилось в самом сердце бурно развивающейся экономики данных.

Чтобы распространить информацию об ОМП, я завела блог под названием MathBabe. Моей целью была мобилизация коллег-математиков на борьбу с небрежным использованием статистики и основанных на предвзятости моделей, которые создавали свои собственные токсичные петли обратной связи. Специалисты по анализу данных, которых заинтересовал мой блог, сообщали мне о распространении ОМП в новых областях. Но в середине 2011 года, когда в Нижнем Манхэттене развернулось протестное движение «Захвати Уолл-стрит», я поняла, что нам нужно работать с более широкой аудиторией. Тысячи протестующих собрались, чтобы потребовать экономической справедливости и финансовой подотчетности. Однако, когда я услышала интервью с участниками этого движения, я обнаружила, что они зачастую не знают о самых основных проблемах, связанных с финансами. Они явно не читали мой блог. (Тут я должна добавить, что необязательно знать все детали системы, чтобы понять, что она неработоспособна.)

Я поняла, что могу либо критиковать их, либо к ним присоединиться, и выбрала второе. Вскоре я уже проводила еженедельные встречи Альтернативной банковской группы при Колумбийском университете, где мы обсуждали финансовую реформу. В ходе этого процесса я осознала, что обе мои вылазки за пределы академического мира – одна в финансы и другая в науку данных – обеспечили меня потрясающим доступом к технологиям и ОМП, приводимому в действие культурой.

Плохо продуманные математические модели в наши дни управляют экономикой везде, от рекламных кампаний до тюрем. Это ОМП обладает многими характеристиками, которые похожи на модель подсчета прогресса учеников, чуть не пустившую под откос карьеру Сары Высоцки в вашингтонских школах. Они непрозрачны, не подвергаются вопросам и сомнениям, массово распространены и занимаются тем, что сортируют, вычленяют и «оптимизируют» миллионы людей. Путая свои выводы с объективной реальностью, большинство из них создает губительные петли обратной связи ОМП.

Но есть одно важное различие между моделью подсчета увеличения коэффициента знаний учеников, созданной школьным округом, и, скажем, разновидностью оружия математического поражения, подсчитывающей перспективы выдачи микрокредитов. Они имеют разную отдачу. Для школьного округа отдача – что-то вроде политической валюты: ощущение, что задачи решаются. Но для бизнеса валюта используется самая стандартная: деньги. Для многих предприятий, применяющих эти грубые алгоритмы, притекающие к ним денежные потоки дают иллюзию доказательства того, что их модели работают. Посмотрите на ситуацию их глазами – и она для вас будет иметь смысл. Когда такие предприятия строят статистические системы, чтобы найти клиентов или манипулировать отчаявшимися заемщиками, растущий доход демонстрирует им, что они на правильном пути. Программное обеспечение хорошо делает свою работу. Проблема заключается в том, что прибыль выступает как мерило качества моделей. Мы увидим, как это опасное заблуждение будет проявляться снова и снова.

Это происходит из-за того, что специалисты по анализу данных слишком часто теряют из виду людей, для которых вроде бы предназначен этот анализ. Эти специалисты наверняка понимают, что программа, обрабатывающая данные, не может в определенном проценте случаев не дать неправильную оценку, ошибочно поместив того или иного человека в ту или иную социальную группу, что приведет к тому, что он не получит хорошую работу или шанс взять ипотеку на дом своей мечты. Но чаще всего люди, управляющие ОМП, не зацикливаются на этих ошибках. Их обратная связь – это деньги, а рост прибылей – их мотивация. Их системы разработаны так, чтобы захватывать как можно больше данных и оттачивать аналитику, обеспечивая все больший приток денег. Инвесторы, конечно же, радуются своей прибыли и осыпают компании-разработчики ОМП еще большим количеством денег.

А жертвы? Любой специалист по анализу внутренних данных скажет вам, что ни одна статистическая система не может быть идеальной. Жертвы – это сопутствующий риск. И зачастую их признают, как Сару Высоцки, всего лишь расходным материалом. Забудьте о них на минуту, скажут вам, и подумайте обо всех тех людях, которые получили полезные предложения через рекомендации от поисковиков, или нашли любимую музыку на сайте Pandora, или идеальную работу на LinkedIn, или, возможно, встретили любовь всей своей жизни на Match.com. Думайте о впечатляющих масштабах, позабудьте о мелких недостатках.

Большие данные имеют много горячих поклонников, но я к ним не отношусь. Эта книга будет острейшим образом сосредоточена на другом направлении: на том ущербе, который приносит оружие математического поражения, и на несправедливостях, которые оно порождает. Мы исследуем ущерб, который был нанесен людям в критические моменты их жизни: во время поступления в колледж, при попытках взять кредит, при вынесении им приговора в суде, в поисках работы. Все эти жизненно важные рубежи всё в большей и большей степени контролируются тайными моделями, которые произвольно наказывают людей.

Добро пожаловать на темную сторону Больших данных.

Компоненты бомбы: что такое модель?

Стоял жаркий августовский день 1946 года. У Лу Бодро, играющего менеджера команды Cleveland Indians, было отвратительное настроение. В первой из двух игр, намеченных на этот день, Тед Уильямс практически в одиночку уничтожил команду Бодро. Уильямс, возможно лучший хиттер того времени, выбил три хоум-рана и еще довел восемь игроков до домашней базы. В итоге «Индейцы» проиграли со счетом 10:11.

Бодро нужно было что-то предпринять. Поэтому, как только Уильямс вышел на поле во второй игре, игроки «Индейцев» начали быстро перемещаться. Бодро, шорт-стоп, перебежал на место, где обычно стоял второй бейсмен, а второй бейсмен отошел на правый аутфилд, третий бейсмен сдвинулся влево, к месту шорт-стопа. Было очевидно, что Бодро (возможно, эта идея была продиктована отчаянием) полностью изменил расположение своей защиты, чтобы превратить хиты Теда Уильямса в ауты.

Другими словами, Бодро мыслил как специалист по анализу данных. Он проанализировал предварительные данные, по большей части на основе наблюдений: обычно Тед Уильямс делал подачу в правый аутфилд. Затем он предпринял меры – и они сработали. Игроки стали ловить больше мощных лайнеров Уильямса (хотя они по-прежнему ничего не могли сделать с хоум-ранами, пролетающими над их головами).

Если вы сегодня придете на бейсбольную игру высшей лиги, вы увидите, что защита относится практически к каждому игроку противника как к Теду Уильямсу. Если Бодро просто пронаблюдал за тем, куда Уильямс обычно направлял удар, то сейчас менеджеры точно знают, куда каждый игрок направлял удар в течение последней недели, за последний месяц, за всю карьеру, играя против левшей, в ситуации, когда у него было два страйка, и так далее и тому подобное. Используя эту собранную информацию, они могут проанализировать текущую ситуацию и рассчитать расстановку игроков, дающую наибольшую вероятность успеха. Иногда это включает в себя довольно-таки существенные перемещения игроков по полю.

Перенос защиты – лишь часть гораздо более серьезного вопроса: какие шаги могут предпринять бейсбольные команды для максимизации вероятности победы? В поисках ответа на этот вопрос специалисты по бейсбольной статистике изучили каждую переменную, которую смогли количественно измерить, и присвоили ей определенную ценность. Насколько дабл ценнее сингла? Когда, если вообще когда-либо, имеет смысл использовать сэкрифайс-бант для перемещения раннера с первой на вторую базу?

Ответы на все эти вопросы смешаны и объединены в математические модели этого спорта. В мире бейсбола существуют параллельные вселенные, и каждая из них представляет собой сложное вероятностное полотно. Они включат в себя каждое измеримое отношение между каждым спортивным компонентом, от уоков и хоум-ранов и до самих игроков. Цель модели – просчитать разные сценарии на каждой развилке и найти оптимальные комбинации. Если Yankees поставят питчера-правшу против сильного отбивающего Майка Траута из Angels, в сравнении с их текущим питчером – кто с большой вероятностью его выбьет? И как это повлияет на общую вероятность победы?

Бейсбол – идеальная база для предиктивного математического моделирования. Как писал Майкл Льюис в своем бестселлере Moneyball (2003)[1], этот спорт привлекал самых увлеченных аналитиков данных на протяжении всей его истории. В прошлом фанаты изучали статистику по оборотным сторонам бейсбольных карточек, анализируя закономерности хоум-ранов Карла Ястржемски или сравнивая общее количество страйк-аутов Роджера Клеменса и Дуайта Гудена. Но начиная с 1980-х годов за дело взялись серьезные специалисты по статистике – они начали разбираться, что же, собственно, означают все эти цифры вместе с огромным количеством новых данных: как именно они конвертируются в победы и как руководство команды может достичь максимального успеха при минимальных вложениях.

Сегодня термин moneyball («денежный мяч») служит условным обозначением любого статистического подхода в областях, где в течение долгого времени господствовала исключительно интуиция. Но пример бейсбола – это пример здорового анализа, который я привела для контраста с более токсичными примерами анализа, которые я считаю действием ОМП и которые появляются во все большем количестве областей нашей жизни. Бейсбольные модели справедливы, в частности, из-за своей прозрачности. Любой человек располагает доступом к статистике и может более или менее понять, как она интерпретируется. Да, конечно, модель одной команды может придавать больше ценности хоум-раннерам, в то время как другие могут их слегка недооценивать из-за того, что сильные отбивающие имеют тенденцию к большому количеству страйк-аутов. Но в любом случае информация о числе хоум-ранов и страйк-аутов доступна для всех интересующихся.

Кроме того, в бейсболе есть статистическая строгость. Его гуру располагают огромным количеством информации, и практически вся она напрямую касается манеры игроков. Более того, эта информация имеет непосредственное отношение к результатам, которые эти гуру пытаются предсказать. Это может показаться очевидным, но, как мы увидим на страницах этой книги, люди, создающие оружие математического поражения, испытывают постоянный дефицит информации как раз о тех типах поведения, которые их больше всего интересуют. В результате они подставляют вместо информации ее подмену (прокси). Они проводят статистические корреляции между чьим-то почтовым кодом или манерой речи и способностью этого человека выплатить кредит или справиться с рабочими обязанностями. Эти корреляции дискриминационны, а некоторые из них и незаконны. Бейсбольные модели по большей части не используют прокси из-за того, что они располагают фактической информацией: мячами, страйками и хитами.

Но самое главное – поток этой информации постоянно обновляется благодаря статистике, собираемой с 12–13 игр ежедневно с апреля по октябрь. Специалисты по статистике могут сравнить результаты этих игр с предсказаниями своих моделей – и увидеть, где они были не правы. Возможно, они предсказали, что реливер-левша пропустит много хитов от бэттеров-правшей – а он в результате их разгромил. В этом случае статистики пытаются подправить свою модель и пристально изучают, как и почему они ошиблись. Возможно, это новый крученый мяч питчера повлиял на их статистику? Или этот питчер лучше играет по вечерам? Все, что они узнают, они снова загрузят в модель, чтобы еще тоньше настроить ее. Именно так работают модели, заслуживающие доверия. Они постоянно взаимодействуют с миром, который они пытаются понять или предсказать. Если условия меняются – модель должна меняться вместе с ними.

Посмотрев сейчас на бейсбольную модель с ее тысячами переменных, вы можете задуматься: как вообще можно сравнивать ее с моделью, использованной для оценки учителей в школах Вашингтона? Первая моделирует спортивную игру в мельчайших деталях и постоянно обновляется. Вторая, при всей ее таинственности, опирается из года в год на результаты горстки тестов. Можно ли вообще называть ее моделью?

Ответ – да. Любая модель, в конце концов, есть не что иное, как абстрактное представление какого-то процесса, будь то бейсбольная игра, цепочка поставщиков нефтяной компании, действия иностранного правительства или посещаемость кинотеатра. Загружена ли она в компьютерную программу или хранится в нашей голове, модель берет наши знания и использует их для того, чтобы предсказать будущие результаты процесса в разных ситуациях. Все мы держим в уме тысячи моделей. Они подсказывают, чего нам ожидать, и руководят нашими действиями.

Вот неформальная модель, которую я использую ежедневно. Будучи мамой троих детей, я сама готовлю еду – мой муж, милейший человек, каждый раз забывает посолить макароны. Каждый вечер, когда я начинаю готовить ужин на всю семью, я внутренне и интуитивно моделирую аппетит каждого домочадца. Я знаю, что один из сыновей любит курицу (но ненавидит гамбургеры), а другой ест только пасту (с дополнительной порцией тертого пармезана). Но я также принимаю во внимание то, что их аппетиты меняются в разные дни – поэтому в мою модель может вкрасться ошибка. В ней всегда будет неизбежный элемент неопределенности.

В мою модель вкладывается информация о моей семье, об ингредиентах, которые у меня уже имеются или мне доступны, а также моей собственной энергии, времени и амбициях. На выходе я получаю решение, что и как мне приготовить. Я оцениваю успех ужина степенью удовлетворенности моей семьи, а также количеством съеденного и тем, насколько еда была здоровой. То, насколько хорошо принимают приготовленную мной еду и сколько ее съедают, позволяет мне обновить свою модель к следующему приготовлению ужина. Обновления и уточнения делают модель динамической – так это называется в статистике.

С гордостью могу сказать, что со временем я научилась очень неплохо готовить для своей семьи. Но представьте, что нам с мужем нужно уехать на неделю, а мне понадобится объяснить свою модель моей маме, чтобы она смогла меня заменить? Или если моя многодетная подруга заинтересовалась моим подходом? В этот момент я попытаюсь придать моей модели какие-то более формальные черты, сделать ее более систематической – и, в каком-то смысле, более математической. Если у меня хватит амбиций, я даже могу создать на ее основе компьютерную программу.

В идеале такая программа учтет все возможные варианты ингредиентов, их питательность и стоимость, а также будет включать полную базу данных о вкусах моей семьи, все любимые и нелюбимые блюда и продукты моих домочадцев. Однако мне будет не так уж просто взять и извлечь всю эту информацию из собственной головы. Да, у меня полно воспоминаний о том, как кто-то попросил добавку спаржи или заявил, что терпеть не может стручковую фасоль, но эти воспоминания перемешаны – мне будет сложно свести их в один список.

Лучшим решением станет доработка модели с течением времени – ежедневный ввод информации о том, что я купила и приготовила, и какой отклик от каждого члена семьи получила. Я смогу также задавать те или иные параметры и ограничения. Я могу ограничить по сезону фрукты и овощи, зато раздать определенное количество печенья «Поп-тартс», чтобы предотвратить открытый бунт. Можно ввести и другие параметры, запомнить, кто больше любит мясо, кто – хлеб и пасту, кто пьет много молока, а кто настаивает, чтобы любой предмет на его тарелке можно было намазать нутеллой.

Если бы я посвятила все свое время этой работе, то за несколько месяцев могла бы получить весьма неплохую модель. Я бы превратила систему приготовления еды, хранящуюся в моей голове, – мою неформальную внутреннюю модель – в формальную внешнюю. В этой модели я бы вынесла наружу, во внешний мир, свои знания и умения. Я бы построила автоматическую версию себя, которой могли бы воспользоваться другие люди даже в мое отсутствие.

Однако в ней всегда бы были ошибки, потому что любые модели всегда представляют собой упрощения. Ни одна модель не может включить в себя всю сложность мира или нюансы человеческого общения. Какая-то важная информация неизбежно оказывается упущенной. Возможно, я бы забыла сообщить своей модели о том, что правило запрета на фастфуд менее строго соблюдается в дни рождения или что сырая морковка пользуется большей популярностью, чем вареная.

Чтобы создать модель, таким образом, мы делаем выбор и решаем, что достаточно важно для включения в нее. Мы упрощаем мир до его игрушечной версии, которая может быть легко понята и из которой мы можем извлечь важные факты и действия. Мы ожидаем от модели выполнения только одной работы и заранее смиряемся с тем, что иногда она будет работать бестолково, с огромными пробелами.

Иногда пробелы не имеют значения. Когда мы запрашиваем у Google Maps маршрут, программа моделирует мир как набор улиц, туннелей и мостов. Она игнорирует здания, потому что те не имеют отношения к задаче. Когда авиационное программное обеспечение управляет самолетом, оно моделирует ветер, скорость самолета и посадочную полосу внизу, но игнорирует улицы, туннели, здания и людей.

Пробелы модели отражают суждения и приоритеты ее создателей. И хотя выбор при составлении Google Maps и авиационного программного обеспечения кажется очевидным, в других случаях он гораздо более проблематичен. Если мы вернемся к примеру вашингтонских школ, их модель подсчета увеличения коэффициента знаний учеников оценивает учителей по большей части на основе данных тестов учеников, игнорируя такие факторы, как вовлеченность учителя в процесс, его работу над определенными навыками, классное руководство и помощь ученикам в их личных и семейных проблемах. Она слишком проста и жертвует точностью и охватом во имя эффективности. При этом, с точки зрения администраторов, она предоставляет эффективное орудие для выявления сотен якобы негодных учителей – даже если существует риск неверной интерпретации профессионализма некоторых из них.

Здесь мы видим, что модели, несмотря на их кажущуюся непредвзятость, отражают заложенные в них цели и идеологию. Когда я исключала возможность поедания печенья за каждым приемом пищи, я переносила свою идеологию на модель еды. Это то, что все мы делаем машинально, не задумываясь. Наши собственные ценности и желания влияют на наш выбор, от данных, которые мы предпочитаем собирать, до вопросов, которые мы задаем. Модели – это мнения, заключенные в математическую форму.

Работает модель или нет – это также вопрос субъективный. В конце концов, ключевой компонент каждой модели, как формальной, так и неформальной, – это ее критерий успеха. Это важный пункт, к которому мы вернемся, когда будем исследовать темный мир ОМП. В каждом случае мы должны спросить не только о том, кто разработал модель, но также чего именно он пытался достичь. Если правительство Северной Кореи возьмется, например, построить модель для моих семейных ужинов, то эта модель, вероятно, будет оптимизирована таким образом, чтобы держать нас чуть выше порога полного истощения, минимизируя при этом затраты и число доступных ингредиентов. Понятно, что наши личные предпочтения при этом будут значить мало или вообще ничего. С другой стороны, если бы эту модель составляли мои дети, то критерием ее успешности стало бы мороженое на завтрак, обед и ужин. Моя собственная модель пытается объединить северокорейское управление ресурсами и благополучие моих детей, а также мои собственные представления о здоровье, удобстве, разнообразии и экологичности. В результате она оказывается более сложной, но все еще отражает мою личную реальность. А модель, построенная в соответствии с сегодняшним днем, завтра будет работать еще хуже. Если ее постоянно не обновлять, она застынет и устареет. Цены меняются, предпочтения растущих детей тоже. Модель, построенная для шестилетки, не сработает для подростка.

То же самое верно и для внутренних моделей. Вы часто можете видеть, как возникают проблемы у дедушек и бабушек, которые навещают давно не виденную ими внучку. Во время предыдущего визита они собрали информацию о том, что она знает и умеет, что вызывает у нее смех, какие телепередачи она любит, – и (подсознательно) построили модель под эту конкретную четырехлетнюю девочку. Однако во время следующей встречи через год они могут столкнуться с неловкой ситуацией из-за того, что их модель устарела. Например, ей больше не нравится Паровозик Томас. Потребуется время, чтобы собрать новую информацию о внучке и перенастроить модель.

Это не означает, что хорошие модели не могут быть простыми. Некоторые очень эффективные модели основываются на единственной переменной. Самая распространенная модель по обнаружению пожара в доме или офисе, например, учитывает единственный, зато непосредственно имеющий отношение к проблеме фактор – наличие дыма. Обычно этого достаточно. Но создатели моделей сталкиваются с проблемами – или сталкивают нас с этими проблемами, – когда они проецируют такие простые модели, как пожарная сигнализация, на людей.

Расизм на индивидуальном уровне может рассматриваться как предиктивная модель, распространившаяся в сознании миллиардов людей по всему миру. Она основана на ошибочной, неполной или обобщенной информации. Информация, основанная на опыте или рассказах других людей, указывает на то, что определенные люди плохо себя ведут. Это приводит к упрощенному предсказанию, что все люди той или иной расы будут вести себя таким же образом.

Нет нужды говорить, что расисты не тратят время на то, чтобы собрать надежную информацию и протестировать свои искаженные модели. Как только их модель превращается в убеждение, она становится прошивкой мозга. Она генерирует допущения, однако редко их тестирует, вместо этого подыскивая информацию, которая, как кажется расисту, их подтверждает и подпитывает. Вследствие этого расизм представляется самой неряшливой из предиктивных моделей. Он основан на небрежном сборе информации и ложных корреляциях, он усилен институциональным неравенством и загрязнен предвзятостью подтверждения. Но как это ни странно, расизм действует так же, как многие из видов оружия математического поражения, которые я буду описывать в этой книге.

В 1997 году афроамериканец Дуэйн Бак, признанный виновным в убийстве двух человек, предстал перед судьей округа Харрис, штат Техас. Судья должен был решить, приговорить преступника к смерти или к пожизненному заключению (во втором случае оставалась теоретическая возможность условно-досрочного освобождения). Прокурор настаивал на смертном приговоре, утверждая, что, если Бак когда-нибудь выйдет на свободу, он может убить снова. Адвокат Бака, со своей стороны, пригласил эксперта-психолога Уолтера Кихано, специалиста по рецидивам среди бывших заключенных. В ходе перекрестного допроса Кихано упомянул расовую принадлежность Бака, и прокурор тут же уцепилась за это:

– То есть вам удалось установить, что… что расовый фактор, принадлежность к черной расе, по различным сложным причинам увеличивает потенциальную опасность человека в будущем, правильно? – спросила она.

– Правильно, – ответил Кихано.

Прокурор подчеркнула этот факт в своей заключительной речи – и Дуэйн Бак был приговорен к смерти.

Через три года главный прокурор штата Техас Джон Корвин обнаружил, что психолог Уолтер Кихано дал подобные (основанные на расовой принадлежности) заключения в шести других случаях, когда речь шла о высшей мере наказания. Большую часть из них – выступая на стороне обвинения. Корвин, который тогда готовился к выборам в Сенат 2002 года, приказал провести повторные слушания для семи осужденных, запретив упоминать в суде их расовую принадлежность. В соответствующем пресс-релизе он писал:

Совершенно непозволительно учитывать расовую принадлежность как фактор в нашей системе правосудия… Техасцы заслуживают системы, которая обеспечивает справедливое отношение для каждого человека, – и они должны получить такую систему.

Дела шестерых осужденных были рассмотрены заново, однако все смертные приговоры были оставлены в силе: суд счел, что показания Кихано ни в одном случае не были решающими. Седьмой осужденный – Дуэйн Бак – не получил нового слушания: возможно, из-за того, что в данном случае расовый фактор выдвинул свидетель защиты. Бак все еще находится в камере смертников[2].

Независимо от того, насколько важен расовый фактор в обстоятельствах судебного дела, он уже довольно давно представляет собой основной фактор в вынесении приговора. Исследование Мэрилендского университета продемонстрировало, что в техасском округе Харрис, в который входит и город Хьюстон, прокуроры в три раза чаще требуют смертного приговора для афроамериканцев и в четыре раза чаще – для американцев латиноамериканского происхождения, чем для белых, которых судят за аналогичные преступления. И такое происходит не только в Техасе. В соответствии с данными Американского союза защиты гражданских свобод, судебные сроки, которые назначаются черным мужчинам в федеральной системе, на 20 % длиннее, чем сроки белых, осужденных за схожие преступления. И хотя афроамериканцы составляют всего 13 % населения США, они заполняют 40 % тюремных камер.

По-видимому, можно предположить, что математическая модель оценки рисков рецидива может уменьшить влияние человеческих предубеждений при вынесении приговоров и повлечет более справедливое отношение к подсудимым. В надежде на это суды двадцати четырех штатов стали использовать так называемые модели вероятности рецидива (recidivism models). Эти модели помогают судьям более адекватно оценить опасность, которую может представлять в будущем тот или иной осужденный. И по многим меркам такие модели – шаг вперед. Благодаря им приговоры стали более логичными и меньше подвержены настроению и предвзятости судей. К тому же эти модели экономят деньги, сокращая среднестатистический тюремный срок (на содержание одного заключенного уходит в среднем 31 000 долларов в год, а в «дорогих» штатах вроде Нью-Йорка и Коннектикута эта сумма вдвое выше).

Главный вопрос тут, однако, вот какой: в самом ли деле мы исключили фактор человеческой предвзятости или просто замаскировали его? Новые модели вероятности рецидива сложны и основаны на математике. Однако данные внутри этих моделей – целый букет допущений, причем некоторые из них основаны на предубеждениях. И если показания Уолтера Кихано были официально зафиксированы, так что их позже можно было вновь прослушать и обжаловать в суде, то принцип работы модели запрятан в алгоритмах, в которых могут разобраться лишь единичные специалисты.

Одна из самых популярных моделей, известная как Переработанная оценка уголовно-исправительной инспекции (Level of Service Inventory-Revised, LSI-R), включает в себя длинную анкету, которую должны заполнить заключенные. Один из вопросов – «Сколько предыдущих судимостей у вас было?» – имеет непосредственное отношение к риску рецидива. Некоторые другие также близко связаны с темой: «Какую роль другие люди играли в правонарушении? Какую роль играли алкоголь и наркотики?»

Но дальнейшие вопросы все больше углубляются в частную жизнь человека – и тут уже легко представить себе, как заключенные из привилегированных слоев будут отвечать одним образом, а жители криминогенных районов – совсем другим. Спросите у преступника, который вырос в престижном пригороде: «Когда вы впервые столкнулись с полицией?» – и скорее всего, окажется, что у него не было ни одного такого столкновения вплоть до того случая, который и привел его в тюрьму. Однако молодого афроамериканца полиция с высокой долей вероятности останавливала десятки раз, даже когда он не делал ничего противозаконного. Исследование Нью-Йоркского союза гражданских свобод продемонстрировало, что, хотя афроамериканцы и латиноамериканцы составляют всего 4,7 процента населения города, в 40,6 процента случаев остановке и обыску полицией подвергаются именно они. Более 90 % осмотренных таким образом оказывались невиновными. Какой-то процент из оставшихся составляют пьяные подростки или подростки, у которых нашли одну сигарету с марихуаной. Причем, в отличие от большинства богатых подростков, которые оказались бы в этой ситуации, у афроамериканцев и латиноамериканцев в этом случае начинаются неприятности. Поэтому, если ранняя встреча с полицией свидетельствует о повышенной вероятности рецидива, то получается, что выходцы из бедных кварталов и представители расовых меньшинств автоматически зачисляются в группу риска.

Вопросы анкеты на этом не заканчиваются. Заключенных спрашивают, есть ли судимости у их друзей и родственников. И снова: задайте такой вопрос преступнику, который вырос в квартале среднего класса, – с большой долей вероятности ответ будет отрицательным. Опросник действительно избегает вопросов о расе – они незаконны. Но, учитывая степень подробности, с которой каждый заключенный рассказывает о своей жизни, этот единственный незаконный вопрос практически оказывается ненужным.

Анкету LSI-R, разработанную в 1995 году, с тех пор заполнили тысячи заключенных. Специалисты по статистике использовали эти результаты, чтобы построить систему, в которой ответы, имеющие непосредственное отношение к риску рецидива, имели бы больший вес и добавляли больше баллов. После сдачи анкеты осужденные распределяются по категориям высокого, среднего и низкого риска на основе полученных ими баллов. В некоторых штатах, таких как Род-Айленд, эти тесты используются, только чтобы направить осужденных с высоким риском на программы профилактики рецидива во время отбывания тюремного срока. Но в других штатах, в том числе Айдахо и Колорадо, судьи используют эти результаты и при вынесении приговора.

Это несправедливо. Опросник включает обстоятельства рождения и воспитания преступника, данные о его или ее семье, окружении и друзьях. Но подобные детали не должны иметь отношения к уголовному делу или к приговору. В самом деле, если бы прокурор попытался очернить подзащитного, упомянув количество судимостей его брата или уровень преступности в районе, где он живет, адвокат бы тут же воскликнул: «Возражаю, ваша честь!» И разумный судья принял бы это возражение. Таковы основы нашей правовой системы. Нас судят за то, что мы делаем, а не за наше происхождение. И хотя мы не знаем, сколько именно баллов добавляют эти пункты анкет, любое значение, отличное от нуля, несправедливо.

Многие скажут, что статистические системы, подобные LSI-R, все же достаточно эффективны в оценке вероятности рецидива – по крайней мере, они более точны, чем интуитивные предположения того или иного судьи. Но даже если мы отложим в сторону, совсем ненадолго, серьезнейшую проблему справедливости, мы обнаружим, что соскальзываем в губительную петлю обратной связи ОМП. Осужденный с «высоким риском», скорее всего, окажется в прошлом безработным выходцем из района, в котором многие его родственники и друзья имели столкновения с законом. Отчасти из-за большого количества баллов, набранного в ходе заполнения анкеты, он получает более длительный тюремный срок, который закроет его на большее количество лет в тюрьме в окружении таких же преступников, как он, – что повышает вероятность его возвращения в тюрьму. В конце концов его выпускают на свободу, и он возвращается все в тот же бедный район, но на этот раз с судимостью, которая еще больше затруднит ему получение работы. Если он совершит еще одно преступление, модель оценки риска рецидива может объявить об очередном своем успехе. Но на самом деле это сама модель вносит вклад в токсичный цикл и помогает его поддерживать. Это ключевое свойство оружия математического поражения.

* * *

В этой главе мы познакомились с тремя типами статистических моделей. Бейсбольные модели по большей части можно счесть здоровыми. Они прозрачны, постоянно обновляются, и все допущения и выводы можно легко проследить. Такие модели подпитываются статистикой самой игры, а не прокси-реальностью. Люди, которых их составляют, понимают процесс и разделяют цель модели: выиграть Мировую серию. (Хотя, конечно, это не значит, что многие игроки, как только подойдет время подписывать контракт, не попытаются поспорить с оценкой модели: «Конечно, я сделал двести раз страйк-аут, но только посмотрите на мои хоум-раны…»)

С моей точки зрения, нет ничего плохого и во второй модели, которую мы обсуждали, – гипотетической модели семейных ужинов. Если бы мои дети задались вопросами о допущениях, которые за ней стоят, как экономических, так и диетических, я бы с удовольствием об этом рассказала. И даже если они иногда ворчат, получая очередную порцию зеленого салата, они, вероятно, признают, что моя модель отвечает целям удобства, экономии, здоровья и хорошего вкуса – хотя, возможно, в своих собственных моделях они придадут этим факторам другой вес (и они могут начать создавать свои модели с того самого момента, когда начнут сами покупать себе продукты).

Должна добавить, что моя модель вряд ли когда-нибудь приобретет промышленные масштабы. Не представляю, чтобы сеть супермаркетов Walmart или Министерство сельского хозяйства США заинтересовались бы моей моделью и распространили бы ее на сотни миллионов людей – как некоторые из видов оружия математического поражения, которые мы будем обсуждать. Нет, моя модель совершенно безобидна, особенно учитывая то, что она вряд ли когда-нибудь перейдет из моей головы в какую-либо компьютерную программу.

Однако оценка вероятности рецидива, которую мы обсуждали в конце главы, – пример совсем другого рода. Он имеет какой-то дурной привкус. Давайте быстро проверим, не относится ли эта оценка к ОМП, и посмотрим на результат.

Первый вопрос: если участник проверки осведомлен о том, что его проверяют с помощью модели, и о том, для чего будет использован результат проверки, можно ли считать эту модель непрозрачной? Ведь большинство заключенных, заполняющих обязательные анкеты, вовсе не глупы. Они как минимум должны подозревать, что информация, которую они предоставляют, будет использована против них, чтобы контролировать их во время отбывания срока, – эта информация даже может привести к увеличению этого срока. Они знают правила игры. Однако представители тюремной администрации тоже их знают. И они не распространяются о целях LSI-R. Администрация отлично понимает, что в ином случае многие заключенные попытаются обыграть модель, предоставив ответы, в которых они будут выглядеть образцовыми гражданами на момент выхода из тюрьмы. Поэтому заключенных стараются держать в неведении и не раскрывать им степень риска рецидива, которую определила модель в их случае.

В этом тюремные администраторы не одиноки. Непрозрачные модели – это правило, а прозрачные – исключение. Нас моделируют как покупателей и домоседов, как пациентов и заемщиков, но практически никаких из этих результатов мы не видим – даже если сами радостно участвуем в опросах. Даже когда такие модели на самом деле «ведут себя» вполне прилично, их непрозрачность может породить ощущение несправедливости. Если распорядитель в концертном зале сказал вам, что садиться в креслах первых десяти рядов нельзя, вы можете счесть этот запрет необоснованным и несправедливым. Но, вероятно, вы измените свое мнение, если распорядитель объяснит вам, что эти места зарезервированы для людей в инвалидных креслах. Прозрачность имеет большое значение.

При этом многие компании делают все, чтобы скрыть результаты, которые дают их модели или даже само существование этих моделей. Одно из самых распространенных оправданий при этом – наличие в алгоритме некоего «секретного компонента», критически важного для данного бизнеса. Это интеллектуальная собственность, которую защищают легионы юристов и лоббистов. В случае интернет-гигантов, таких как Google, Amazon и Facebook, эти алгоритмы стоят сотни миллиардов долларов. Оружие математического поражения по определению представляет собой черный ящик, и в результате крайне сложно ответить на вопрос: работает ли модель против интересов человека? Иными словами, справедлива ли она? Не наносит ли она вред?

И здесь тоже модель LSI-R легко квалифицировать как один из видов ОМП. Люди, которые создали этот алгоритм оценки в 1990-е годы, несомненно, рассматривали его как орудие правосудия, укрепляющее эффективность юридической системы. Кроме того, этот алгоритм может помочь правонарушителям, не предоставляющим большой угрозы, получить более легкие приговоры. Это можно перевести в большее количество лет свободы для них и огромную экономию для американских налогоплательщиков, которые оплачивают ежегодный тюремный счет в 70 миллиардов долларов. Однако поскольку анкета делает заключение об осужденном на основании пунктов, которые нельзя предъявить как свидетельства на суде, она несправедлива. И пусть она многим принесет пользу, другие от нее пострадают.

Ключевой компонент этого страдания – губительная петля обратной связи. Как мы уже увидели, модели вынесения приговоров, которые оценивают человека по его или ее личным обстоятельствам, помогают создать окружение, которое оправдывает эти допущения. Эта деструктивная петля продолжает затягиваться, в результате модель становится все более несправедливой.

Третий вопрос – есть ли у модели потенциал экспоненциального роста? Как спросил бы специалист по статистике, может ли она масштабироваться? Это может показаться праздной математической задачкой, но масштаб – именно то, что превращает ОМП из местных неприятностей в настоящее цунами, которое будет влиять на нашу жизнь и определять ее границы. Как мы увидим, развитие ОМП в сферах человеческих ресурсов, здравоохранения и банковского дела (и список этим далеко не ограничивается) быстро расширяет границы, в которых к нам применяется сила, очень похожая на неумолимую мощь закона. Если, к примеру, банковская модель отнесет вас в группу заемщиков высокого риска, то мир будет относиться к вам именно так – как к безнадежному неудачнику, даже если в модель вкралась ошибка. А когда эта модель масштабируется, как это уже случилось с кредитной моделью, она начинает оказывать влияние на всю вашу жизнь – удастся ли вам купить хороший дом, найти хорошую работу или приобрести хорошую машину, чтобы до этой самой работы добираться.

Когда дело доходит до масштабирования, у моделей вероятности рецидива хорошие перспективы. Они уже используются в большинстве штатов, причем модель LSI-R – самый распространенный вариант, используемый как минимум в 24 из них. Однако LSI-R – не единственный вариант: тюрьмы представляют собой оживленный и прибыльный рынок для специалистов по анализу данных. Система исполнения наказаний переполнена информацией, особенно с учетом то, что заключенные еще в большей степени лишены права на privacy, чем любой из нас. Более того, эта система настолько примитивна, неэффективна, дорога и бесчеловечна, что она просто вопиет о необходимости улучшений. Кто же в тюремной администрации будет против подобных дешевых решений?

Реформа системы исполнения наказаний – редкая тема в сегодняшнем поляризованном политическом мире, в которой либералы и консерваторы единодушны. В начале 2015 года братья-консерваторы Чарльз и Дэвид Кох объединились с либеральным аналитическим Центром за американский прогресс, чтобы продвинуть реформу тюрем и снизить число заключенных. Но я подозреваю, что эти межпартийные усилия реформировать тюрьму, как и множество других усилий, практически наверняка выльются в предполагаемо эффективное и справедливое решение – очередную модель, в которую человек будет вводить данные. Такова эпоха, в которой мы живем. Даже если другие инструменты потеснят LSI-R в качестсве основного вида оружия математического поражения, тюрьмы, скорее всего, останутся инкубатором для создания других видов ОМП в огромных масштабах.

Если суммировать все сказанное, вот три главных компонента ОМП: непрозрачность, масштабность и высочайшая степень ущерба. Все эти компоненты присутствуют в той или иной степени в примерах, которые мы будем рассматривать дальше. Разумеется, всегда есть место для возражений. Вы, например, можете сказать, что оценку степени риска рецидива нельзя назвать вполне непрозрачной, потому что она основана на результатах, с которыми заключенные в некоторых случаях могут ознакомиться. И тем не менее она непрозрачна – ведь заключенные не могут посмотреть, как именно их ответы перерабатываются в результат. Подсчитывающий алгоритм от них скрыт.

Есть несколько видов оружия математического поражения, которые, возможно, не вполне соответствуют критерию масштабности. Их распространение пока еще нельзя назвать повсеместным. Но они представляют собой опасные экземпляры, которые со временем неизбежно масштабируются – и, возможно, экспоненциально. Поэтому я включаю эти примеры в свой список.

Наконец, вы можете заметить, что не все виды ОМП приносят исключительно ущерб. В конце концов, они помогают кому-то попасть в Гарвард, кому-то – получить на хороших условиях кредиты или приличные рабочие места, а также сокращают тюремные сроки для некоторых заключенных – для тех, кому повезло. Но вопрос же не в том, что некоторые люди получают от этих моделей пользу, а в том, что столь многие из-за них страдают. Эти модели, усиленные алгоритмами, захлопывают двери перед носом у миллионов людей, зачастую по ничтожнейшим поводам, и не подразумевают возможности апелляции. Эти модели несправедливы.

И вот еще что можно сказать об алгоритмах: они могут переходить из одной области в другую, и это действительно зачастую происходит. Результаты эпидемиологических исследований могут использоваться для предсказаний кассовых сборов; программы, фильтрующие спам, модифицируются, чтобы идентифицировать ВИЧ.

Все это верно и для ОМП. Так что, если математические модели в тюрьмах продемонстрируют кажущийся успех – что на самом деле означает эффективное вмешательство со стороны человека, – они могут распространиться и на всю экономическую систему, наряду с другими ОМП, превратив нас всех просто в расходный материал.

Именно об этой опасности я говорю, именно эта опасность неумолимо возрастает. И следующую поучительную историю об этом может рассказать нам мир финансов.

Посттравматический синдром: мое путешествие к утрате иллюзий

Представьте, что у вас есть в жизни какой-то заведенный ритуал. Каждое утро, перед тем как сесть на поезд из Джолиета до чикагской станции «Лассаль-стрит», вы скармливаете кофейному автомату на перроне два доллара. Автомат возвращает вам два четвертака плюс стаканчик с кофе. Но однажды он возвращает вам четыре четвертака. И если трижды за следующий месяц тот же автомат выдает такой же результат, значит, налицо некая системная ошибка…

Если бы это была небольшая аномалия на финансовых рынках, а не пригородный поезд, то сотрудник хедж-фонда – кто-то вроде меня – мог бы сосредоточить на ней свое внимание. Он бы прочесал информацию за несколько последних лет или даже десятилетий, а затем разработал алгоритм по предсказанию этой ошибки – отклонению в цене на пятьдесят центов, – чтобы делать на нее ставки. Даже самые незначительные отклонения могут принести миллионы тем первым инвесторам, которые их обнаружат. И эти инвесторы будут и дальше извлекать прибыль, пока не произойдет одно из двух: либо феномен исчезнет, либо его обнаружат все остальные участники рынка – в любом случае приток прибыли прекратится. Но в этот момент хороший сотрудник хедж-фонда уже будет идти по горячим следам десятков других крошечных аномалий.

Поиски того, что специалисты по количественному анализу называют рыночными аномалиями (market inef-ficiency), сродни поиску сокровищ. Это может быть весело. Когда я втянулась в свою работу в фонде D. E. Shaw, мне начало казаться, что после академических кругов это перемена к лучшему. Хоть мне и нравились преподавание в Барнард-колледже и исследования в области алгебраической теории чисел, прогресс там казался мне мучительно медленным. Я хотела быть частью быстро меняющегося реального мира.

В тот момент хедж-фонды казались мне морально нейтральными институциями – мусорщиками финансовой системы в худшем случае. Я гордилась тем, что пошла работать в фонд Шоу, который называли Гарвардом среди хедж-фондов, и могла демонстрировать тамошним коллегам, как мои умные решения конвертируются в реальные деньги. К тому же зарплата там была в три раза больше профессорской. Начиная работать в фонде, я не могла подозревать, что, помимо прочего, это обеспечит мне место в первом ряду зрителей, наблюдающих катастрофический финансовый кризис, а также преподаст устрашающий урок того, какой вероломной и деструктивной может быть математика. В этом хедж-фонде я впервые вблизи увидела работу ОМП.

В самом начале мне нравилось многое. Все в фонде D. E. Shaw было пронизано математикой. Во множестве фирм заправляют трейдеры: именно они заключают большие сделки, выкрикивают заказы и получают многомиллионные бонусы. Аналитики в этих фирмах находятся на вторых ролях. Но у Шоу трейдеры – это немногим больше, чем просто технические сотрудники: они всего лишь исполнители, а балом правят математики. Моя группа из десяти человек называлась «группой фьючерсов» или «группой прогнозов» (futures group). В бизнесе, где все зависит от того, что случится завтра, что может быть более значительным?

Всего у нас было около 50 сотрудников. Сперва – в основном мужчины, за исключением меня. Большинство из них были по происхождению иностранцами. Многие из них пришли из абстрактной математики или физики; некоторые, вроде меня, – из теории чисел. Однако у меня было мало возможностей поговорить с ними о работе. Учитывая то, что наши идеи и алгоритмы были фундаментом бизнеса хедж-фонда, было ясно, что мы являлись потенциальной группой риска: если бы мы вместе вдруг уволились и ушли в какое-то другое место, то смогли бы использовать свои знания для создания мощнейшей конкуренции нашему бывшему месту работы.

Чтобы воспрепятствовать подобному развитию событий в крупном масштабе, Дэвид Шоу по большей части запрещал нам обсуждать с коллегами из других групп – а иногда даже с товарищами по группе – то, чем мы занимаемся. В каком-то смысле каждый квант информации был заперт в одной из сот сетевой структуры – примерно как в «Аль-Каиде». Если бы одна сота исчезла – допустим, кто-то из нас перебежал к конкурентам, например в Bridgewater или J. P. Morgan, а то и основал собственный фонд, – он мог бы унести с собой лишь свои собственные знания, вся остальная часть бизнеса Шоу осталась бы незатронутой. Как вы можете себе представить, на чувстве товарищества эти правила сказывались не самым лучшим образом.

Всех новичков обязывали дежурить каждые 13 недель в группе прогнозов. Дежурный сотрудник должен быть готов решать проблемы, связанные с вычислениями, в любое время, когда открыт один из мировых рынков, – то есть с вечера воскресенья по нью-йоркскому времени, когда оживали азиатские рынки, и до завершающего удара колокола на Нью-Йоркской фондовой бирже в четыре часа дня в пятницу. Недосып был постоянной проблемой. Еще более серьезной проблемой было чувство беспомощности из-за запрета на распространение информации. Допустим, алгоритм не работал так, как положено. Мне нужно было обнаружить проблему, а затем найти ответственного за нее человека в любое время дня и ночи – и попросить его (всегда именно его) исправить ситуацию. Далеко не всегда это была приятная беседа.

А еще периодически возникала паника. В праздники, когда в офисе было очень немного сотрудников, происходили странные вещи. У всех нас было много разных бумаг в наших гигантских портфелях, включая валютные форварды, то есть обещания в течение ближайшей пары дней купить большой объем иностранной валюты. Вместо реальной покупки иностранной валюты, однако, трейдеры каждый день пролонгировали позицию, и обязательство могло быть отложено еще на один день. Таким образом, наша ставка на направление рынка могла быть сохранена, но при этом мы не оказывались с огромными суммами наличности на руках. И вот однажды в рождественские дни я заметила позицию в японских иенах, по которой подходил срок закрытия. Кто-то должен был продлить контракт. Обычно эту работу делал наш коллега в Европе, однако в этот момент он, предположительно, праздновал Рождество с семьей. Я понимала, что, если контракт не продлить, кому-то вот-вот придется предъявить в Токио 50 миллионов иен. Разрешение этой проблемы внесло в мирный семейный праздник несколько безумных часов хаоса.

Все эти сложности можно уложить в категорию производственных рисков. Но настоящей проблемой было неприятное чувство, которое я стала ощущать. Я привыкла к игре в этих океанах валют, бондов и других бумаг, к триллионам долларов, протекающих по международным рынкам. Но в отличие от цифр в моих академических моделях, цифры в моделях, которые мы строили в хедж-фонде, означали конкретные вещи для конкретных людей: пенсионные сбережения и ипотечные кредиты. Когда я оглядываюсь назад, это кажется смехотворно очевидным. И, конечно, я всегда об этом знала. Но я тогда по-настоящему не понимала истинную сущность всех этих монеток по 5, 10 или 25 центов, которые мы отщипывали откуда-то с помощью наших математических орудий. Это были не вдруг обнаруженные сокровища, вроде добытого в золотой шахте самородка или дублонов из трюма давно затонувшего испанского галеона. Это богатство приходило из карманов живых людей. Для хедж-фондов, самых самодовольных игроков на Уолл-стрит, это были «глупые деньги».

Только в 2008 году, когда рынки рухнули, истина открылась мне во всей своей неприглядности. Помимо воровства денег со счетов людей, финансовая индустрия занималась созданием оружия математического поражения, и я принимала в этом определенное участие.

Проблемы на самом деле начались годом раньше. В июле 2007 года ставки кредитования на межбанковском рынке резко взлетели вверх. После прошлой рецессии, которая последовала за 9 сентября 2001 года, низкие процентные ставки разогревали пузырь на рынке недвижимости. Казалось, что любой может взять ипотеку, девелоперы превращали пригороды, пустыни и прерии в огромные стройплощадки, а банки использовали миллионы всевозможных финансовых инструментов, «завязанных» на золотую жилу в строительстве.

Однако повышение ставки межбанковских кредитов сигнализировало о проблемах. Банки теряли доверие друг к другу в вопросе возврата суточных кредитов. Они постепенно осознавали, какой опасный мусор хранят в своих портфелях, – и разумно предполагали, что другие банки рискуют точно так же, если не сильнее. Сейчас можно сказать, что резкий подъем ставок кредитования был на самом деле признаком возвращения здравого смысла, однако произошло это слишком поздно.

В фонде Шоу все эти волнения тоже слегка снижали оптимистический настрой. Многие компании должны были оказаться в сложном положении – это было очевидно. Индустрию ждал удар, возможно очень серьезный. И все-таки это могло оказаться не нашей проблемой. Мы ведь не ныряли с головой в рискованные рынки. В конце концов, сам термин «хедж-фонд» происходит от слова hedge – преграда, защита. Хедж-фонды по природе своей защищены. Поначалу мы называли волатильность на рынках «заварушкой». Фонду Дэвида Шоу эта заварушка могла причинить определенный дискомфорт, возможно, даже послужить причиной пары неловких моментов – когда, например, кредитку богатого человека вдруг не принимают в дорогом ресторане. Но были хорошие шансы, что мы окажемся в безопасности.

В конце концов, хедж-фонды не создавали эти рынки, а только играли рядом с ними. Это означало, что при крушении рынка из развалин можно было бы извлечь массу богатых возможностей. Игра для хедж-фондов заключалась не в том, чтобы поднимать рынки, а в том, чтобы предсказывать в них тенденции. Движение вниз могло быть столь же выгодным.

Чтобы понять, как хедж-фонды действуют в кулуарах, представьте себе игру бейсбольной Мировой серии на чикагском стадионе «Ригли-филд». С драматическим хоум-раном в конце девятого иннинга «Кабс» выигрывают свой первый чемпионат с 1908 года – с того времени, когда президентом был Тедди Рузвельт. Стадион взрывается от восторга. И только один ряд фанатов остается на своих местах, тихо анализируя результат. Эти азартные игроки не делают традиционные ставки на победителя. Вместо этого они могут поставить на то, что реливеры «Янки» пожертвуют больше уоков, чем страйк-аутов, что в игре будет как минимум один бант, но не больше двух, или что стартер «Кабс» продержится как минимум шесть иннингов. Они даже ставят на то, выиграют или проиграют другие игроки свои ставки. Эти люди ставят на многие факторы, связанные с игрой, но не на сам результат игры. Именно так ведут себя хедж-фонды.

Благодаря этому подходу мы чувствовали себя в безопасности – по крайней мере, в относительной безопасности. Я помню грандиозное событие, когда мы торжественно встречали архитекторов здания, которое вот-вот должно было рухнуть. Фирма приветствовала Алана Гринспена, бывшего председателя Федеральной резервной системы, и Роберта Рубина, бывшего министра финансов и председателя Goldman Sachs. Рубин в 1999 году настоял на пересмотре закона Гласса – Стиголла, принятого еще в эпоху Великой депрессии. Отмена закона, запрещавшего банкам заниматься инвестиционной деятельностью, запустила в течение последующего десятилетия настоящую оргию спекуляций. Банки и раньше могли генерировать кредиты (многие из которых были ничем не обеспечены) и предлагать их клиентам в форме ценных бумаг. Это не было чем-то необычным и могло рассматриваться как одна из банковских услуг. Однако теперь, когда закон Гласса – Стиголла был отменен, банки могли – и иногда пользовались этой возможностью – играть против тех самых ценных бумаг, которые продавали своим клиентам. Это создавало огромные риски – и бесконечный инвестиционный потенциал для хедж-фондов. В конце концов, мы ставили на движение рынка, вверх или вниз, и движения эти порой были весьма бурными.

На приеме в фонде Шоу Гринспен предупредил нас о надвигающихся проблемах с ипотечными ценными бумагами. Это воспоминание преследовало меня, когда я осознала через пару лет, что Рубин, который в то время работал в Citigroup, играл решающую роль в комплектации огромного портфеля этих самых токсичных контрактов, что и послужило основной причиной, по которой Citigroup позже пришлось предоставить финансовую помощь от государства – то есть за счет налогоплательщиков.

Рядом с этими двумя сидел протеже Рубина и наш временный партнер Ларри Саммерс. Он вслед за Рубином пришел работать в Министерство финансов, а затем стал президентом Гарвардского университета. Однако Саммерс не смог наладить отношения с преподавательским составом. Отчасти профессора ополчились на Саммерса после его заявления, что малое число женщин-ученых в математике и других точных науках – это, возможно, следствие генетической неполноценности, или, как он сформулировал, «неравного распределения врожденных способностей».

После того как Саммерс ушел с поста президента Гарварда, он оказался в фонде Шоу. И я помню момент, когда наш основатель Дэвид Шоу обратился к этой престижной троице и пошутил, что перемещение Саммерса из Гарварда в D. E. Shaw можно считать «продвижением по карьерной лестнице». Потому что рынки могут бурлить, но фонд Шоу все равно остается на вершине мира.

Однако по мере углубления кризиса партнеры D. E. Shaw слегка растеряли свою самоуверенность. В конце концов проблемные рынки оказались взаимосвязанными. Например, уже циркулировали слухи об уязвимости банка Lehman Brothers, который владел 20 % фонда D. E. Shaw и осуществлял многие из наших трансакций. Чем больше раскачивались рынки, тем менее спокойной становилась обстановка в офисе фонда. Мы могли анализировать и производить расчеты самым лучшим образом, но что, если устрашающее завтра не будет похоже ни на один из вчерашних дней? Что, если это завтра принесет что-то совершенно новое и иное?

Это не могло не беспокоить, потому что математические модели, по сути своей, основаны на прошлом опыте – и на предположении, что паттерны будут повторяться. Но прошло совсем немного времени, и группа фондовых акций ликвидировала свои активы – и весьма высокой ценой. Затем прекратился активный набор на работу новых аналитиков (в результате которого я когда-то оказалась в этой фирме). Хотя люди еще пытались подшучивать над этой новой атмосферой, чувство страха неуклонно нарастало. Всеобщее внимание было сосредоточено на секьюритизированных продуктах, особенно на ценных бумагах с ипотечным покрытием, о которых нас предупреждал Гринспен.

В течение десятилетий ипотечные ценные бумаги были символом отсутствия риска. Они были скучными финансовыми инструментами, которые как отдельные люди, так и инвестиционные фонды использовали, чтобы разнообразить собственные портфели (идея заключалась в том, что разнообразие инструментов может нейтрализовать риски). В каждом ипотечном кредите есть потенциал дефолта: владелец дома может объявить о банкротстве, и это значит, что банк не вернет себе выданные в кредит средства. На другом конце шкалы находится ситуация, когда заемщик выплачивает ипотеку раньше положенного, обрывая тем самым череду платежей с процентами.

И вот в 1980-е годы инвестиционные банкиры начали скупать тысячи ипотечных кредитов и объединять их в ценные бумаги – некоего рода гарантию, то есть инструмент, который выплачивает регулярные дивиденды, зачастую раз в квартал. Некоторые из владельцев домов, конечно, обанкротятся, зато остальные удержатся на плаву и будут продолжать выплачивать свои ипотеки, организуя постоянный и предсказуемый денежный поток. Со временем это превратилось в целую индустрию – столп, на котором держались рынки долгосрочных капиталов. Эксперты группировали ипотеки по разным классам или траншам. Некоторые считались абсолютно надежными. Другие были более рискованными – и имели более высокий процент. У инвесторов были все причины для уверенности, поскольку агентства, оценивающие кредитные риски, такие как Standard & Poor’s, Moody’s и Fitch, изучали также и эти ценные бумаги и классифицировали их по рискованности. Они считали такие бумаги разумными инвестициями.

Однако вспомним о непрозрачности. Инвестор не знает о качестве ипотеки в ценных бумагах. Единственный взгляд, который был ему доступен, был взглядом на рейтинг, составленный аналитиком. А этот аналитик получал деньги от тех самых компаний, чьи продукты он оценивал. Нет нужды говорить, что ипотечные ценные бумаги оказались идеальной платформой для мошенничества.

Если хотите метафору, то вот вам одна из наиболее распространенных: это сосиска. Представьте себе, что ипотечные кредиты – это кусочки мяса разного качества, а ипотечные ценные бумаги – связки сосисок, изготовленных из соединения всех этих кусочков и добавления сильно пахнущих специй. Конечно, сосиски могут отличаться по качеству – и нам сложно определить по их внешнему виду, что у них внутри, но штамп Министерства сельского хозяйства, подтверждающий, что их можно есть, развеивает наши тревоги.

Как узнал весь мир чуть позже, ипотечные компании получали огромную прибыль во время ипотечного бума, одалживая людям деньги на дома, которые те не могли себе позволить. Стратегия заемщиков была простой: оформить заведомо непосильную ипотеку, а затем продать получившуюся ценную бумагу – сосиску – на бурно растущем рынке ипотечных бумаг. В одном особенно вопиющем случае сборщик клубники по имени Альберто Рамирес, получавший всего 14 тысяч долларов в год, умудрился взять в ипотеку дом за 720 тысяч в Ранчо-Гранде, Калифорния. Разумеется, брокер Рамиреса уверил клиента, что тот сможет перекредитоваться через несколько месяцев, а затем обменять дом на более дешевый и вдобавок еще получить чистую выгоду. Несколько месяцев спустя Рамиресу пришлось объявить дефолт по кредиту.

Накануне коллапса жилищного рынка ипотечные банки не только предлагали сделки с непосильными условиями, но и охотились за потенциальными жертвами в кварталах бедноты и этнических меньшинств. В одном федеральном иске представители муниципальных властей Балтимора обвинили банк Wells Fargo в «обработке» черных кварталов с целью выдачи так называемых «кредитов гетто». Как показала в суде бывший кредитный специалист этого банка Бет Джекобсон, работа отделения новых рынков была сосредоточена на афроамериканских церковных приходах. Идея заключалась в том, что пасторы, вызывающие доверие у прихожан, могут «раскрутить» свою паству на ипотеку. Ипотека неизменно оказывалась высокорискованной, с самым большим процентом, причем банк оформлял сделки на таких условиях даже с абсолютно надежными клиентами, с которыми вполне можно было бы заключать договор на гораздо более щадящих условиях. К 2009 году, когда город Балтимор подал иск, более половины жилой недвижимости, приобретенной по ипотеке Well Fargo, было уже отобрано у клиентов, и 71 % отчужденной площади находился в афроамериканских кварталах. (В 2012 году Wells Fargo урегулировал дело, согласившись выплатить 175 миллионов долларов 31 000 своих жертв по всей стране.)

Чтобы сразу прояснить суть дела: высокорискованные ипотечные кредиты, количество которых резко возросло во время жилищного бума, – выдавались ли они сборщикам клубники в Калифорнии или нуждающимся прихожанам «черных» церквей Балтимора, – не представляли собой оружия математического поражения. Они были финансовыми инструментами, а не моделями, и имели мало общего с математикой (более того, брокеры очень сильно старались игнорировать неудобные цифры).

Но когда банки начали распределять ипотечные кредиты вроде того, что был выдан Альберто Рамиресу, по классам ценных бумаг и продавать их, они опирались именно на ущербные математические модели. Модель расчета риска, подключенная к ипотечным ценным бумагам, была типичным ОМП. Банки осознавали, что некоторые из этих ипотечных кредитов не будут выплачены. Но они основывались на двух ложных допущениях, которые поддерживали их уверенность в системе.

Первым ложным допущением было то, что крутые математики во всех этих компаниях делают точные расчеты и очень аккуратно уравновешивают риски. Ценные бумаги рекламировались как продукты, риски которых были оценены специалистами с использованием новейших алгоритмов. К сожалению, это не соответствовало действительности. Как и со многими ОМП, математика выступала в качестве дымовой завесы и была направлена против потребителя. Ее целью было оптимизировать краткосрочную выгоду для продавцов. А эти продавцы рассчитывали на то, что успеют выпустить ценные бумаги до того, как они рухнут. Умные при этом должны были выиграть. А более глупые – те, кто предоставляет свои «глупые деньги», – в итоге окажутся держателями миллиардов (и триллионов) долговых расписок, по которым никто не станет расплачиваться. Даже самые скрупулезные математики – а такие были – работали с цифрами, которые им предоставили дельцы, осуществлявшие крупномасштабную аферу. Очень немногие располагали опытом и информацией, которые требуются для того, чтобы понимать, что происходит с точки зрения статистики, а большинству из тех, кто все-таки понимал, не хватало решительности, чтобы заявить об этом вслух. Рейтинги риска, присвоенные ценным бумагам, были разработаны как непрозрачные и математически устрашающие, отчасти для того, чтобы покупатели не осознавали настоящей степени риска, связанного с контрактами, которые они покупали.

Вторым ложным допущением оказалось то, что много людей сразу не могут одновременно отказаться от выплаты по своим долговым обязательствам. Это допущение было основано на теории, вскоре опровергнутой, что дефолты – события по большей части случайные и не связанные друг с другом. Из этого следовало, что многочисленные нормально выплачиваемые ипотечные кредиты перекроют ущерб от дефолта нескольких неудачников в каждой категории заемщиков. Модели расчета риска были построены на допущении, что будущее не будет отличаться от прошлого.

Чтобы продать эти ипотечные облигации, банкам нужны были рейтинги ААА. Для этого они обращались к трем агентствам кредитной классификации. По мере расширения рынка присвоение рейтинга растущему миллиардному рынку в кредитных облигациях стало для агентств большим бизнесом, приносящим прибыльные гонорары. У них образовалась зависимость от этих гонораров. И они прекрасно понимали, что, если будут присваивать рейтинги ниже ААА, банки обратятся к их конкурентам. Поэтому агентства поддерживали игру. Их гораздо больше беспокоила удовлетворенность клиента, чем точность их собственных моделей. Эти модели риска также создали свои собственные губительные петли обратной связи. Рейтинги ААА, присваиваемые дефектным продуктам, превращались в доллары. Доллары, в свою очередь, формировали уверенность в хорошем качестве продукта и в честности процесса (на самом деле обманного и жульнического), который производил этот продукт. В результате бизнес держался на цикле взаимных поглаживаний и обоюдного наполнения карманов – пока пузырь не взорвался.

Из всех качеств ОМП именно его масштаб превратил эти модели риска в чудовищную силу глобального размаха. Конечно, бродячие продавцы чудодейственных средств от всех болезней – явление старое как мир, и пузыри на рынке недвижимости, оставлявшие незадачливого покупателя на краю болота, купленного им в качестве участка земли, и с пачкой бесполезных бумажек в руках, не раз надувались и в прошлом. Но на этот раз современные вычислительные мощности разогрели аферу до масштабов, ранее просто невиданных. Ущерб был усугублен крушением и других инструментов, которыми оброс рынок ипотечных ценных бумаг: кредитными дефолтными свопами и синтетическими обеспеченными долговыми обязательствами (CDO).

Кредитные дефолтные свопы были небольшими страховыми полисами, которые переносили риск на облигацию. Свопы давали как банкам, так и хедж-фондам чувство безопасности, так как имелось в виду, что эти бумаги можно использовать для балансирования рисков. Но в случае, если финансовые организации – держатели этих страховых полисов вдруг терпят крах (а со многими именно так и случилось), то начинается цепная реакция, которая пробивает бреши во всей мировой экономике. Синтетические CDO были еще одним шагом вперед: ценность этих контрактов зависела от качества свопов кредитного дефолта и ипотечных ценных бумаг. Они позволяли проектировщикам новых финансовых инструментов еще сильнее поднять ставки.

Общая стоимость высокорискованных ипотечных кредитов на перегретом (и затем рухнувшем) рынке к 2007 году достигала трех триллионов долларов, а рынок инструментов, связанных с этими кредитами, – все эти кредитные дефолтные свопы и синтетические CDO, еще больше увеличивавшие риски, – был еще в двадцать раз больше. Ни одна национальная экономика в мире не могла бы с этим сравниться.

Парадоксальным образом мощные по замыслу алгоритмы, создавшие рынок, – те самые, которые анализировали риск для разных категорий заемщиков и затем отражали этот риск в конкретных ценных бумагах, – оказались бесполезными, когда пришло время наводить порядок и подсчитывать истинную ценность всех этих бумаг. Математика может умножать бредовые данные, но не может их расшифровать. Это работа для людей. Только люди могут перебрать ипотечные контракты, отложить в отдельную стопку лживые обещания и благие намерения и придать кредитам реальную долларовую ценность. Это был очень трудоемкий процесс, потому что люди, в отличие от ОМП, не могут экспоненциально увеличивать масштабы своей работы; кроме того, для большей части финансовой индустрии эта работа имела низкий приоритет. В процессе этой длительной детоксикации стоимость долга – и домов, к которым этот долг был привязан, – конечно же, постоянно падала. А когда случился экономический крах, даже те владельцы домов, которые в свое время вполне могли позволить себе ипотеку, тоже внезапно оказались перед угрозой дефолта.

Как я уже упомянула, фонд D. E. Shaw находился в одном-двух шагах в стороне от рыночного коллапса. Но когда другие игроки стали уходить под воду, они начали с бешеной скоростью аннулировать свои сделки, а эти сделки затрагивали и наши контракты. В результате этого эффекта домино мы в начале второго полугодия 2008 года уже теряли деньги направо и налево.

В течение следующих месяцев катастрофа наконец разразилась в полную силу. Именно в этот момент все наконец увидели людей по ту сторону алгоритмов. Это были отчаявшиеся домовладельцы, которые теряли свою недвижимость, а также миллионы американцев, теряющих свои рабочие места. Дефолты по кредитным картам достигли рекордных показателей. Человеческие страдания, которые раньше прятались за цифрами, таблицами и уровнем риска, стали видны воочию.

Разговоры в D. E. Shaw стали крайне нервными. После падения банка Lehman Brothers в 2008 году финансисты начали обсуждать политические последствия. Похоже было, что Барак Обама выиграет выборы 2008 года. Начнет ли он бомбардировать индустрию новыми регулирующими правилами? Поднимет налоги на валовую прибыль? Эти люди не теряли дома и не выкачивали до дна кредиты по своим картам, лишь бы остаться на плаву. Но им тоже было о чем беспокоиться. Единственной возможностью было переждать обвал, позволить лоббистам делать их работу и посмотреть, не удастся ли в конце концов продолжать работу в том же духе, что и дальше.

К 2009 году стало понятно, что уроки рыночного коллапса не указали миру финансов никаких новых путей и не привили новых ценностей. Лоббисты по большей части одержали успех, и игра осталась прежней: выуживание «глупых денег». За исключением некоторых правительственных ограничений, добавивших новые полосы препятствий, которые предстояло преодолеть, жизнь в общем и целом продолжалась.

Но меня вся эта драма очень быстро подтолкнула в сторону утраты иллюзий. Особенно я была разочарована той ролью, которая сыграла в этих событиях математика. Мне пришлось столкнуться лицом к лицу с неприглядной правдой: люди сознательно создавали формулы, чтобы произвести впечатление, вместо того чтобы прояснить ситуацию. Я впервые напрямую столкнулась с этой токсичной концепцией, и в результате мне захотелось сбежать, вернуться в прошлое – к миру доказательств и кубиков Рубика.

И я уволилась из хедж-фонда в 2009 году с намерением работать над обезвреживанием финансового оружия массового поражения. Новые правительственные правила предписывали банкам привлекать независимых экспертов для анализа рисков. Я устроилась на работу в одну из компаний, которая предоставляла банкам таких специалистов: компания RiskMetrics Group располагалась в одном квартале к северу от Уолл-стрит. Наш продукт представлял собой россыпь цифр, которые складывались в предсказание того, как будет вести себя определенный пакет ценных бумаг или вид биржевых в течение следующей недели, следующего года или следующих пяти лет. Когда все ставят на любое движение на рынке, подобные умные расчеты риска идут на вес золота.

Чтобы просчитать степень риска, наша команда применяла метод Монте-Карло. Вообразите, что вы крутанули колесо рулетки в казино десять тысяч раз и каждый раз тщательно записали результаты. При использовании метода Монте-Карло вы обычно начинаете с истории рынка и прогоняете тысячи тестовых сценариев. Как изучаемый вами портфель ценных бумаг вел себя на рынке каждый день начиная с 2010 года? А с 2005-го? Устоит ли он в самые тяжелые дни краха? С какой вероятностью для него возникнет смертельная опасность в течение следующего года или двух? Чтобы рассчитать эти вероятности, ученые прогоняют тысячи тысяч моделей. У этого метода много недостатков, но он представляет собой простой способ хоть как-то управлять своими рисками.

Моя работа заключалась в том, что я была посредником между нашими риск-менеджерами и самыми большими и придирчивыми знатоками рисков – квантитативными хедж-фондами. Я связывалась с фондами или они связывались со мной, и мы обсуждали любые вопросы, которые у них возникали по поводу чисел. Однако чаще всего они информировали меня только тогда, когда мы совершали ошибки. Дело в том, что хедж-фонды всегда считали себя умнейшими из умных, и учитывая то, что правильное понимание риска – основа их существования, они никогда не стали бы полностью полагаться на сторонние организации вроде нашей. У них были собственные группы, занимавшиеся подсчетами риска, и наши продукты они покупали в основном для того, чтобы хорошо выглядеть в глазах инвесторов.

Кроме этого, я отвечала на вопросы по горячей линии, иногда – от представителей больших банков. Им очень хотелось поправить свой пошатнувшийся имидж и выглядеть ответственными; именно поэтому они и обращались к нам. Но, в отличие от хедж-фондов, они мало интересовались самим нашим анализом. Риск в их портфелях был фактором, который они практически игнорировали. В течение моей работы на горячей линии у меня сложилось чувство, что люди, предупреждающие о риске, воспринимались ими как назойливые надоедалы или, еще того пуще, как угроза банковской безопасности. Это восприятие не изменилось даже после катаклизмов 2008 года – и было несложно понять почему. Если уж они выжили в такой катастрофе – потому что были слишком большими, чтобы рухнуть[3], – какой им был смысл волноваться из-за рисков после этого?

Отказ признавать наличие риска – давняя традиция в мире финансов. Культуру Уолл-стрит определяют ее трейдеры, а риски – это то, что они постоянно недооценивают. Это результат того, что мы оцениваем профессионализм трейдера по его «коэффициенту Шарпа»: он рассчитывается как отношение прибыли, которую приносит трейдер, к стандартному (среднеквадратичному) отклонению для его портфеля[4]. Этот коэффициент критически важен для карьеры трейдера, его ежегодного бонуса, его самооценки. Если мы лишим этих трейдеров их физических тел и начнем воспринимать их исключительно как набор алгоритмов, эти алгоритмы будут постоянно сосредоточены на оптимизации коэффициента Шарпа. В идеале он будет расти – или, по крайней мере, не падать слишком низко. Поэтому, если один из отчетов по рискованности свопов кредитного дефолта поднимет степень риска одного из ключевых вкладов трейдера, его коэффициент Шарпа упадет. Это может стоить ему сотен тысяч долларов, когда дело дойдет до расчета его ежегодного бонуса.

Очень быстро я осознала, что занимаюсь просто штамповкой привычных решений. В 2011 году настало время снова сменить работу – и я увидела, что рынок для математиков вроде меня стремительно расширяется. В то время мне было достаточно напечатать два слова в моем резюме – и я уже была провозглашена новым специалистом по обработке информации, готовым погрузиться в мир онлайн-экономики. В результате я оказалась в нью-йоркском стартапе под названием Intent Media.

Начала я с разработки моделей, которые предсказывали поведение посетителей сайтов, посвященных путешествиям. Ключевой вопрос заключался в том, с какой целью кто-то заходит на сайт Expedia: просто посмотреть на картинки или собирается в самом деле потратить деньги? Те, кто не собирался ничего покупать, мало что значили в качестве потенциального источника дохода. Поэтому таким пользователям мы показывали рекламу фирм-конкурентов – Travelocity или Orbitz. Если посетитель кликал по рекламе, это приносило нам несколько центов – лучше, чем ничего. Однако мы не собирались показывать эти объявления серьезным покупателям. В худшем случае мы получали десяток центов дохода за размещение рекламы – и посылали при этом потенциальных клиентов к конкурентам, где они могли оставить тысячи долларов за гостиничные номера в Лондоне и Токио. Понадобились бы тысячи просмотров рекламных объявлений, чтобы возместить хотя бы несколько сотен долларов из упущенной прибыли от этих клиентов. Поэтому было крайне важно удержать их на нашем сайте.

Моей задачей была разработка алгоритма, который мог бы отличить созерцателя витрин от покупателя. Ориентироваться при этом можно было на несколько очевидных сигналов. Зарегистрировался ли человек на сайте? Совершал ли он уже покупки? Я также обращала внимание и на другие факторы, например на время дня и дату. Определенные недели были особенно урожайными. Например, один из пиков приходился на День поминовения в середине весны, когда огромное количество людей практически одновременно определялись со своими планами на лето. Мой алгоритм придавал больше ценности покупателям в течение подобных периодов: в это время повышалась вероятность, что они действительно что-то купят.

Принципы работы статистики, как выяснилось, было очень легко перенести из хедж-фондов в онлайн-коммерцию: самой большой разницей было то, что вместо движений в рынке я теперь предсказывала клики конкретных людей.

На самом деле я увидела огромное количество параллелей между финансами и Большими данными. Обе индустрии черпают работников из одного и того же кадрового резерва: в основном из элитных университетов, таких как Массачусетский технологический институт (MIT), Принстон или Стэнфорд. Эти новые работники отчаянно стремятся к успеху и всю жизнь сосредоточены на внешних количественных показателях, таких как результаты SAT[5] (академических оценочных тестов) и поступление в колледжи. В области как финансов, так и технологий они получают один и тот же месседж: они разбогатеют и будут править миром. Их продуктивность демонстрирует, что они на правильном пути, и это конвертируется в долларовый эквивалент. Успех приводит к ложному выводу: все, что они делают, чтобы заработать больше денег, – это хорошо. Они таким образом «создают добавленную ценность». Иначе за что бы их вознаграждал рынок?

В обеих культурах богатство больше не представляет собой средство выживания. Оно напрямую привязывается к ценности отдельно взятой личности. Молодой обитатель пригорода, обладающий массой преимуществ (образование в частной школе, усиленная подготовка к вступительным экзаменам в колледж, семестр за границей – в Париже или Шанхае), все равно тешит себя иллюзией, что в мир привилегий он попал благодаря собственным талантам, усиленной работе и выдающимся способностям в области решения проблем. Деньги уничтожают любые сомнения. А другие члены его круга подыгрывают ему, создавая сообщество взаимного восхищения. Они с радостью доказывают нам, что представляют собой продукты работы дарвиновского естественного отбора, тогда как со стороны это выглядит как комбинация слепой удачи и выигрыша у системы.

В обеих индустриях реальный мир со всеми его проблемами воспринимается с большой дистанции. Работающие в них люди стремятся подменить людей наборами данных, превратить их в более эффективных покупателей, избирателей или работников, чтобы оптимизировать какую-нибудь цель. Это совсем легко сделать и оправдать, когда успех приходит в виде безличного результата и когда задействованные люди остаются такими же абстракциями, как цифры на экране.

Параллельно с работой в области обработки данных я уже вела свой блог – и все больше была вовлечена в движение «Захвати Уолл-стрит». Все больше и больше меня беспокоило отчуждение технических моделей от реальных людей – и моральные последствия этого отчуждения. На самом деле я видела появление того же механизма, который я наблюдала в мире финансов: ложное чувство безопасности, которое вело к распространению далеких от совершенства моделей, определения успеха, которые служили оправданиями самим себе, и растущие петли обратной связи. Людей, которые пытались противодействовать этим процессам, обзывали ностальгирующими луддитами.

Я гадала, какой аналог кредитного кризиса мог бы случиться в области Больших данных: пока что вместо бума я наблюдала эволюционирующую антиутопию со все увеличивающимся неравенством. Алгоритмы позаботятся о том, чтобы те, кого они объявили неудачниками, неудачниками и остались. Счастливое меньшинство станет еще больше контролировать экономику данных, купаясь в возмутительной роскоши и убеждая себя в том, что оно ее заслуживает.

Проработав два года в области Больших данных и многому научившись, я поняла, что мой путь к окончательной утрате иллюзий более или менее завершился: злоупотребление математикой приобретает все более впечатляющие масштабы. Несмотря на ежедневное ведение блога, я почти перестала успевать отслеживать все способы манипуляции, контроля и запугивания людей алгоритмами. Это началось с учителей, пострадавших от ярма модели подсчета качества их работы, но ими не закончилось. Чувствуя все растущую тревогу, я ушла с работы, чтобы сосредоточить все усилия на исследовании этой проблемы.

Гонка вооружений: поступление в колледж

Если вы сядете поужинать с друзьями где-нибудь в Сан-Франциско или Портленде, то, скорее всего, обнаружите, что никто из вас не хочет попробовать то, что заказал другой. Никто не ест одно и то же, все придерживаются разных диет – от веганской до разных вариантов палеодиеты, причем свято их соблюдают как минимум месяц или два. А теперь представьте себе, если одна из таких диет – допустим, та же диета пещерного человека – стала национальным стандартом и 330 миллионов людей обязаны соблюдать ее требования.

Эффект будет разрушительным. Для начала единая национальная диета просто уничтожит экономику сельского хозяйства. Спрос на официально одобренные сорта мяса и сыра (а затем и цены на них) взлетит до небес. В то же время отрасли, занимающиеся выращиванием продуктов, которые отвергнуты диетой, например сои и картофеля, будут разорены. Разнообразие практически исчезнет. Пострадавшие фермеры пустят ненужные больше площади зерновых на разведение коров и свиней, даже если почва для этого не подходит. Увеличившееся поголовье скота будет потреблять огромное количество воды. И, наконец, нет нужды говорить о том, что единая диета превратит многих из нас в совершенно несчастных людей.

Что общего у единой национальной диеты с ОМП? Масштаб. Любая формула – идет ли речь о диете или об индивидуальном номере налогоплательщика – в теории может быть совершенно невинной. Но когда она превращается в национальный или международный стандарт, она создает свою собственную деформированную и искривленную экономику. Именно это и случилось с высшим образованием.

Начался этот процесс в 1983 году. Пытаясь выжить, журнал U. S. News & World Report задумал амбициозный проект. Было объявлено, что журнал проведет оценку 1800 колледжей и университетов по всей стране и расположит их в рейтинге по качеству образования. Этот рейтинг стал бы полезным инструментом, который мог бы помочь миллионам молодых людей правильно сделать первый большой выбор в их жизни. Для многих из этих молодых людей он стал бы указанием на начало карьерного пути, дал бы им новых друзей, а может быть, и спутника жизни. Более того, редакторы надеялись, что рейтинг колледжей может стать новостной сенсацией. Возможно, тираж U. S. News даже сравнится на какое-то время с его соперниками-гигантами – Times и Newsweek.

Но на основе какой информации строить такой рейтинг? В самом начале журналисты основывали свои расчеты исключительно на результатах опросных листов, которые рассылались президентам университетов. В результате лучшим национальным университетом был назван Стэнфорд, а лучшим гуманитарным вузом – Амхерстский колледж. Рейтинги пользовались большой популярностью у читателей, однако многие администраторы колледжей были просто в бешенстве. Журнал был завален жалобами на то, что рейтинг несправедлив. Многие президенты колледжей, студенты и выпускники настаивали на том, что их вуз заслуживает более высокой оценки. Все, что оставалось журналистам, – это обратиться к фактам.

В последующие годы редакторы U. S. News снова и снова пытались понять, что тут вообще можно измерить и оценить. Именно так начинаются многие модели – с серии догадок. Процесс этот нельзя назвать научным, и к статистическому анализу он имеет весьма отдаленное отношение. Люди просто думали над тем, что важнее всего в образовании, затем выясняли, какие переменные им стоит принимать во внимание, и, наконец, решали, какой вес придать каждой из этих величин в формуле.

В большинстве дисциплин анализ, загружаемый в модель, требует гораздо большей тщательности. В агрономии, например, исследователи должны сравнить вводные параметры (почву, солнечный свет, удобрения) и параметры, получившиеся на выходе, то есть определенные свойства урожая. Затем они могут экспериментировать и оптимизировать результаты, исходя из целевого параметра, будь то цена, вкус или питательная ценность. Это не значит, что агрономы не могут создать оружия математического поражения – очень даже могут и иногда создают (особенно если отказываются принимать во внимание долгосрочные и разнообразные последствия применения пестицидов). Однако из-за того, что их модели по большей части четко нацелены на чистый результат, они идеальны для научных экспериментов.

Журналисты U. S. News, однако, имели дело с «качеством образования» – гораздо менее четкой величиной, чем цена кукурузы или количество миллиграммов белка в каждом зернышке. У них не было четких параметров, по которым можно было бы оценить, какое воздействие четырехлетнее обучение оказывает на одного студента, не говоря уже о миллионах студентов. Они не могли измерить количество усвоенного материала, счастье, уверенность в своих силах, дружбу и другие аспекты студенческого четырехлетнего опыта. Идеальная цель высшего образования, сформулированная президентом США Линдоном Джонсоном, – «углубление личной самореализации, усиление личной продуктивности и повышение личной самооценки» – не укладывалась в их модель.

Вместо этого они выбрали прокси, которые, как им казалось, коррелировали с успехом. Они посмотрели на результаты SAT, на соотношение студентов и преподавателей и на процент зачисления абитуриентов. Они проанализировали процент первокурсников, которые доучились до второго курса, а также процент выпускников. Они подсчитали процент выпускников, которые жертвовали деньги альма-матер, рассудив, что, раз у них возникло желание поддержать вуз, значит, им, скорее всего, понравилось там учиться. Три четверти ранжирования должно было производиться алгоритмом – то есть мнением, формализованным в коде, – в который были включены все эти прокси. Оставшаяся четверть рейтинга формировалась с учетом субъективных мнений официальных представителей колледжей по всей стране.

Первый рейтинг, основанный на вычислении данных, был опубликован в U. S. News в 1988 году, и его результаты казались вполне разумными. Однако, когда рейтинг вырос до статуса национального стандарта, материализовалась зловещая петля обратной связи. Проблема заключается в том, что рейтинги подпитывают сами себя. Если колледж однажды получил низкую оценку в U. S. News, то его репутация сразу была слегка подмочена, а это тут же сказывалось на условиях обучения в нем. Лучшие студенты и лучшие преподаватели начинали его избегать. Выпускники возмущались и переставали жертвовать деньги. Рейтинг снижался еще сильнее. Короче говоря, рейтинг становился судьбой.

В прошлом администраторы колледжей располагали самыми разными способами добиться успеха, и многие из них были основаны на личностном факторе. Студенты восхищались определенными профессорами. Некоторые выпускники делали выдающиеся карьеры в качестве дипломатов или предпринимателей. Другие публиковали романы, которые получали престижные награды. Слава передавалась из уст в уста, и все способствовало повышению репутации колледжа. Но в самом ли деле Макалестер лучше Рида?[6] Правда ли Айова лучше Иллинойса?[7] Сложно сказать. Колледжи – это как разные типы музыки или как разные диеты. Всегда найдется место для противоположных точек зрения – как и хорошие аргументы в защиту каждой из них. Теперь же огромную репутационную экосистему колледжей и университетов накрыла своей тенью одна-единственная колонка цифр.

Если вы посмотрите на эту ситуацию с точки зрения президента какого-нибудь университета, она будет выглядеть очень печально. Большинство этих людей, без сомнения, дорожат своим университетским опытом – это одна из причин, мотивировавших их взобраться по лестнице академической карьеры. В то же время, оказавшись на вершине этой карьеры, они вынуждены тратить огромную энергию на улучшение показателей по пятнадцати параметрам, которые определила для них шайка журналистов из какого-то второсортного издания. Они снова оказались чуть ли не на студенческой скамье – им снова нужно получить хорошие оценки от тех, кто выдает им задания. На самом деле они оказались в ловушке жесткой модели, в ловушке ОМП.

Если бы рейтинг U. S. News не пользовался таким успехом, он был бы не так страшен. Однако он превратился в титана и очень быстро провозгласил себя национальным стандартом. С тех самых пор рейтинг начал вязать узлы из нашей образовательной системы, установив очень жесткий список того, что необходимо делать – как администрациям колледжей, так и студентам. Рейтинг U. S. News обладает огромным масштабом, широко распространяет ущерб и порождает бесконечную спираль деструктивных петель обратной связи. И пусть он не столь непрозрачен, как многие другие подобные модели, он все равно представляет собой стопроцентное оружие математического поражения.

Некоторые администраторы шли на самые отчаянные меры, чтобы продвинуться в рейтинге вверх. Бэйлорский университет, например, заплатил за то, чтобы принятые в него студенты заново сдали SAT, надеясь, что еще одна попытка улучшит их результат – а заодно и рейтинг университета. Элитарные частные учебные заведения вроде Бакнеллского университета в Пенсильвании или университета Клермонт Маккенна в Калифорнии отослали фальшивые результаты в U. S. News, завысив результаты SAT своих абитуриентов. А в нью-йоркском Айона-колледже признались в 2011 году, что подделывали сведения практически по всем параметрам: результаты тестов, коэффициенты поступления и выпуска, количество поступивших, перешедших на второй курс, соотношение студентов и преподавательского состава и даже суммы пожертвований выпускников. Ложь помогла – по крайней мере, на какое-то время. В U. S. News подсчитали, что ложные данные подняли Айона-колледж с 50-го на 30-е место среди региональных колледжей северо-востока США.

Впрочем, абсолютное большинство администраторов колледжей не стали прибегать к столь вопиющим способам повышения своего рейтинга. Вместо обмана они изо всех сил работали над тем, чтобы улучшить каждый из показателей, включенных в рейтинг. Они могли бы сказать, что это самое эффективное использование их ресурсов. В конце концов, если их работа удовлетворит алгоритм U. S. News, значит, они соберут больше денег, привлекут более ярких студентов и преподавателей, продолжат путь к верхним строчкам списка. Разве у них есть иной выбор?

Роберт Морс, работающий в журнале с 1976 года и отвечающий за рейтинг колледжей, постоянно указывает в интервью, что рейтинг заставляет колледжи ставить перед собой осмысленные цели. Если они смогут улучшить результаты выпуска или объединить студентов в меньшие группы, это только к лучшему. Образование выиграет от сосредоточения усилий. Морс признает, что самые релевантные данные – чему именно студенты научились в том или ином вузе – журналу недоступны, тем не менее модель U. S. News, основанная на допущениях, является лучшей из возможных.

Однако, когда вы создаете модель из прокси, людям гораздо легче ее обыграть. Это происходит потому, что допущениями легче манипулировать, чем сложной реальностью, которую они подменяют. Вот пример. Давайте представим себе, что некий сайт ищет специалиста по работе с социальными сетями. Многие люди желают устроиться на эту работу, они присылают резюме с перечислением множества маркетинговых кампаний, которые они проводили. Но на то, чтобы отследить и оценить всю их работу, требуется слишком много времени. Поэтому менеджер по приему на работу сотрудников решает применить прокси: она обращает внимание на то, у кого из претендентов больше всего фолловеров в Twitter. Это же признак вовлеченности в социальные сети, не так ли?

Да, это кажется достаточно разумным допущением. Но что произойдет, если информация о том, что толпа фолловеров в «Твиттере» – гарантия получения работы в данной компании, станет общеизвестной (а это, несомненно, произойдет)? Тогда кандидаты будут делать все, чтобы увеличить их число. Некоторые заплатят 19,95 доллара какому-нибудь сервису, который организует им тысячи фолловеров – в основном ботов. Когда люди обыгрывают систему, прокси теряет свою эффективность. Обманщики выдают ложноположительный результат.

В случае с рейтингом U. S. News все – от перспективных студентов и выпускников до сотрудников кадровых отделов – быстро приняли рейтинг в качестве стандарта качества образования. И колледжи стали играть по этим правилам. Они пытаются улучшить каждый из параметров, измеряемых моделью подсчета. И многие на самом деле были более всего разочарованы именно теми 25 % оценок, повлиять на которые было не в их власти, – то есть данными анкет, заполняемых президентами и проректорами колледжей.

Эта часть анализа, как и любое собрание субъективных мнений, не может не содержать старомодных предубеждений и простого невежества. И у нее есть тенденция удерживать знаменитые вузы наверху списка, потому что широкая публика знает только о них. А для вузов, которые еще только стремятся вверх, ситуация лишь усложняется.

К 2008 году Техасский христианский университет (TCU) в Форт-Уэрте сильно упал в рейтинге U. S. News. За три года до этого университет занимал 97-е место, а затем скатился до 105-го, 108-го – и, наконец, до 113-го. Это обстоятельство сильно встревожило активных выпускников и тех, кто поддерживал университет, и поставило ректора Виктора Боскини в крайне сложное положение. «Это совершенно непонятная ситуация», – заявил ректор в интервью tcu360.com, новостному сайту университета. Боскини настаивал, что на самом деле университет улучшил каждый свой показатель: «Мы улучшили коэффициент удержания студентов, объемы привлеченных средств – словом, все показатели, на которые они ориентируются».

В своем анализе ситуации Боскини не учел два фактора. Во-первых, рейтинговая модель U. S. News не оценивала каждый колледж в отрыве от других. Учебное заведение, которое улучшало свои показатели, могло все равно опускаться в рейтинге, если конкуренты улучшали свои показатели быстрее. Говоря академическим языком, модель U. S. News распределяла колледжи по кривой Гаусса. И это подпитывало процесс, который можно было сравнить с гонкой вооружений.

Другой проблемой была репутация – то есть те самые 25 процентов, которые TCU не мог контролировать. Рэймонд Браун, декан по вопросам приема студентов, отмечал, что репутация – самый весомый фактор, «что абсурдно, потому что это совершенно субъективные оценки». Уэс Вэггонер, директор по делам первокурсников, добавил, что колледжи рекламируют себя друг другу, чтобы улучшить репутационный рейтинг. «Я постоянно получаю по почте послания, в которых другие колледжи пытаются убедить нас в том, что они хорошие», – сказал он.

Несмотря на все это ворчание, TCU твердо вознамерился улучшить те 75 % результата, которые он мог контролировать. В конце концов, если рейтинг университета поднимется, повысится и его репутация. Со временем представители других вузов заметят прогресс TCU и станут оценивать университет выше. Ключевой задачей было запустить движение в правильном направлении.

TCU начал кампанию по сбору средств с целевой суммой 250 миллионов долларов. Результаты намного превзошли запланированные – кампания принесла 434 миллиона долларов к 2009 году. Один только этот фактор уже увеличил рейтинг TCU, поскольку успешность привлечения средств была одним из показателей. Большую часть этих денег университет потратил на усовершенствование кампуса, в частности, 100 миллионов на новый центральный двор и организацию нового студенческого союза – и все это с целью сделать TCU более привлекательным для студентов. И хотя в этом нет ничего плохого, эти меры очень удачно подпитывали алгоритм U. S. News. Чем больше студентов хотят поступить в университет, тем более придирчивым он может быть.

Что, вероятно, еще важнее, TCU построил новый суперсовременный спортивный центр и вкачал деньги в университетскую программу по американскому футболу. В последующие годы «Рогатые лягушки» (Horned Frogs) – футбольная команда TCU – стала национальным феноменом. В 2010 году «лягушки» не проиграли ни одной игры, в конце концов разгромив команду Висконсинского университета в новогоднем матче на стадионе «Роуз Боул».

Этот успех позволил TCU воспользоваться плодами так называемого эффекта Флюти (Flutee effect). В 1984 году, в ходе одной из самых захватывающих университетских игр в истории, квотербек Бостонского колледжа Дуг Флюти завершил длинный пас в последнюю секунду матча, в результате чего команда выиграла у Университета Майами. Флюти стал легендой. В течение двух лет поток заявок на поступление в Бостонский колледж вырос на 30 %. Подобный всплеск популярности случился и в Джорджтаунском университете, когда его баскетбольная команда под руководством Патрика Юинга трижды пробивалась в национальный чемпионат. Спортивные победы, как выяснилось, оказались самой эффективной рекламой для некоторых абитуриентов. Для тысяч спортивно ориентированных старшеклассников, которые смотрят университетские серии по телевидению, вузы с сильными спортивными командами кажутся весьма привлекательными. Студенты гордятся именами своих университетов, разрисовывают лица и отмечают спортивные победы. Заявки на поступление резко увеличиваются. Чем больше студентов хотят поступить в вуз, тем выше администрация может задрать планку – средний балл абитуриентов. Это помогает повысить рейтинг. И чем больше абитуриентов будут отвергнуты, тем ниже (и тем лучше для рейтинга!) окажется процент зачисления.

Стратегия TCU сработала. К 2013 году он стал вторым по отсеву абитуриентов университетом в Техасе, уступив только престижному Университету Райса в Хьюстоне. В том же году в TCU были зарегистрированы наивысшие баллы SAT и ACT[8] в истории. В рейтинге U. S. News университет поднялся сразу до 76-го места – на 37 пунктов всего за семь лет.

Несмотря на мое отношение к модели U. S. News (я считаю ее оружием математического поражения), важно отметить, что этот резкий рост в рейтинге вполне мог сослужить хорошую службу университету. В конце концов, большая часть прокси в модели U. S. News может в той или иной степени адекватно отражать качество образования в том или ином вузе – точно так же как многие из тех, кто соблюдает палеодиету, добиваются хороших результатов. Проблема не в самом рейтинге U. S. News, а в его масштабе. Он заставляет все вузы преследовать одни и те же цели – что приводит к мелочной конкуренции – и к тому же имеет много вредных незапланированных последствий.

В годы, предшествующие появлению системы рейтингов, абитуриенты могли спать немного спокойнее, зная, что подали документы в так называемый запасной вуз (safety school) – колледж с более низким проходным порогом. Если студенту не удавалось поступить в университет, в который ему хотелось больше всего, он мог начать получать совершенно нормальное образование в «запасном вузе» – и, возможно, перевестись через год-другой в университет, куда он и собирался изначально.

Однако концепция «запасного вуза» в наши дни практически исчезла – в основном благодаря рейтингу U. S. News. Как мы увидели на примере TCU, ради высокого рейтинга вуз обязан быть как можно более придирчивым. Если приемную комиссию заваливают заявлениями на поступление, это признак, что дела идут хорошо. Это говорит о репутации колледжа. Если колледж может позволить себе отвергнуть абсолютное большинство кандидатов на поступление, он, возможно, заполучит себе более умных студентов. Как и многие другие прокси, этот показатель выглядит вполне разумным. Он следует за движениями рынка.

Но этот рынок подвержен манипуляциям. Традиционный «запасной» вуз, например, может провести ретроспективное исследование своей статистики за несколько последних лет и увидеть, что его заканчивает лишь небольшой процент лучших абитуриентов. Большая же их часть рано или поздно переводится в изначально выбранные ими университеты и больше не нуждаются ни в какой страховке. Теперь ради того, чтобы поднять собственную избирательность, «запасной» вуз может начать отказывать первоклассным кандидатам (которые, в соответствии с алгоритмом самого этого вуза, и так в нем, скорее всего, не остались бы). Этот процесс не имеет ничего общего с точностью. И колледж, несмотря на все труды специалистов по анализу данных в приемной комиссии, без сомнений, теряет определенный процент лучших студентов, которые все-таки могли бы выбрать именно его. Ведь эти абитуриенты и выясняют в итоге, к своему отчаянию, что так называемые запасные вузы больше не являются надежной ставкой.

Этот процесс не приносит ничего хорошего для образования. Колледж теряет лучших студентов – настоящих звезд, которые улучшают процесс обучения для всех, включая преподавателей. На самом деле бывшей «запасной» школе теперь, возможно, придется тратить драгоценную спонсорскую финансовую поддержку на то, чтобы завлечь кого-то из этих звезд к себе. А это означает, что у вуза останется меньше денег для тех студентов, кому эти деньги нужны больше всего.

* * *

Именно в этом заключается самый главный недостаток рейтинга колледжей U. S. News. В конце концов, все прокси, которые используют журналисты для оценки качества образования, вполне разумны. Однако грандиозный провал кроется в том, что они не приняли во внимание: стоимость обучения. Финансирование студентов исключено из этой модели.

Это приводит нас к важнейшему вопросу, в который мы постоянно упираемся. В чем цель создателя рейтинга? В данном случае поставьте себя на место редакторов U. S. News в 1988 году. Когда они создавали свою первую статистическую модель, откуда они знали, что она сработает? Конечно, она бы выглядела гораздо более убедительной, если бы отражала установленную иерархию. Если Гарвард, Стэнфорд, Принстон и Йель окажутся на самом верху списка, модель будет казаться полностью адекватной – она подменит собой те неформальные модели, которые и так уже сложились в голове у читателей. Чтобы построить такую модель, им нужно было посмотреть на перечисленные выше университеты и выяснить, что же делает их такими особенными. Что у них есть общего и чем они отличаются от «запасного» колледжа в соседнем городке? Ну, во-первых, у всех их студентов были заоблачные результаты SAT – и учились они с аккуратностью и точностью часовых механизмов. Выпускники этих университетов были богатыми людьми, и деньги от них рекой текли обратно в альма-матер. Анализируя достоинства этих брендовых университетов, команда создания рейтингов создала элитарную мерку для определения качества.

Однако, если мы включим стоимость обучения в формулу, с результатами могут случиться странные вещи. Дешевые университеты смогут претендовать на вступление в иерархию качества, а это вызовет удивление и посеет сомнения у общественности: может быть, рейтинг U. S. News все же не совсем божественная истина? Гораздо безопаснее начать с заслуженных чемпионов. Конечно, они дорогие. Но, возможно, это цена, которую платят за превосходное качество.

Выбросив из формулы фактор стоимости, U. S. News словно выдал президентам колледжей позолоченную чековую книжку. Перед ними встала задача улучшить ситуацию в 15 параметрах, но удержание низких цен в эти параметры не входило. На самом деле, если бы они подняли цены, у них бы оказалось больше ресурсов для решения проблем по тем параметрам, где их оценивали.

С тех пор стоимость обучения взлетела до небес. С 1985 по 2013 год высшее образование подорожало на более чем 500 %, почти в четыре раза опередив темп инфляции. Чтобы привлечь лучших студентов, колледжи, как мы увидели на примере TCU, вложили много средств в строительство студенческих центров со стеклянными стенами, шикарных общежитий, тренажерных залов со скалолазными стенками и вихревыми ваннами. Все это было бы замечательно, если бы эти деньги не были взяты из карманов студентов, которые и так обременены кредитами на обучение, которые они затем выплачивают в течение десятилетий. Мы не можем возложить вину за все это исключительно на рейтинг U. S. News. Все наше общество разделяет убеждение не только в том, что высшее образование необходимо, но и в том, что диплом престижного вуза может катапультировать студента в мир власти и привилегий. Оружие математического поражения, созданное журналом U. S. News, было вскормлено этими убеждениями, страхами и неврозами. Оно создало мощную мотивацию, которая побудила вузы совершать огромные траты, одновременно игнорируя взлетевшую до небес стоимость обучения.

Когда колледжи собираются продвинуться вверх по шкале рейтинга U. S. News, они управляют своими студентами, словно инвестиционным портфелем. Мы еще не раз это увидим в мире данных, от рекламы до политики. Для администраторов колледжей каждый перспективный студент представляет собой серию ценных активов, а иногда также некоторые пассивы, или обязательства. Отличная спортсменка, например – это хороший актив, но она при этом может плохо сдать экзамены или занять не слишком хорошее положение в своей группе – а это уже пассив. Кроме того, ей может понадобиться финансовая помощь – еще одно обязательство. Чтобы сбалансировать портфель, администратору в идеале нужно найти других студентов, которые могли бы и сами заплатить за обучение, и получать хорошие оценки. Но эти идеальные кандидаты после зачисления могут решить учиться в другом месте. Это риск, который необходимо принимать во внимание. Все это чрезвычайно сложно – и для «оптимизации приема студентов» даже появилась целая новая консалтинговая индустрия.

Фирма Noel-Levitz, занимающаяся консультациями в области образования, предлагает университетским администраторам пакет прогностической аналитики под названием ForecastPlus, который позволяет администраторам ранжировать вероятность поступления студента по его месту происхождения, полу, этнической принадлежности, специализации, успеваемости и «любой другой характеристике, какую вы пожелаете». Еще одна консалтинговая компания, RightStudent, собирает и продает данные, чтобы помочь колледжам отобрать самых многообещающих кандидатов для приема. Это студенты, которые в состоянии сами оплатить стоимость обучения, а также те, кто имеет право на какую-либо внешнюю стипендию. Для некоторых из этих студентов пониженная способность к обучению – только плюс.

Сноски