Манипуляции неизбежны: о чем говорит скандал с утечкой данных из Facebook
21 марта после нескольких дней молчания глава Facebook Марк Цукерберг все-таки высказался по поводу скандала с Cambridge Analytica. Бывший сотрудник этой компании, которая занимается анализом соцсетей, рассказал The New York Times и The Guardian об использовании данных десятков миллионов пользователей Facebook без их согласия и в интересах предвыборной кампании Дональда Трампа в 2016 году. 19 марта акции Facebook потеряли 7% — крупнейший обвал в истории компании.
Заявление Цукерберга звучит странно. С одной стороны, он отчитался, что соцсеть уже ограничила ненадежным партнерам доступ к пользовательским данным. С другой стороны, не объяснил — а зачем вообще кому-то давать доступ к личным данным людей? Зачем эти данные собирать?
Не в этом ли и заключается сама бизнес-модель соцсети — собрать и использовать данные огромного количества людей? И что же тогда такого ужасного сделала Cambridge Analytica?
Скандал обнажил и более глубокие вопросы. Куда заведут человека высокие технологии? Где та грань, после которой их использование становится вредоносным? И возможно ли их остановить у этой черты?
Кто ты в «Игре престолов»?
В 2013 году психолог Майкл Козинский с коллегами изобрел методику сбора данных с помощью анкет в соцсетях. Анкеты не только позволяли формировать психографический профиль участника, но еще и сами распространялись за счет вирусного эффекта. Однако Козинский в своем исследовании соблюдал этические стандарты и даже предупреждал о потенциальной опасности сочетания психографики с сетевым сбором персональных данных.
В это же время группа политтехнологов из Cambridge Analytica под руководством Александра Никса искала способы воздействия на избирателей через соцсети. Политтехнологи пробовали привлечь Козинского, но тот отказался. Однако согласился другой доктор психологии из Кембриджа — американец российского происхождения, как непременно подчеркивают теперь СМИ, Александр Коган. Он владел методикой и создал свое приложение для сбора данных.
Приложение Когана собрало данные почти 300 тыс. человек. Они, впрочем, согласились пустить приложение в свой профиль. Но это 2014 год, Facebook тогда был не очень строг к партнерам. Входя в профиль участника с его согласия, третья сторона одновременно получала и данные на его друзей. Так что теперь говорят об утечке информации о десятках миллионов пользователей. В какой-то момент инженеры Facebook забеспокоились, что приложение Когана качает большие объемы. Но он заверил, что это для научных целей. И ему будто бы ответили: «А, ну тогда ладно».
Так Cambridge Analytica получила базу психометрических профайлов с возможностью адресного обращения к миллионам. Интересно, что первоначально инструмент затачивался под республиканца Теда Круза. Но когда он сошел с дистанции, все это богатство по наследству перешло к Дональду Трампу.
Сразу после выборов, в ноябре 2016 года, в New York Times вышла статья о том, как опросники помогают профилировать психотипы людей для пропаганды. Впервые публике стало известно о магической технологии в соцсетях. Для Cambridge Analytica история сошла тогда с рук. Тема слишком сложная; публика была в шоке от победы Трампа, а потом занялась более простым объяснением — русскими хакерами и троллями.
Что не так?
Теперь самый болезненный вопрос заключается в следующем: манипулирование поведением миллионов — это злая воля работавших на Трампа политконсультантов или же сущность самого Facebook?
В самом деле, если отстраниться от факта, что Cambridge Analytica работала на Трампа, то довольно трудно вычленить, что не так с этой методикой. Еще один сомнительный факт заключается в том, что Коган вроде бы говорил, что собирал персональные данные для науки, а оказалось, что не только. В остальном довольно трудно понять, где та грань, за которой начинаются манипуляции.
Cambridge Analytica хотела учитывать персональные пристрастия людей и адресно обращаться к ним с политическим месседжем. Но это же описание подходит для самой политики. Cambridge Analytica обращалась к людям со скрытым месседжем. Но этим же занимается пропаганда: занятие не самое почетное, но не преступное. Наконец, Cambridge Analytica использовала знания о личности, чтобы заставить человека совершить действие. Но к этому же стремятся маркетинг и реклама.
Кроме масштаба и предполагаемого эффекта сама техника следует тем же мотивам, которые присутствовали всегда в политике, маркетинге, пропаганде: обратиться персонально к большому количеству людей, заставить купить или проголосовать.
И это не формула Cambridge Analytica или даже Facebook. Это формула интернета. Предлагая набор привлекательных сервисов (информация, коммуникация, развлечение, отклик), интернет делает людей одновременно реципиентами для всех тех, кто хочет к ним обратиться с какой-то целью. Интернет — это социальный сервис в обмен на социальное воздействие.
Раньше с воздействием было плохо. Эффективность была низкая, швы торчали. Теперь благодаря алгоритмам, психометрикам, кросс-анализу больших данных получается все лучше. Трамп, конечно, виноват. Facebook виноват еще больше. Но в этой истории сама экосистема обнажила одну из своих сущностей. Вина Cambridge Analytica и Facebook в том, что у них стало получаться. Ну и в том, что нынешний масштаб массового персонального воздействия не имеет исторических прецедентов и поэтому особенно ужасает.
О нейтральности инструмента
Защитники свободного владения оружием в США говорят, что убивает не ружье, а человек. Между тем медиаэкологи знают, что инструмент не нейтрален. Огнестрельное оружие создано для того, чтобы поражать живую плоть на расстоянии, и оно будет это делать. Марку Твену приписывают поговорку: «Для человека с молотком все вокруг кажется гвоздями». Инструмент взывает о предписанном ему применении.
Ведь ясно же, что любая интернет-платформа нацелена на использование личных данных. Даже алгоритм Edge Rank, который в Facebook анализирует наши лайки, переходы и связи, по сути, создает тот же психографический профайл. Только на поляне не в 50 млн, а в 2 млрд человек. И ясно же, что это главный актив Facebook. Он не может не искать себе дальнейшего применения.
Всякое медиа, всякий инструмент стремится развернуть свое назначение на полную мощность. Как говорил Маршалл Маклюэн, человек — это секс-орган машин. Внешний секс-орган, нечто вроде пчелы для цветка. Такая метафора позволяет иначе взглянуть на роль человека в прогрессе. Технологии развиваются сами, мы их лишь опыляем.
Не видно причин, почему развитие того или иного инструмента должно остановиться. Если дать абстрактному ученому ящик Пандоры, то итог предрешен. И итог связан с ящиком, а не с ученым. Идеальная роль идеального ученого — открыть. В этом смысле ученый с ящиком Пандоры ничем не отличается от обезьяны с гранатой. Исход предрешен характеристиками гранаты, а не характеристиками обезьяны.
Когда человек проник в материю на атомном уровне, создание предельного образца технологии стало неизбежным. После этого ядерное оружие должно было возникнуть и примениться.
После того как в древнем племени один человек научился убеждать нескольких других, Cambridge Analytica оказалась неизбежна, просто понадобился долгий путь. Сначала — общее обращение к массам, то есть классические пропаганда и реклама. Потом — персональное обращение к каждому, то есть маркетинг. Наконец, персональное обращение ко всем — это экосистема социальных сетей.
И предел этой технологии, видимо, еще не достигнут. Ведь впереди еще биометрические способы учета человеческих реакций. Приемы незаметного персонального воздействия на миллионы будут развиваться. Cambridge Analytica покажется детским садом.
Через эту линзу можно посмотреть на многие технологии, чтобы увидеть их будущую опасность. Например, манипуляции с наноструктурой вещества нацелены на создание материала с любым заданным свойством. Понятно же, что рано или поздно из этого возникнет вещество, синтезирующее себя из подручных средств, то есть из наличного материала. Обычно его называют «серая слизь». Упрощенная версия: экологическая бактерия, разлагающая пластик, чтобы не загрязнял моря. Возьмет и разложит. Может возникнуть в какой-то лаборатории случайно; но не случайно — ведь лаборатория именно к этому и стремится.
Это же касается генетических исследований. Они нацелены на модификацию организма. Было бы странно предположить, что эта модификация почему-то остановится и не состоится.
Что уж говорить об искусственном интеллекте, сама идея которого заключается в том, чтобы преодолеть уровень человека. Как раз в эти дни самодвижущаяся повозка Uber впервые убила человека.
Где именно проходит граница допустимого и недопустимого применения технологии, если агентом развития выступает сама технология, а не технолог? Зачем ей останавливаться на пути к своему полному претворению?
Обычно считается, что на пороге неподобающего применения технологий надежным защитником стоит мораль ученого. Стоять-то она там может. Ярчайший пример — Андрей Сахаров, отец водородной бомбы. Но не Сахаров обуздал ядерное оружие. Это были политики, но и они лишь отразили «волю» своего рода «невидимой руки рынка» — угрозы взаимного уничтожения конкурирующими корпорациями друг друга. К тому же не факт, что тема с ядерным оружием закрыта.
Тем не менее пример ядерного оружия дает какой-то образец и для противодействия манипулятивным технологиям в интернете. Даже если технологии развиваются сами, люди тоже не лишены способности к действию. Из чего следует, что регулирование Facebook и прочих интернет-платформ неизбежно.
Парадоксальная ситуация: человек пробуждает заложенный в технологии потенциал, потом осознает надвигающиеся последствия, пугается и старается этот потенциал ограничить. Для этого нужен шок. С ядерным оружием такой шок был. Теперь прогрессивная общественность шокирована предполагаемым эффектом массовых сетевых манипуляций.
Хуже будет, если технологии подкрадутся без шока. Или, например, у человека не хватит ума или мощности установить для них рамки.
