Читать книгу Внутри Facebook. Голая правда - Шира Френкель - Страница 4

Поздним вечером, несколько часов спустя после того как остальные коллеги покинули офис в Менло-Парке, инженер Facebook почувствовал, что его непреодолимо тянет заглянуть в свой ноутбук. Он уже успел выпить несколько банок пива. Может, поэтому, думал он, его принципиальность дрогнула. Он знал, что, нажав пару кнопок на клавиатуре, он сможет получить доступ к Facebook-профилю женщины, с которой у него было свидание несколько дней назад. Свидание, как ему казалось, прошло хорошо, но она перестала отвечать на его сообщения через двадцать четыре часа после окончания вечера. Он всего лишь хотел заглянуть на ее страницу в Facebook, чтобы удовлетворить свое любопытство и узнать, не заболела ли она, не уехала ли в отпуск, не сбежала ли ее собака. Все это могло бы объяснить потерю интереса.

К десяти вечера он принял решение. Он ввел пароль на ноутбуке и, пользуясь своим доступом к базе данных всех пользователей Facebook, нашел ту, с кем у него было свидание. Он достаточно знал о ней: имя и фамилию, место рождения и университет, – так что поиск занял всего несколько минут. Внутренние системы Facebook располагали богатым хранилищем информации, включая личные сообщения друзьям в Facebook Messenger за много лет, посещенные мероприятия, загруженные фотографии (в том числе те, которые она удалила) и посты, которые она комментировала или открывала. Он видел, в какие категории Facebook разместила ее для рекламодателей: платформа определила, что ей за тридцать, политически она относится к левым и ведет активный образ жизни. У нее был широкий круг интересов – от любви к собакам до отдыха в Юго-Восточной Азии. А через приложение для Facebook, которое она установила на свой телефон, он увидел ее местоположение в реальном времени. Столько информации инженер не смог бы получить, поужинай он с ней все десять раз. Но теперь, неделю спустя после первого свидания, у него был доступ ко всем этим данным.

Менеджеры Facebook всегда подчеркивают, что любой, кого уличат в злоупотреблении доступом к данным в личных целях, например чтобы посмотреть аккаунт друга или члена семьи, будет немедленно уволен. Но им также было известно, что нет никаких сдерживающих механизмов против такого злоупотребления. Система была разработана открытой, прозрачной и доступной для всех сотрудников. Это было частью основополагающих принципов Цукерберга – отсечь бюрократическую волокиту, которая замедляла работу инженеров и не позволяла им выполнять cвою работу быстро и независимо от кого-либо. Это правило было введено, когда в Facebook было менее ста сотрудников. Но спустя годы, когда в компании работали тысячи инженеров, никто не пересмотрел эту практику. И ничего, кроме доброй воли самих сотрудников, не удерживало их от злоупотребления своим доступом к личной информации пользователей.

В период с января 2014 года по август 2015 года инженер, получивший информацию о девушке, с которой сходил на одно свидание, стал всего лишь одним из пятидесяти двух сотрудников Facebook, уволенных за злоупотребление доступом к пользовательским данным. Большую часть злоупотребивших своими привилегиями инженеров составляли мужчины, просматривающие Facebook-профили интересующих их женщин. Большинство из них ограничивалось лишь просмотром информации. Но некоторые заходили гораздо дальше. Один из инженеров использовал эти данные в ходе конфликта с женщиной, которая полетела с ним в отпуск в Европу. Во время поездки между ними произошла ссора, и инженер вычислил, в какой отель она переехала после того, как покинула совместный номер. Другой инженер заходил на страницу женщины в Facebook еще до того, как она сходила с ним на свидание. Он увидел, что она регулярно посещает парк Долорес в Сан-Франциско, и однажды нашел ее там, когда она гуляла с друзьями.

Уволенные инженеры использовали рабочие ноутбуки, для того чтобы найти данные об определенных пользователях. Такая необычная активность привела в действие соответствующую систему Facebook и сообщила руководителям инженеров об этих нарушениях. Однако все это произошло уже после свершившегося факта. Неизвестно, сколько других подобных нарушений так и остались незамеченными.

Впервые проблема была доведена до сведения Марка Цукерберга в сентябре 2015 года, через три месяца после прихода нового начальника службы безопасности Facebook Алекса Стэймоса. Собравшись в конференц-зале генерального директора, так называемом «Аквариуме», топ-менеджеры морально приготовились к плохим новостям: Стэймос имел репутацию прямолинейного человека с высокими стандартами. Одной из первых целей, которую он поставил перед собой сразу после назначения тем летом, была всесторонняя оценка текущего состояния безопасности в Facebook. Это была первая оценка системы безопасности, когда-либо проводимая посторонним человеком.

В руководстве компании шептались, что невозможно провести тщательную оценку ситуации за такой короткий промежуток времени и что какой бы отчет ни представил Стэймос, он, несомненно, выявит лишь поверхностные проблемы и даст новому руководителю службы безопасности пару легких побед в начале его пребывания на посту. Всем было бы легче, если бы Стэймос тоже занял позицию безграничного оптимизма, пронизывающего Facebook. Дела у компании шли как никогда хорошо. Реклама теперь была добавлена в Instagram⁶, и была достигнута новая веха: миллиард ежедневных посетителей. Все, что требовалось от руководителей, – это сидеть сложа руки и не мешать машине работать.

Вместо этого Стэймос пришел на встречу, вооруженный презентацией, в которой детально рассматривались проблемы по всем основным продуктам Facebook, а также проблемы с персоналом и структурой компании. «Организация уделяет слишком много внимания обеспечению безопасности своего веб-сайта, в то время как ее приложения, включая Instagram и WhatsApp, в значительной степени игнорируются», – сказал Стэймос собравшимся. Facebook не продвинулась вперед в выполнении своих обещаний по шифрованию пользовательских данных в своих центрах в отличие от Yahoo, предыдущего работодателя Стэймоса. Yahoo много сделала для этого за те два года, что прошли с тех пор, как разоблачитель из Агентства национальной безопасности Эдвард Сноуден сообщил, что правительство, по всей вероятности, тайно собирало пользовательские данные, хранящиеся в незащищенном виде в компаниях Кремниевой долины⁷. Обязательства Facebook по обеспечению безопасности в разных сферах оставались невыполненными. И согласно докладу Стэймоса, компания «ни технически, ни культурно не была готова соревноваться» в этой области с конкурентами.

Хуже всего, по словам Стэймоса, было то, что несмотря на увольнение десятков злоупотребивших доступом сотрудников в течение последних восемнадцати месяцев, Facebook не сделала ничего, чтобы решить эту кажущуюся системной проблему и предотвратить подобные происшествия в дальнейшем. При помощи диаграммы Стэймос продемонстрировал, как почти каждый месяц инженеры использовали инструменты, разработанные для получения легкого доступа к данным с целью создания новых продуктов, нарушали конфиденциальность пользователей Facebook и вторгались в их частную жизнь. Общественность была бы в ярости, узнай она об этих нарушениях: в течение более десяти лет тысячи инженеров Facebook имели свободный доступ к личным данным пользователей. Стэймос привел в пример лишь те случаи, о которых компании уже было известно. «Но сотни других могли запросто остаться незамеченными», – предупредил он.

Цукерберг был явно ошарашен представленными цифрами и расстроен тем, что этот вопрос не был доведен до его сведения раньше. «Все техническое руководство прекрасно знало, что среди сотрудников были случаи злоупотребления доступом к данным. Но никто ни разу не собрал все свидетельства воедино, и теперь все были удивлены количеством нарушителей», – вспоминает Стэймос.

«Почему никто не догадался пересмотреть систему, которая давала инженерам доступ к пользовательским данным?» – спросил Цукерберг. Никто в зале не напомнил ему, что он сам разработал и внедрил эту систему. На протяжении многих лет его сотрудники безрезультатно предлагали альтернативные способы хранения данных. «В истории Facebook были шансы пойти другим путем, принять другие решения. Это ограничило и сократило бы объем собираемых нами пользовательских данных, – сказал один давний сотрудник компании, который начал свою карьеру в Facebook в 2008 году и работал в различных отделах компании. – Но это противоречило ДНК Марка. Еще до того как мы обратились к нему с предложениями этих вариантов, мы знали, что он не выберет этот путь».

Менеджеры Facebook, в том числе те, кто руководил инженерами, такие как Джей Парих и Педро Канауати, преподносили возможность доступа к личным данным пользователей как преимущество для привлечения новых сотрудников в свои технические группы. Facebook была крупнейшей в мире экспериментальной лабораторией, а подопытными служила четверть населения планеты. Руководители предоставляли доступ к данным как часть политики радикальной прозрачности Facebook и знак доверия компании своим инженерам. Понравится ли пользователю изображение связки воздушных шаров на напоминании поздравить брата с днем рождения? Или ему больше по душе эмодзи именинного торта? Вместо долгого бюрократического процесса, необходимого для выбора лучшего варианта, инженерам предлагалось просто «открыть капот» и сразу же своим взглядом оценить, что лучше работает. Но Канауати предупреждал инженеров, что доступ к этой информации является привилегией. «Мы абсолютно нетерпимы к злоупотреблениям, вот почему компания всегда увольняла каждого, кто был замечен в неправомерном использовании данных», – говорил он.

Стэймос сказал Цукербергу и другим руководителям, что увольнять сотрудников после факта нарушения недостаточно. «Ответственность Facebook, – утверждал он, – сделать невозможными подобные нарушения неприкосновенности частной жизни». Он попросил разрешения изменить существующую систему и закрыть доступ к личным данным для большинства инженеров. Если кому-то нужна была информация о частном лице, нужно было бы подать официальный запрос по соответствующим каналам. В рамках существующей на тот момент системы 16 744 сотрудника Facebook имели доступ к личным данным пользователей. Стэймос хотел, чтобы эта цифра была меньше 5000. А для наиболее значимой конфиденциальной информации, такой как координаты местоположения и пароль, он хотел ограничить доступ, который имели бы всего 100 человек. «Несмотря на то что всем известно об огромном объеме данных, доступных инженерам, никто не задумывается о том, насколько сильно выросла компания и сколько именно людей сейчас имеют этот доступ, – объяснил Стэймос. – Никто не обращает на это внимания».

Парих, глава инженерного отдела Facebook, спросил, зачем компании переделывать всю систему. Наверняка есть способ установить преграды, которые ограничили бы доступ инженеров к информации или запускали бы звуковые сигналы тревоги в случаях, когда они задают поиск по определенному типу данных. Предлагаемые изменения серьезно замедлили бы работу многих команд разработчиков.

Канауати, директор по разработке, согласился с этим. Он сказал Стэймосу, что неприемлемо требовать от инженеров подавать письменный запрос каждый раз, когда им нужно получить доступ к данным. «Это приведет к резкому замедлению работы всей компании, в том числе в области обеспечения безопасности в других сферах», – отметил Канауати.

Цукерберг сказал, что изменение системы – приоритетная задача. Он попросил Стэймоса и Канауати придумать решение и в течение года проинформировать группу о достигнутом прогрессе. Но для команд инженеров это стало серьезным потрясением. Многие из присутствовавших в зале руководителей потом жаловались в узком кругу, что Стэймос убедил босса взять на себя обязательства по капитальному ремонту структуры, представив наихудший сценарий развития событий.

Отсутствие одного из руководителей было слишком заметным на том совещании в сентябре 2015 года. Прошло всего четыре месяца со дня смерти мужа Шерил Сэндберг. Безопасность была ее ответственностью, и фактически Стэймос был ее подчиненным. Однако она никогда не предлагала осуществить подобные изменения. Более того, ее мнения об этих радикальных планах, которые предлагал Стэймос, никто не спрашивал.

Стэймос ушел в тот день с победой, но нажил несколько влиятельных врагов.

Поздним вечером 8 декабря 2015 года Джоэль Каплан находился в бизнес-центре отеля в Нью-Дели, когда ему позвонили из Менло-Парка. Коллега сообщил, что присутствие Джоэля требуется на экстренном совещании.

За несколько часов до этого избирательная кампания Дональда Трампа выложила на Facebook видеозапись речи кандидата, произнесенной в городе Маунт-Плезант в Южной Каролине. В ней Трамп пообещал занять более жесткую позицию в борьбе с террористами, а затем связал терроризм с иммиграцией. По его словам, президент Обама относился к нелегальным иммигрантам лучше, чем к раненым американским военным. «При Трампе все будет иначе», – заверил толпу кандидат в президенты. «Дональд Дж. Трамп призывает к полному и абсолютному запрету на въезд мусульман в Соединенные Штаты до тех пор, пока представители нашей страны не разберутся, что, черт возьми, происходит», – заявил он⁸. Аудитория взорвалась аплодисментами.

Трамп сделал провокационные заявления в отношении расы и иммиграционной политики центральными элементами своей позиции кандидата в президенты. Использование соцсетей во время его предвыборной кампании только подливало масла в огонь. На Facebook видео его антимусульманской речи быстро набрало более 100 000 лайков и 14 000 репостов.

Видеоролик поставил платформу в сложное положение. Соцсеть оказалась не готова к такому кандидату, как Трамп: он привлекал огромное количество последователей, но в то же время делил на два враждующих лагеря как пользователей, так и сотрудников. Цукерберг и Сэндберг решили посоветоваться с вице-президентом компании по глобальной общественной политике, который в тот момент находился в Индии, пытаясь спасти программу бесплатного интернет-сервиса Цукерберга.

Каплан подключился к видеоконференции, в которой принимали участие Сэндберг, глава по вопросам политики и коммуникаций Эллиот Шраге, руководитель глобального управления по политике Моника Биккерт, а также несколько других должностных лиц, отвечающих за политику и коммуникации. Каплан был в другом часовом поясе, на тринадцать с половиной часов впереди своих коллег по штаб-квартире и несколько дней провел в дороге. Он внимательно слушал, чем обеспокоены собравшиеся. Цукерберг, как ему сказали, ясно дал понять, что его беспокоит пост Трампа и что, возможно, есть основания удалить его с платформы Facebook.

Когда Каплан наконец взял слово, он посоветовал руководителям не действовать поспешно. Принимать решение по антимусульманской риторике Трампа было сложно по политическим причинам. Годы публичной финансовой поддержки демократов омрачали имидж Facebook среди республиканцев, у которых росло недоверие к политическому нейтралитету платформы. Каплан не был частью мира Трампа, но он воспринимал его кампанию как реальную угрозу. Огромное количество поклонников Трампа в Facebook и Twitter обнажило раскол внутри партии республиканцев.

Каплан добавил, что удаление поста кандидата в президенты – слишком важное решение, которое будет воспринято Трампом и его сторонниками как цензура. Это могут истолковать как еще один признак либерального фаворитизма по отношению к главному сопернику Трампа – Хиллари Клинтон. «Не дразните гусей», – посоветовал он⁹.

Сэндберг и Шраге не высказывали категоричных мнений по поводу действий в отношении аккаунта Трампа. Они доверяли политическим инстинктам Каплана; у них не было ни связей с кругом Трампа, ни опыта взаимодействия с его фирменной шоковой политикой. Но некоторые сотрудники, принимавшие участие в той видеоконференции, были ошеломлены. Каплан, похоже, ставил политику выше принципов. Как выразился один из участников той конференции, он был настолько одержим задачей удержать корабль на плаву, что не замечал, какую бурю поднимают комментарии Трампа.

Несколько руководителей высшего звена согласились с Капланом. Они выразили беспокойство по поводу возможных заголовков и обратной реакции, которая не заставила бы себя ждать, если бы Facebook удалила выступление кандидата в президенты. Трамп и его последователи уже считали таких лидеров, как Сэндберг и Цукерберг, частью либеральной элиты: богатые и влиятельные хранители информации, которые с помощью своих секретных алгоритмов могли цензурировать консервативные голоса. Facebook должна была выглядеть беспристрастной. Это было необходимо для защиты бизнеса.

Теперь нужно было придумать объяснение такому решению. Пост можно было расценить как нарушение стандартов сообщества Facebook. В прошлом пользователи уже отмечали аккаунт кампании Трампа за риторику ненависти, и многократные отметки такого рода были основанием для полного удаления аккаунта. Шраге, Биккерту и Каплану, выпускникам юридического факультета Гарвардского университета, пришлось попотеть, чтобы придумать юридические аргументы, которые оправдывали бы решение оставить этот пост. Они вдавались в невообразимые подробности того, что можно считать риторикой ненависти, вплоть до особенности грамматики в тексте Трампа.

«В какой-то момент они пошутили, что Facebook должна придумать аналог определения порнографии, которое однажды дал судья Верховного суда: “Узнаю, когда увижу”, – вспоминает сотрудник, участвовавший в разговоре. – Где проходила для них та черта, за которой находились высказывания Трампа, заслуживающие бана? Мудрее было совсем не проводить такую черту».

Facebook теоретически запрещала риторику ненависти, но ее определение постоянно менялось. В разных странах компания принимала меры против различных высказываний в соответствии с местными законами. Существовали универсальные определения запрещенного контента по детской порнографии и контенту, содержащему насилие. Но риторика ненависти отличалась не только в разных странах, но и в разных культурах.

В ходе обсуждения руководители пришли к тому, что им не придется защищать риторику Трампа, если они найдут принципиально другой выход. Группа согласилась с тем, что политическая речь может быть защищена в соответствии со стандартом «информационной значимости». Смысл заключался в том, что политическая речь заслуживает дополнительной защиты, потому что общественность заслуживает возможности сформировать собственное мнение о кандидатах на основе их неотредактированных высказываний. Руководители Facebook создавали новую политику в отношении выступлений на основе рефлекторной реакции на Дональда Трампа. «Это была полная чушь, – вспоминает один из сотрудников. – Они выдумывали все это на ходу».

Для Джоэля Каплана это была важная возможность доказать свою ценность для компании. Несмотря на то что он был не слишком любим некоторыми из коллег, присутствовавшими на той видеоконференции, он давал ценные советы по поводу растущей угрозы, исходящей из Вашингтона.

Когда Сэндберг пришла в Facebook в 2008 году, компания пренебрегала консерваторами. Это была критическая ошибка: там, где речь шла о регулировании сбора данных, республиканцы были союзниками Facebook. Когда в 2010 году в Палате сформировалось республиканское большинство, Сэндберг взяла на работу Каплана, чтобы сбалансировать преимущественно демократичные ряды лоббистского офиса и изменить представление Вашингтона, будто компания предпочитает демократов.

У Каплана была безупречная репутация консерватора. Бывший заместитель руководителя аппарата президента Джорджа Буша-младшего, в прошлом он был офицером морской пехоты США и выпускником юридического факультета Гарвардского университета с опытом работы в качестве помощника судьи Верховного суда Антонина Скалиа. Каплан являл собой прямую противоположность типичному либеральному технарю Кремниевой долины и в свои сорок пять был на пару десятков лет старше большинства сотрудников MПK. (С Сэндберг он познакомился в 1987 году, когда учился на первом курсе в Гарварде. Они недолго встречались и остались друзьями, когда романтические отношения закончились.)

Каплан был трудоголиком, который, как и Сэндберг, на первое место ставил организованность. В его кабинете в Белом доме висела трехстворчатая доска со списком всех горящих вопросов, стоящих перед администрацией: пакеты финансовой помощи автомобильной промышленности, иммиграционная реформа и финансовый кризис. Его задача состояла в том, чтобы решать сложные политические вопросы и не допускать, чтобы проблемы доходили до Овального кабинета. Аналогичную роль он исполнял и в Facebook. В его обязанности входила защита бизнес-модели от вмешательства правительственных органов, и он отлично справлялся с этим.

В 2014 году Сэндберг предложила Каплану возглавить отдел глобальной политики в дополнение к лоббированию в Вашингтоне. Последние два года Facebook готовилась к возможности прихода республиканской администрации после Обамы. Но Трамп сбил их с курса. Он не был из республиканского истеблишмента. Политический капитал Каплана оказался бесполезным, когда дело коснулось бывшей звезды реалити-шоу.

И хотя Трамп усложнял жизнь Facebook, он также оставался влиятельным пользователем и важным рекламодателем. С самого начала президентской кампании Трампа его зять Джаред Кушнер и цифровой менеджер Брэд Парскейл вкладывали большую часть своих медиафондов в социальную сеть¹⁰. Они сосредоточились на Facebook из-за ее дешевых и простых функций таргетинга для усиления рекламы кампании. Парскейл использовал инструменты микротаргетинга соцсети, чтобы достучаться до избирателей, сопоставляя собственные списки адресов электронной почты кампании со списками пользователей Facebook. Он работал с сотрудниками корпорации, которые были внедрены в предвыборный штаб Трампа в Нью-Йорке¹¹, просматривал ежедневные выступления Хиллари Клинтон и нацеливал негативную рекламу на конкретную аудиторию. Кампания закупала тысячи рекламных объявлений и видеообращений¹². Они легко охватывали более широкую аудиторию, чем с помощью телевидения, и Facebook была их надежным партнером. Присутствие Трампа на платформе стало вездесущим.

Президентские выборы в США в 2016 году развеивают любые сомнения в важности социальных сетей для политических кампаний. К началу 2016 года 44 процента всех американцев заявляли, что получают новости о кандидатах из Facebook, Twitter, Instagram и YouTube¹³.

В течение почти десяти лет Facebook проводила в конце каждой недели неформальную встречу в масштабах всей компании, известную как «Вопросы и ответы», или Q&A. Ее формат был простым и достаточно стандартным для отрасли: за несколько дней до встречи сотрудники присылали свои вопросы. Лучшие из них выбирались путем голосования. После краткого выступления на встрече, Цукерберг отвечал на эти вопросы. Затем наступала очередь вопросов из зала. Эти мероприятия были более непринужденными, чем ежеквартальные общекорпоративные собрания Facebook, известные как all-hands, которые имели более жесткую повестку дня и включали программы и презентации.

Около двухсот сотрудников лично пришли на встречу в Менло-Парке, и еще тысячи человек смотрели ее прямую трансляцию из офисов Facebook по всему миру. В преддверии мероприятия, последовавшего за речью Трампа о запрете на въезд мусульман в США, сотрудники делились недовольством в своих внутренних Facebook-группах Tribes («племена»: по их мнению платформа должна была удалить ролик с сайта. На более широких форумах, известных как группы Workplace («рабочее место»), где велись более профессиональные дискуссии, люди интересовались, как Facebook относилась к госчиновникам на сайте в прошлом. Сотрудники с возмущением отмечали, что лидеры компании не заняли позицию против того, что, по их мнению, явно представляло собой риторику ненависти.

Один из сотрудников подошел к микрофонной стойке¹⁴. Зал затих. «Чувствуете ли вы себя обязанным удалить видео кампании Трампа, призывающее к запрету на въезд мусульман в США?» – спросил он. Такое целенаправленное преследование мусульман, по словам сотрудника, нарушало правило Facebook, запрещающее риторику ненависти.

Цукерберг привык отвечать на трудные вопросы на таких встречах. В прошлом у него требовали объяснений за непродуманные деловые сделки, критиковали за недостаток разнообразия в штате компании и задавали вопросы о его планах по борьбе с конкурентами. Но теперь стоявший перед ним сотрудник задал вопрос, по которому высшее руководство в его собственной компании не смогло прийти к согласию. Цукерберг вернулся к одному из своих основных аргументов. «Это был сложный вопрос», – сказал он. Однако он был убежденным сторонником принципа свободы слова. Удаление ролика было бы слишком радикальной мерой.

Это был основной либертарианский рефрен, к которому Цукерберг возвращался снова и снова: архиважный принцип защиты свободы слова, прописанный в Первой поправке Билля о правах. Цукерберг интерпретировал поправку как полную свободу высказываний. На Facebook может звучать все многоголосье противоречивых мнений и благодаря этому пользователи получат информацию во всей ее полноте. Однако защита свободы слова, законодательно принятая в 1791 году, была задумана непосредственно для поощрения здоровой демократии путем насаждения плюрализма идей без ограничений со стороны правительства. Первая поправка предназначалась для защиты общества. А реклама, в которой приоритет отдавался кликам и непристойному контенту, и сбор пользовательских данных как раз противоречили идеалам здорового общества. По словам Рене ДиРеста, исследовательницы дезинформации из интернет-обсерватории Стэндфордского университета, опасность алгоритмов Facebook заключается в том, что политики и эксперты, вопящие о цензуре, неправомерном модерировании контента и крахе свободы слова в Сети, всячески передергивают ситуацию и используют ее себе во благо¹⁵. «Нет никакого права на алгоритмическое усиление. На самом деле это и есть та самая проблема, которую необходимо решить».

Это был сложный вопрос, но, по крайней мере для некоторых, решение было простым. В посте на Workplace, открытом для всех сотрудников, Моника Биккерт объяснила, что ролик Трампа не будет удален. По ее словам, люди сами могут составить мнение о его высказывании.

Сноски. Глава 1. Не дразните гусей

6 Vindu Goel and Sidney Ember, “Instagram to Open Its Photo Feed to Ads,” New York Times, June 2, 2015.

7 Barton Gellman and Ashkan Soltani, “Russian Government Hackers Penetrated DNC, Stole Opposition Research on Trump,” Washington Post, October 30, 2013.

8 Jenna Johnson, “Donald Trump Calls for ‘Total and Complete Shutdown of Muslims Entering the United States,’” Washington Post, December 7, 2015.

9 Sheera Frenkel, Nicholas Confessore, Cecilia Kang, Matthew Rosenberg and Jack Nicas, “Delay, Deny and Deflect: How Facebook’s Leaders Fought through Crisis,” New York Times, November 14, 2018.

10 Issie Lapowsky, “Here’s How Facebook Actually Won Trump the Presidency,” Wired, November, 2016.

11 Sarah Frier and Bill Allison, “Facebook ‘Embeds’ Helped Trump Win, Digital Director Says,” Bloomberg, October 6, 2017.

12 Andrew Marantz, “The Man Behind Trump’s Facebook Juggernaut,” New Yorker, March 9, 2020.

13 Jeffrey Gottfried, Michael Barthel, Elisa Shearer and Amy Mitchell, “The 2016 Presidential Campaign – a News Event That’s Hard to Miss,” Journalism.org, February 4, 2016.

14 Deepa Seetharaman, “Facebook Employees Pushed to Remove Trump’s Posts as Hate Speech,” Wall Street Journal, October 21, 2016.

15 Renée DiResta, “Free Speech Is Not the Same as Free Reach,” Wired, August 30, 2018.