Цензура будущего. Что будет запрещено в интернете?

Незнание — сила

Цензура — явление не новое. Оскорбление царских особ или богов каралось издревле. Но современная цензура на Западе восходит к церковной, которая вдохновлялась античными идеями об «общественном благе».Вопреки заблуждениям, католическая церковь начала систематически бороться с неугодными идеями не в Средневековье, а лишь в XV–XVI веках, хотя «нежелательными» тексты бывали и раньше. Церковные цензоры верили, что заботятся о людях. Еретические книги могли вызвать греховные мысли, ведущие к гибели души, — читателей требовалось от этого оградить. Целью было не пресекать отдельные оскорбления, а контролировать, что люди в массе своей думают. Цензорам, что церковным, что светским, было важнее не чтобы крамольный текст не появился, а чтобы его никто не прочёл.

Поначалу репрессии против самих авторов справлялись с этой задачей. Но грамотность ширилась, и охотиться за каждым вольнодумцем стало слишком затратно. И тогда на первое место вышла борьба за контроль над распространением информации. Власти стали решать проблему глобально и контролировать в первую очередь не что пишут, а что печатают.Методы поддержания порядка бывали весьма изобретательны. Так, в ГДР бумага была в дефиците, её распределяло государство — и неугодному издательству становилось просто не на чем печатать. Но и сейчас по всему миру власти выдают и, если надо, отбирают лицензии на телевещание, распределяют радиочастоты, а в некоторых странах надзирают за репертуарами кинотеатров. Неудивительно, что контроль пытаются установить и над интернетом.

Старший Брат следит за тобой

Уже давно идут разговоры о том, чтобы превратить единую, глобальную и децентрализованную Сеть в конгломерат сетей, прикреплённых к государствам или объединениям вроде Евросоюза. Когда-то такое было невозможно представить. Опубликованная в 1996 году «Декларация независимости киберпространства» провозглашала, что интернет лишён границ и национальных различий. Казалось, Сеть может объединить человечество, и разделить её невозможно.Но уже в 1998 году китайское правительство запустило «Золотой щит», он же Великий китайский файрвол. Он ограничивает жителям Китая доступ к сайтам, которые власти сочли вредными. Великий китайский файрвол блокирует доступ не только к оппозиционным сайтам и статьям на неудобные темы вроде независимости Тибета, но и к сайтам, без которых нам сложно представить интернет, например Google. В Китае их заменяют местные аналоги вроде Baidu или Renren.

Само попадание сайта в запрещённые частично автоматизировано. Когда пользователь запрашивает доступ к серверу за пределами Китая, файрвол скачивает запрошенный материал и сканирует его на предмет «запретных» слов и фраз (например, «свободный Тибет»). Если такие слова есть, доступ к странице блокируется.Другие страны со временем тоже стали прибегать к точечным блокировкам неугодных материалов и сервисов. Например, в Иране нельзя зайти на целый ряд популярных сервисов вроде YouTube или Twitter. Украинские власти запретили российские «ВКонтакте», «Яндекс», Mail.ru и «Одноклассники». Египет в этом году на два месяца запретил YouTube, а в Турции в прошлом году для «защиты общественной безопасности» заблокировали даже Википедию.Россиянам пока везёт — настолько значимых и при этом длительных блокировок у нас ещё не было (не считая пиратских сайтов). Скандальную блокировку Github отменили через пару дней, а попытка заблокировать мессенджер Telegram в 2018 году обернулась фиаско: у большинства он работает до сих пор.

Неудача с Telegram заставила российское руководство обратить внимание на китайский опыт. Конечно, у Рунета своя специфика: годы свободного развития, обилие провайдеров и локальных сетей. Но потенциально, при наличии политической воли, с этим можно совладать.Один из возможных сценариев описал Саркис Дарбинян, юрист «Роскомсвободы»* — организации, протестующей против цензуры в Рунете. Введение «пакета Яровой», требующего огромных затрат на хранение информации, может обанкротить многих операторов связи. Останется лишь несколько ведущих компаний, которые монополизируют рынок. Далее можно купить у Китая оборудование, способное по сигнатурам трафика определять VPN и прокси.Эти методы обхода блокировок используют и в Китае, но с ними сложно работать — скорость становится низкой, видео и картинки грузятся медленно. Со временем пользователи выбирают удобство. Это лишь гипотетический сценарий, но «суверенный» интернет технически возможен, и есть те, кто хотел бы сделать его реальностью.* «Роскомсвобода» объявлена в РФ «иностранным агентом». Извините, что приходится об этом упоминать.

Океания всегда воевала с Евразией

Даже в США, некогда гордившихся своей свободой слова, начали ужесточать контроль над интернетом. Поводом стали обвинения в адрес России, которая якобы вмешалась в американские президентские выборы, распространяя в соцсетях пропаганду и «фейковые новости».Американские власти вдруг почувствовали себя уязвимыми. Миллионы людей привыкли узнавать новости из социальных сетей, не проверяя источники, и это делает интернет идеальной площадкой для дезинформации и манипуляции общественным мнением. А самый простой способ борьбы, как всегда, — запретить.

Одна из обсуждаемых мер защиты — выделение «американского» сегмента интернета и обособление его от остального мира. Файрволы, отгораживающие США, уже существуют, но пока они блокируют лишь небольшое число ресурсов, обычно связанных с преступностью или терроризмом. Однако в будущем это может измениться. Подобные дебаты ведутся также в Великобритании, ЕС, арабских странах...Возможен и альтернативный сценарий — отделиться от «нежелательной» страны, например, закрыть юзерам с российскими IP-адресами доступ к американским сайтам, а то и вовсе попытаться отобрать у России национальные домены. Таким сценарием пугал российских пользователей советник президента Герман Клименко. Но этот путь чреват проблемами. В современном мире установление «заглушки» между сетями двух стран равносильно началу экономической войны. США придётся либо вводить «белые списки» для банков и подобных серверов, либо, опять-таки, создавать структуру мониторинга контента по образцу китайской. Кроме того, в России действуют не только местные, но и иностранные провайдеры, которых придётся блокировать отдельно.Но главное — для борьбы с пропагандой это неэффективно. Ничто не мешает вести её с территории любого другого государства — достаточно иметь там хоть один удалённый сервер. Даже если США начнёт с блокировки России, им быстро станет ясно, что эффективнее закрыться от мира со своей стороны и контролировать трафик «на входе». После того как интернет начнёт политизироваться, остановить этот процесс будет сложно.

Сейчас перспектива распада глобальной Сети на национальные сегменты (так называемая балканизация интернета) стоит остро как никогда, потому что власти стремятся контролировать информацию, которую получают граждане. И если несколько государств обособят свои сегменты интернета, остальные будут вынуждены последовать их примеру. Иначе их граждане окажутся открыты для манипуляций соседей, а возможности для ответных мер не будет.В общих чертах это напоминает историю радио. В первые десятилетия после изобретения радиоприёмника казалось, что новая технология сотрёт границы и объединит человечество. Но вскоре государства взяли радиоволны под контроль. Сейчас они попытаются проделать то же с интернетом.

Война — это мир

Технически подкованные пользователи при упоминании интернет-цензуры усмехаются. Мол, даже если государства сделают свои сегменты Сети «суверенными», всё равно останется масса способов обходить блокировки. Но если ограничение можно обойти, это не значит, что оно не работает. Не стоит забывать: цензура нацелена на контроль над массами, а не над индивидуумами. Вопрос в том, какой процент людей готов и способен с ней бороться.Ограничение информации в любую эпоху не было абсолютным. Когда запрещали книги, появлялся самиздат. В СССР «глушилки» блокировали зарубежные радиостанции, но желающие их всё равно ловили. В 1980-е число советских слушателей «Голоса Америки» оценивали в 30 миллионов — более 10% населения! Но остальные 90% не могли или боялись слушать запрещённые передачи.

Мы наблюдаем похожую ситуацию в Китае. «Золотой щит» можно обойти, но это требует технических познаний и готовности пусть и незначительно, но нарушить закон. И даже после обхода «нежелательные» сервисы работают медленно. Потенциально любой заблокированный сайт можно увидеть, но сама необходимость обходить блокировки снижает посещаемость, иногда — очень сильно. Яркий пример — запрет российских соцсетей на территории Украины. Миллионы пользователей научились обходить блокировки, но всё-таки не все — украинская аудитория этих сайтов упала на 50-60%.Важно понимать: эта борьба не закончится никогда. Граждане продолжат создавать новые площадки для высказывания, искать способы обхода блокировок. А государства продолжат вкладывать деньги и силы в то, чтобы совершенствовать методы цензуры. Ни одна из сторон не может создать «абсолютное оружие», которое раз и навсегда даст властям контроль над информацией или уничтожит цензуру как факт.Если наше будущее станет развиваться по худшему сценарию, то в ближайшие годы по всему миру будут вкладывать огромные деньги в новые разработки, которые позволят цензурировать нежелательный контент в интернете. Технические решения будут дополняться законами, которые могут деформировать и изменить саму Сеть.Станет ли контроль государств над интернетом стопроцентным? Нет. Даже в современной КНДР есть люди, имеющие незаконный доступ в мировую паутину. Но это начнёт новый виток борьбы между государством и обществом, которой не будет конца.

Свобода — это возможность сказать, что дважды два — четыре

Впрочем, цензура никогда не сводилась к техническим и юридическим запретам. Помимо подпольных типографий и домашних приёмников, государству приходилось бороться с иносказаниями, намёками, шутками и прочими способами замаскировать «неугодное» высказывание. Эта борьба продолжится и в эпоху интернета, причём, как и раньше, вести её будут люди, а не машины.На первый взгляд, автоматизировать процесс цензуры в современном мире просто. ИИ уже способен не только выделять в тексте ключевые слова, но и понимать общую мысль, идентифицировать объекты на картинках и в видео, распознавать, что именно говорят люди на аудиозаписях. «Золотой щит» постоянно совершенствует алгоритмы, позволяющие автоматически анализировать контент страниц. Но количество цензоров, или «аудиторов», которые просматривают отдельные страницы и решают, стоит ли запрещать тот или иной ресурс, только растёт. Машины просто не успевают за изобретательностью пользователей.Типичной проблемой аудиторов стала необходимость разбираться в сложных многослойных мемах, которые популярны в Китае не меньше, чем в остальном мире. Результатом этой «войны» стал недавний запрет на изображения... диснеевского Винни-Пуха.

Пользователи китайской Сети и раньше сравнивали главу КНР Си Цзиньпиня с медвежонком. Но в 2018 году руководство страны изменило Конституцию, позволив Си остаться у власти на неограниченный срок. Одной из реакций на эту непопулярную меру стали массовые публикации кадров из мультика про Винни-Пуха, в частности, Винни в короне или обнимающего горшочек мёда со словами: «Найди вещь, которая тебе нравится, и держись за неё».К этим картинкам не было комментариев — все и так всё понимали. Так что модераторы Weibo — китайского аналога Twitter — просто запретили картинки с Винни-Пухом, чтобы пресечь поток остроумия на корню. А пару дней в Weibo нельзя было даже опубликовать отдельно стоящую латинскую букву N — видимо, чтобы предотвратить математические шутки в духе «n > 2», где n — количество сроков Си Цзиньпина.Эти случаи — часть общей проблемы, стоящей перед цензурой. Человеческий язык формируется случайно, он лишён единой внутренней логики, которую можно заложить в машину. Невозможно предугадать, что медвежонок, краб или лягушонок станут эвфемизмами для главы государства, а бумажный самолётик или резиновая уточка — символами оппозиции. Это не значит, что прогресс не влияет на цензуру; новые технологии позволяют собирать и систематизировать информацию, распространяя решения цензора на сотни и тысячи текстов. Но пока в мире не появится полноценный «сильный» ИИ, способный улавливать все тонкости смыслов в языке, властям понадобятся услуги живых цензоров.

Кто управляет настоящим, тот управляет прошлым

На первый взгляд, цензура XXI века не так уж отличается от прежней. Государства продолжают пытаться взять под контроль средства распространения информации с помощью технических, юридических и чисто бюрократических мер, а люди ищут способы их обходить. Такая игра в кошки-мышки идёт в мире уже много десятилетий. Неограниченная свобода интернета и лёгкость обмена информацией в Сети оказались исключением, которое теперь может быть «исправлено»Но кое-что в новом столетии изменится принципиально: пропаганда. Пропаганда и цензура давно были двумя сторонами одной медали: власти стремились не только ограничить запретную информацию, но и распространить одобряемую. В истории бывали случаи, когда эти две стороны сливались воедино. Интернет позволяет достичь в этом новых высот.Мы всё больше зависим от Сети при поиске информации. И не задумываемся, что поисковики и соцсети управляются людьми, у которых есть свои взгляды и интересы. Доверие к «традиционным» СМИ падает, но в поисковиках пока никто не сомневается. Когда человеку нужно проверить факт, он использует поисковик, тем самым доверяя коммерческой компании формировать его картину мира.

В итоге каждый пользователь рискует оказаться в личном «информационном пузыре». «Умные» ленты соцсетей выдают только те посты, которые считают интересными для вас — или которые им нужно. Поисковики настраивают результаты с учётом истории запросов и местоположения пользователя. В итоге каждый получает ту информацию, которую ему позволяет получить владелец ресурса. А если власти крупных стран займутся Сетью всерьёз, к коммерческой рекламе может добавиться цензура или пропаганда через поисковики.Ориентиром тут опять же служит Китай. Там уже сделан первый шаг — цензура поисковой выдачи. Если вы введёте в основную китайскую поисковую систему Baidu нежелательные запросы, результат будет нулевым. Вы не найдёте даже заблокированные или медленно работающие страницы — интернет будет отрицать, что сам ваш запрос имеет смысл.Конечно, в случае с актуальными или широко обсуждаемыми темами такой грубый способ не сработает. Но если речь идёт о мелком происшествии или давних событиях (вроде волнений на площади Тяньаньмэнь в 1989 году), отсутствие информации может заставить пользователя усомниться в их реальности, даже если он слышал о них, например, от родителей.

Пока что Китай остановился на этом, но легко можно представить следующий шаг. При участии всё тех же поисковых систем власти будут «заменять» нежелательные факты, выдавая «правильную» версию событий на первой странице поисковика. Тут-то прогресс и даст о себе знать. Многие эксперты уверены, что скоро ИИ сможет писать простые новостные заметки, лишённые аналитики или авторского стиля, не хуже обычных людей, обеспечивая молниеносную реакцию на любую новость.А если это не работает, к услугам властей есть «армии троллей» — наёмных комментаторов. Они могут создать иллюзию общественного мнения, переполнить сеть постами на нужную тему, а сообщения с неугодной точкой зрения окажутся на десятой, двадцатой или сотой странице поиска. Запретные ресурсы даже не нужно удалять или блокировать — до них просто никто не доберётся. Пропаганда и цензура в этом случае сливаются в единый институт государственного контроля над информацией через управление поисковыми системами.

Это будущее не гарантировано. Цензура всегда была лишь проявлением политики, она не возникает сама по себе. Но сейчас мы видим, как государства по всему миру стремятся усилить контроль над Сетью. Да, они находятся на разных этапах — пока в США спорят, можно ли цензурить рекламу в соцсетях, в Китае неугодные соцсети блокируют полностью. Но общая тенденция не вызывает сомнений. И стоит быть готовыми к тому, что власти не всегда будут действовать так же неуклюже, как при борьбе с неугодными мессенджерами.