Фейсбук как мировой цифровой полицейский

«Мы отвергаем королей, президентов и выборные власти. Мы верим в простое согласие и коды запуска», – провозглашал компьютерный исследователь Дэвид Кларк в 1992 году.

Так тогда понималось свободное государство, функционирование которого определялось бы не институтами и учреждениями, а программным кодом.

Пионеры компьютерной эры вдохновлялись идеей, что государственное управление может осуществляться автоматизированными процессами посредством информационных технологий.

Сегодня, когда в социальной сети Фейсбук зарегистрировано два миллиарда пользователей ( больше чем католиков в мире) она, также как и Твиттер, Гугл и другие, представляет собой именно такое, управляемое программным кодом большое сообщество.

Более того, с каждой новой модификацией алгоритма это управление все более ужесточается, превращаясь постепенно в полное доминирование.

Так, Фейсбук уже сам , абсолютно авторитарно решает, где должны проходить культурные границы и насколько велика может быть свобода мнений.

Удаляются и блокируются «слишком резкие» записи и комментарии, произведения искусства и фото культурных объектов. Например, обнаженные античные статуи цензурируются по соображениям приличия и норм общественной морали.

Установленные сетью «Нормы сообщества», фактически представляют собой билль о правах его пользователей, дарованных им самовластным актом Фейсбука.

Марк Цукерберг однажды заявил: «Во многих отношения «Фейсбук» является больше правительством, чем компанией.

У нас большое Сообщество пользователей и мы более жестко, чем обычные технологические компании диктуем им свою политику».

Политолог Алексис Виховски из Колумбийского университета в США отмечает, что «подобно тому как национальные государства представляют собой красочный букет из разных цветов, так эквивалентно по-разному проявляется власть таких разного рода сетей.

Некоторые из них, такие Google, Twitter или Facebook., являются настоящими сверхдержавами, другие представляют собой военизированные образования, как, например, сеть GhostSec – киберсеть созданная специально для борьбы с ИГИЛ (Запрещенная в России организация).

Наконец третьи, такие как Анонимус или Википедия, выглядят хакерски ориентированными вольными республиками».

Но, независимо от своих различий, все они обладают тремя основными характеристиками: они существуют в интернете, обладают интернациональным составом пользователей и следуют своим собственным правилам.

«Миру нужны сетевые государства, поскольку они займут ту территорию, на которой действую негосударственные факторы: цифровую сферу»., – считает американская исследовательница.

«И чтобы выигрывать в цифровую эпоху войны национальные государства должны признать сетевые государства».- уверена Алексис Виховски. «Негосударственные акторы» в данном контексте это, прежде всего, террористические группы.

Сетевые корпорации уже начинают осознавать свою фактически государственную власть. Так, недавно, Фейсбук, Майкрософт, Твиттер и Youtube создали единый антитеррористический альянс, глобальный интернет-форум для борьбы с распространением в их сетях террористической информации.

Итак дана проблема: террористы используют такие сервисы как Youtube или Фейсбук для пропаганды своих идей.В свою очередь политики усиливают давление на сетевые корпорации, требуя от них удалять материалы содержащие призывы к насилию.

Youtube и Фейсбук уже используют систему позволяющую автоматически блокировать или удалять подобные материалы, своего рода алгоритмическую полицию.

Алгоритмы, которые изначально использовались для идентификации материалов и нарушений авторского права, ищут что-то вроде цифрового отпечатка каждой публикации, затем эти «отпечатки» сопоставляются с текстом публикации или содержанием видеоматериала.

Правда, такой метод работает только в том случае, если материал уже опубликован. Согласно докладу, опубликованному в New York Times, Youtube и Фейсбук активно используют эту технологию для гашения тысяч террористических сообщений, включая, например, видеообращения террористов уже совершивших свои теракты.

Однако, как определить подлинного террориста? Как может машина отличить вымысел от реальности? Не приравняют ли алгоритмы произведения искусства к пропагандистским материалам экстремистов?

И что произойдет если подобный алгоритм идентифицирует, например, действия художника-акциониста как теракт? По сути дела, терроризм это- тоже социальная конструкция, чье функционирование в большой степени определяется четкими алгоритмами.

Это вопросы, которые алгоритмическая полиция решить не в состоянии, наоборот ее действия только подчеркивают эти противоречия.

Кроме того, алгоритм не распознает с какой целью тот или иной пользователь знакомится с той или иной информацией, например с материалами об ИГИЛ.

Сетевые действия ведущего расследование на своем сайте журналиста и организующего свою акцию террориста могут восприниматься и оцениваться алгоритмом как совершенно одинаковые.

Поэтому глобальный интернет-форум, организованный ведущими мировыми социальными сервисами больше выглядит как приватизация ими военной и полицейской власти.

Когда социальные сетевые платформы используются как авангард борьбы с терроризмом, они берут на себя полномочия сами определять кто террорист, а кто нет.

В результате граждане могут попадать с в списки террористов сами того не зная и сталкиваться в последствии с трудностями, которых не ожидали.

Так что может все-таки лучше доверять выборам и институтам, чем программному коду?