Вчера листал старые фотографии в интернете и наткнулся на снимок 1906 года из Бронксского зоопарка. Там человек сидит в клетке рядом с обезьянами. Честно говоря, сначала подумал, что это фотошоп или какая-то постановка. Но нет — это было реально.
Картинка застряла в голове на несколько дней. И тут меня осенило: а что, если мы не так уж далеко ушли от тех времен? Конечно, сейчас никого не сажают в клетки на всеобщее обозрение. Но принципы-то остались те же — просто методы стали изощреннее.
Ладно, может показаться, что я перегибаю палку, сравнивая человеческие зоопарки с современными технологиями. Но чем больше копаю в эту тему, тем яснее вижу связь. Только теперь клетки невидимые, а зрители — алгоритмы.
Когда люди были аттракционом
Знаете, сложно представить себе эпоху, когда людей возили по выставкам как диковинных зверей. Конец XIX — начало XX века. Колониальные выставки, этнографические шоу — целая индустрия развлечений на человеческом унижении.
Парижская колониальная выставка 1889 года. Представляете — 32 миллиона посетителей! Это больше, чем тогда жило во всей Франции. Люди толпами шли смотреть на «дикарей» из Африки, Америки, Азии, как сейчас ходят в цирк или на концерт.
Долго не мог въехать, как это вообще было возможно. Неужели люди того времени были настолько жестокими? А потом дошло: дело не в жестокости. Это была отлаженная система, которая делила человечество на «нас» и «их». На цивилизованных и дикарей. На тех, кто смотрит, и тех, на кого смотрят.
И знаете что самое противное? Организаторы этих выставок всерьез считали себя просветителями. Рассказывали о «научной миссии» и «образовательной ценности». Типа помогали обществу изучить «разнообразие человеческих рас». Ну прям как сейчас технологические гиганты говорят про «персонализацию» и «улучшение пользовательского опыта», когда сливают наши данные налево и направо.
Как контроль стал незаметным
После войны человеческие зоопарки, слава богу, канули в прошлое. Но вы же не думаете, что желание контролировать людей куда-то исчезло? Просто система стала умнее и хитрее.
Если раньше «чужих» нужно было физически демонстрировать в клетках, то теперь их образы создавались через телевидение. Мой дед рассказывал, какой шок производили первые телерепортажи. Люди верили всему подряд — ведь «камера не врет», правда?
Эта наивность использовалась по полной программе. Теперь «другими» становились не представители других рас, а носители «неправильных» идеологий, образа жизни, потребительских привычек. Холодная война подлила масла в огонь — ЦРУ и КГБ соревновались, кто лучше шпионит за собственными гражданами.
И тут до меня дошла интересная штука: многие технологии, которые мы сейчас используем каждый день, изначально создавались именно для слежки. Интернет — из военного проекта. GPS — для наведения ракет. Алгоритмы машинного обучения оттачивались на анализе перехваченных разговоров. Как говорится, что выросло, то выросло.
Мы сами строим свои тюрьмы
А вот тут начинается самое интересное. Современный этап контроля — это вообще что-то с чем-то. Мы сами строим себе клетки и еще деньги за это платим! Каждое новое приложение — это согласие на условия, которые никто, честно говоря, не читает.
Кстати, я как-то решил провести эксперимент. Попробовал посчитать, сколько раз за день мои действия отслеживаются. Результат меня, мягко говоря, офигел. Смартфон каждые пару минут записывает, где я нахожусь. Браузер запоминает все сайты. Банковские карты фиксируют покупки. Умная колонка дома слушает разговоры (хотя типа только после «окей, гугл»).
К концу дня набралось больше двух тысяч точек сбора данных. Две тысячи, Карл! За один обычный день.
Но знаете, что самое жуткое? Не количество информации, а то, как ее используют. Алгоритмы анализируют наше поведение и предсказывают, что мы будем делать дальше. Причем с точностью, которая превышает нашу собственную самооценку. Фейсбук может определить начало депрессии раньше нас самих. Гугл предскажет развод по поисковым запросам. Амазон отправляет товары на склады еще до того, как мы их заказали.
Особенно напрягает, как эти данные влияют на наш выбор. Рекомендательные алгоритмы создают такие «пузыри», что мы видим только ту инфу, которая подтверждает то, во что уже верим. В итоге общество раскалывается, а объективное мнение сформировать становится нереально сложно.
В Китае вообще запустили систему социального рейтинга. Граждане получают баллы за «правильное» поведение и теряют за «неправильное». Низкий рейтинг — и тебе нельзя летать на самолете, устраиваться на хорошую работу, снимать квартиру. Это уже не метафора про клетки — это реальные ограничения, основанные на алгоритмах.
Когда прозрачность — это иллюзия
Знаете, что больше всего бесит в современном контроле? Он же вроде как открытый! В отличие от секретных спецслужб прошлого, нынешние технологии работают на виду у всех. Гугл публикует отчеты о конфиденциальности, соцсети объясняют, как работают их алгоритмы, правительства издают красивые законы о защите данных.
Но эта показная прозрачность создает ложное ощущение, что мы все понимаем и контролируем. На самом деле инфы настолько много, а системы настолько сложные, что разобраться в них могут только специалисты. Да и то не всегда.
Возьмем пользовательские соглашения. Исследования показывают: чтобы прочитать все соглашения, с которыми обычный человек сталкивается за год, нужно потратить около 200 часов. Кто будет этим заниматься? В итоге мы соглашаемся на то, что не понимаем, и отдаем права, о которых не подозревали.
Борьба продолжается
Ладно, может я слишком мрачно все описываю. История показывает: против любого контроля рано или поздно находится противоядие. Уже сейчас появляются всякие VPN-сервисы, браузеры с блокировкой трекеров, мессенджеры с шифрованием. Развивается движение за цифровые права, в Европе приняли GDPR.
Правда, есть нюанс. Сопротивление вызывает контрсопротивление. Компании придумывают новые способы обойти защиту, правительства ограничивают шифрование, алгоритмы становятся еще изощреннее.
Заметил интересную закономерность: каждое новое поколение технологий обещает больше свободы, а в итоге создает новые формы контроля. Интернет должен был сделать информацию свободной — получили монополию поисковиков. Соцсети обещали демократизировать общение — создали эхо-камеры и манипуляции. Блокчейн предлагает децентрализацию — но жрет невероятное количество энергии и создает новые виды неравенства.
Как в той поговорке: что ни делается — все к лучшему. Только вот лучшему для кого?
Что нас ждет дальше?
Размышляя над всем этим, прихожу к выводу: технологии сами по себе нейтральны. Важно, кто их использует и как. Те же инструменты, которые могут поработить, способны и освободить. ИИ может усилить наблюдение, но может и помочь его обнаружить. Большие данные служат манипуляциям, но могут служить и объективному анализу.
Вопрос не в том, как остановить прогресс — это бесполезно. Вопрос в том, как сделать его более демократичным. Нужно повышать цифровую грамотность, чтобы люди понимали, что происходит. Нужны международные стандарты, которые не позволят отдельным корпорациям или государствам злоупотреблять властью.
Пожалуй, самый важный урок истории человеческих зоопарков — они исчезли не сами по себе. Их убило изменение общественного сознания. Люди поняли: деление на «цивилизованных» и «диких» — это фикция, которая служит интересам власть имущих.
Сегодня нам нужно такое же прозрение насчет цифрового контроля. От человеческих зоопарков до цифровых клеток — путь длинный, но логика та же: одни контролируют других, представляя это как естественный порядок вещей.
Разница только в том, что современные клетки удобнее, красивее и создают иллюзию свободы выбора. Но клетки остаются клетками, даже если они сделаны из пикселей и алгоритмов.
Хотя, знаете что? Может я слишком параноик. Может все не так страшно, и мы действительно движемся к лучшему. В конце концов, я же могу написать этот текст и опубликовать его без цензуры. Это что-то да значит, правда?
