Темная сторона ИИ: искусственный разум может захватить контроль над подсознанием человека

Новый закон Европейского Союза об искусственном интеллекте может позволить ИИ получить доступ к нашему подсознанию.

Когда-то использование личных данных из постов миллионов пользователей Facebook и продвинутых аналитических данных для влияния на политические исходы в США и Великобритании казалось фантастикой. Но скандал с Cambridge Analytica в 2018 году показал, что это уже реальность. Этот инцидент подчеркнул новые этические вызовы, связанные с быстрым развитием технологий и машинного интеллекта.

Инициатива по защите "нейроправ", возглавляемая Фондом Neurorights, выступает за признание нового набора мер защиты от технического прогресса. Некоторые из них обсуждаются в контексте Закона об Искусственном Интеллекте, который сейчас рассматривается органами ЕС. Этот закон должен регулировать, в том числе, способность ИИ влиять на наше подсознание.

Игнаси Бельтран де Эредиа, декан юридического факультета Университета Оберта де Каталунья и автор книги "Искусственный интеллект и нейроправа", опубликовал статью о вызовах, с которыми мы сталкиваемся из-за прогресса ИИ, и оценил последний законопроект ЕС с точки зрения нейронауки.

Риски предоставления ИИ доступа к нашему подсознанию

По оценкам, только 5% деятельности человеческого мозга является сознательной. Оставшиеся 95% происходят на подсознательном уровне. Бельтран де Эредиа отмечает, что мы не контролируем эту огромную нейронную активность из-за сложного взаимодействия между сознательным и подсознательным.

Однако это не означает, что людей нельзя подсознательно повлиять. «Есть два способа, которыми ИИ может это делать», - объясняет он. «Первый - сбор данных о жизни людей и создание архитектуры решений, ведущей к определенному выбору. Второй - применение приложений или устройств для создания непреодолимых импульсов для нашего подсознания, чтобы генерировать импульсивные реакции на сублиминальном уровне».

(Неясные) пределы, предложенные ЕС

Новый регламент по искусственному интеллекту, который обсуждается в ЕС, стремится предвидеть будущие риски ИИ. Нынешний законопроект запрещает такие техники, только если они предназначены для манипуляции или обмана, значительно влияют на способность человека принимать осознанные решения и причиняют серьезный вред.

«По предложению, запрет на ИИ будет применяться, когда есть серьезный вред и человек делает что-то, чего иначе не сделал бы. Но это нереалистичный стандарт», - говорит Бельтран де Эредиа. Он подчеркивает, что мы уже подвергаемся вторжению на уровне, который был немыслим всего несколько лет назад, и общественность должна получить максимальную защиту. Наше подсознание представляет нашу самую личную сферу и должно быть полностью защищено от внешнего доступа.

Мозг остается загадочным органом, и хотя наука делает большие шаги в этой области, многое остается неизвестным о том, как его функционирование может быть затронуто определенными стимулами. «Нам нужно осознавать риск предоставления другим людям и компаниям доступа к нашему внутреннему миру на таких глубоких уровнях», - заключает он.