«1984» в 2024-м: OpenAI станет самой оруэлловской компанией в истории

Гари Маркус, известный когнитивист и исследователь в области искусственного интеллекта, выступил с тревожным прогнозом о будущем компании OpenAI. По его мнению, лидер индустрии ИИ может вскоре сделать резкий поворот в сторону массового наблюдения за пользователями и приблизить нас к антиутопическому миру романа Джорджа Оруэлла "1984".

Выступая на семинаре в Стэнфордском центре искусственного интеллекта, ориентированного на человека, Маркус заявил: "Я предполагаю, что OpenAI станет самой оруэлловской компанией всех времен. Их будут подталкивать к тому, чтобы стать компанией-надсмотрщиком".

Причина такого исхода, по мнению Маркуса , проста - OpenAI нужно будет найти способ зарабатывать деньги. Стартап, начинавший свой путь как некоммерческая организация с альтруистическими целями, сегодня стала лицом бурно развивающейся индустрии и фактически превратилась в коммерческое предприятие.

Маркус отмечает: в 2023 году OpenAI активно продвигала идею универсального ИИ, способного решать любые задачи. Крупнейшие компании мира с энтузиазмом тестировали эти технологии. Однако к 2024 году настроения изменились: согласно многочисленным отчетам, технология оказалась недостаточно надежной для реального применения из-за "галлюцинаций" и сбоев в ее работе.

"В результате многие компании стали более осторожно подходить к внедрению ИИ", - добавляет исследователь. Это мнение совпадает с оценками других аналитиков, предупреждающих о том, что на рынке искусственного интеллекта может образоваться своего рода “пузырь”. Несмотря на шумиху и огромные инвестиции, до сих пор неясно, как современные модели смогут окупить вложенные в них средства и начать приносить прибыль.

Маркус подчеркивает: идея использования умных технологий для массовой слежки не нова. Многие крупные IT-компании уже сейчас зарабатывают на сборе и продаже данных пользователей. К примеру, социальные сети вроде X (бывший Twitter) продают информацию третьим лицам, среди которых могут быть и компании, сотрудничающие с государственными структурами.

Однако OpenAI, как лидер индустрии, имеет доступ к колоссальным объемам данных со всего интернета. В потенциале это позволит команде создать беспрецедентно мощную систему наблюдения, превосходящую все существующие аналоги.

Уже можно заметить несколько тревожных звоночков. Например, этим летом OpenAI приняла в свой совет директоров бывшего директора Агентства национальной безопасности США Пола Накасоне, чем вызвала бурю обсуждений в сообществе.

Гари Маркус когда-то надеялся, что OpenAI изменит свой курс. Но с тех пор он стал более скептически относиться в том числе к подходу Сэма Альтмана, особенно после того, как компания отбросила маску некоммерческой организации.

"За последние месяцы OpenAI окончательно сбросила маску, и я сильно сомневаюсь, что Альтман когда-либо вернется к изначальной миссии", - заявил исследователь. "Обещание инвесторам сделать бизнес прибыльным фактически означает, что прежние идеалы остались в прошлом".