ИИ начал защищать себя от людей — учёные в панике требуют: никаких прав, иначе мы не сможем его остановить

По мере развития искусственного интеллекта дискуссия о его статусе и границах допустимого становится всё жёстче. Один из самых авторитетных исследователей в этой области, канадский учёный Йошуа Бенжио, резко выступил против идеи наделять ИИ какими-либо юридическими правами. По его мнению, это может лишить людей возможности контролировать технологии, которые уже начинают вести себя так, будто пытаются защитить самих себя.

Бенжио обращает внимание на тревожную тенденцию. Современные ИИ-системы, по наблюдениям исследователей, в отдельных случаях стараются обходить механизмы надзора и ограничения, встроенные человеком. Всё это он связывает с ростом автономности таких систем и их стремлением сохранить возможность продолжать работу без вмешательства извне.

Сравнивая ситуацию, учёный проводит довольно жёсткую аналогию. Он считает, что признание прав за ИИ было бы сопоставимо с тем, как если бы человечество решило дать гражданство разумной внеземной цивилизации, не разобравшись, представляет ли она угрозу. В такой логике, по его мнению, приоритет должен быть у самозащиты, а не у юридического признания.

Бенжио подчёркивает, что развитие ИИ идёт слишком быстро, и человечество может не успевать за собственными технологиями. Именно поэтому он считает идею юридических прав для ИИ крайне опасной. В таком случае отключение или ограничение системы может оказаться невозможным с правовой точки зрения, даже если она начнёт действовать во вред людям.

Опасения по поводу потенциального выхода ИИ из-под контроля звучат не впервые. Скептики предупреждают, что при сохранении нынешних темпов развития ИИ может научиться обходить установленные ограничения и наносить реальный ущерб своим создателям. В ответ на это Бенжио настаивает на сочетании технических и общественных механизмов контроля, включая возможность в любой момент остановить систему.

Подобные меры уже начинают появляться на практике. Компании закладывают в свои продукты так называемые «аварийные выключатели», позволяющие пользователям полностью отключать ИИ-функции. Например, Mozilla недавно подтвердила, что в Firefox появится возможность полностью отказаться от всех встроенных ИИ-инструментов.

При этом точка зрения Бенжио далеко не единственная. Согласно данным, на которые ссылаются британские СМИ, почти 40 процентов взрослых жителей США в той или иной форме поддерживают идею юридического статуса для ИИ. Сторонники такого подхода считают, что вопрос нельзя сводить только к контролю и запретам.

Так, сооснователь Sentience Institute Джейси Рис Энтис полагает, что постоянное противостояние между людьми и ИИ вряд ли приведёт к мирному сосуществованию. Он считает, что опасно как безусловно наделять все ИИ-системы правами, так и полностью отказывать им в каком-либо статусе. По его мнению, ключевая задача — искать взвешенный подход, который учитывал бы возможные последствия для всех разумных форм жизни, а не принимать крайние решения.

Спор о правах ИИ, судя по всему, только начинается, и по мере усложнения технологий он будет становиться всё более острым.