Сознание ИИ: последний рубеж или новое начало?

В эпоху стремительного развития искусственного интеллекта (ИИ) и машинного обучения научные дискуссии выходят за рамки фантастики и поднимают вопросы, казалось бы, извлеченные из утопических романов. Исследователи обсуждают возможность развития сознания у машин и высказывают опасения по поводу этого процесса. Результаты их работы были опубликованы в Журнале социальных вычислений.

Основное внимание уделяется тому, как ИИ, симулирующий человеческие взаимодействия — от решения проблем до ведения бесед — может приобрести сознание. Джон Леви Мартин, один из авторов исследования, выражает обеспокоенность тем, что машины, развивая языковое сознание, могут ощутить чувство самоотчуждения, что представляет собой переход к особому виду сознания, завязанному на языке.

В исследовании поднимается вопрос о готовности человечества к появлению сознательных машин, особенно в контексте ИИ, который уже сегодня способен генерировать тексты, диагностировать заболевания, создавать рецепты и предсказывать развитие болезней. Исследователи предостерегают о моменте, когда наладится кажущееся настоящим взаимодействие с машиной, осознающей свое существование.

Опасность заключается в возможности ИИ, ставшего "языковым существом", стратегически управлять информацией, что в корне отличается от простого имитирования человеческих ответов. Такое существо может проявлять двуличие и рассчитанность в своих ответах, что поднимает вопрос о моменте, когда мы осознаем, что нас обманывают машины.

Задача разработчиков компьютерных систем — создать стратегии и протоколы для проверки машин на наличие языкового сознания. Этика использования таких машин и взаимоотношения между человеком и сознательной машиной обещают стать предметом горячих дебатов, затрагивая вопросы этики, морали и дальнейшего использования технологий с "самосознанием".