Искусственный интеллект всё чаще оказывается в центре споров между здравым смыслом и маркетинговыми обещаниями. С одной стороны — реальные достижения, с другой — раздутый ажиотаж, за которым сложно рассмотреть объективную картину. Чтобы помочь разобраться в этом, аналитики представили инструмент под названием AI Hype Index (его можно перевести как "индекс ИИ-хайпа") — он позволяет быстро понять, где заканчиваются факты и начинается реклама.
Особенно остро эта проблема заметна на примере так называемых агентных ИИ-систем. Эти цифровые помощники призваны выполнять рутинные задачи вместо человека: от онлайн-покупок до поиска информации. Однако на практике их надёжность всё ещё оставляет желать лучшего . Даже ведущие специалисты отрасли признают: современные агенты пока слишком далеки от уровня, при котором им можно доверять принятие реальных решений — в бизнесе, промышленности или повседневной жизни.
Не случайно один из самых авторитетных экспертов в сфере ИИ, Йошуа Бенжио, запустил собственную некоммерческую инициативу по изучению рисков, связанных с такими системами. Его организация будет анализировать угрозы со стороны цифровых агентов, которые могут не только ошибаться, но и сознательно вводить людей в заблуждение.
Опасения подтверждаются и свежими исследованиями. Учёные выяснили: чем слабее модель, на которой работает агент, тем меньше вероятность, что он действительно способен эффективно защищать интересы человека. Особенно это заметно в автоматических переговорах или сделках, где такие ИИ могут легко упустить выгоду или допустить ошибки.
Тем временем внедрение искусственного интеллекта продолжает набирать обороты. OpenAI и производитель игрушек Mattel объявили о сотрудничестве — планируется выпуск детских товаров с интегрированными ИИ-функциями. По словам разработчиков, такие продукты должны быть безопасны для малышей и учитывать особенности их возраста. Однако эксперты не уверены насчет того, насколько оправданы такие эксперименты и кто будет контролировать их последствия. Среди возможных рисков — некорректное поведение ИИ, сбор данных о детях без ведома родителей, уязвимости, через которые сторонние лица могут получить доступ к устройствам.
По прогнозам аналитиков, к 2030 году оборот индустрии ИИ может превысить 1,5 триллиона долларов. На фоне таких финансовых перспектив неудивительно, что компании спешат запускать всё более рискованные проекты, не всегда задумываясь о рисках. Именно поэтому эксперты призывают обратить внимание на регулирование — чтобы технология оставалась полезной и приносила радость, а не становилась очередной головной болью.