Ваш ИИ — патологический лжец, и Google это знает

В отрасли искусственного интеллекта продолжается период стремительных перемен, и разговоры вокруг надёжности современных моделей звучат всё громче. На фоне развития сервисов, соперничающих за внимание пользователей, руководство Alphabet подчёркивает необходимость более трезвого отношения к цифровым помощникам, которые становятся частью повседневных привычек.

Глава компании Сундар Пичаи в беседе с BBC отметил, что ИИ-модели нередко выдают неточные сведения, поэтому важно опираться на широкий информационный контекст, а не воспринимать ответы сервисов как безошибочный источник. По словам руководителя, именно поэтому компания сохраняет ориентир на традиционный поиск, где проверка сведений и их структурирование остаются ключевыми задачами. Он также напомнил, что творческие задачи ИИ решает уверенно, однако взаимодействие с моделями требует понимания их ограничений.

На фоне подготовки к запуску коммерческой версии Gemini 3.0 Google постепенно расширяет функции поиска, подключая к нему режим AI Mode. В нём используется Gemini, который создавался для диалоговой подачи информации. Появление таких возможностей Пичаи описывает как начало новой технологической стадии, когда поиск и генеративные алгоритмы работают в связке. Эти изменения отражают стремление удержать позиции на фоне растущей популярности конкурирующих систем.

BBC ранее изучала точность ответов различных чат-ботов на основе материалов собственного сайта и обнаружила заметное число ошибок в итоговых пересказах. В исследовании участвовали решения от OpenAI, Google, Microsoft и Perplexity AI, и выводы подтвердили, что современные генеративные системы иногда искажают факты. Пичаи соглашается, что развитие идёт быстрее, чем успевает создаваться комплекс мер безопасности, поэтому компания стремится сочетать высокие темпы внедрения с осторожным контролем рисков.

В Alphabet заявляют о росте вложений в защитные технологии пропорционально усилению работы над ИИ. Среди таких инициатив — открытая публикация инструментов, помогающих определять, создано ли изображение генеративной моделью. Обсуждая опасения, озвученные в прошлые годы Илоном Маском по поводу возможного доминирования одной структуры над ИИ-разработками, Пичаи отметил, что подобных угроз сейчас не наблюдается. По его словам, в экосистеме работает множество команд, и ситуация далека от монополии.