Автор: Николай Гончаров, директор департамента мониторинга кибербезопасности Security Vision
Искусственный интеллект перестал быть просто перспективной технологией, которая обсуждается в контексте будущих возможностей. За последний год ИИ преодолел важный этап взросления – от первых экспериментов и пилотов он перешел в разряд рабочих инструментов, которые компании внедряют в реальные бизнес-процессы. Особенно ярко этот сдвиг заметен в сфере информационной безопасности, где ИИ из вспомогательной функции постепенно превращается в неотъемлемую часть архитектуры защиты.
Вместе с тем растут и риски, и вопросы, на которые рынку еще предстоит найти ответы. Как обеспечить доверие к моделям, которые принимают решения за человека? Как защитить сами AI-системы, которые становятся новой целью для злоумышленников? Где проходит грань между автоматизацией и необходимостью человеческого контроля? В этой статье я делюсь своим взглядом на ключевые направления развития ИИ, технологические тенденции ближайшего года и те вызовы, которые стоят перед индустрией сегодня.
Прогноз рынка и переход к промышленному внедрению
Рынок ИИ в России продолжит расти достаточно быстро, но уже более прагматично за счет массового внедрения технологий в корпоративном секторе и государственном управлении. Период экспериментов заканчивается. Начинается этап промышленного внедрения и масштабирования успешных пилотных проектов. Компании активно запускают корпоративные ассистенты, системы автоматической генерации текстов и кода, интеллектуальные сервисы поддержки клиентов и аналитики.
Чтобы обучать и использовать модели, компаниям нужны мощные вычислительные ресурсы. Это требует существенных инвестиций в оборудование, инфраструктуру и программное обеспечение. Важная особенность следующего этапа, которую я наблюдаю, заключается в активном внедрении ИИ в системы кибербезопасности. Чем больше бизнес цифровизируется и использует автоматизацию, тем сильнее растет потребность в интеллектуальных инструментах защиты. Сектор информационной безопасности демонстрирует один из самых высоких потенциалов роста и стабильности спроса в текущих экономических условиях.
Кто формирует спрос: отрасли и функции
Спрос на ИИ-решения сегодня имеет четкую отраслевую структуру. Пять секторов экономики задают основной вектор развития технологий в последние годы:
- Финансовый сектор (банки и финтех): скоринг, антифрод, анализ транзакций, автоматизация клиентских сервисов и персонализация предложений.
- Телеком и ИТ-компании: анализ сетевого трафика, управление инфраструктурой, автоматизация поддержки клиентов и повышение эффективности цифровых сервисов.
- Кибербезопасность: анализ событий безопасности, выявление аномалий, автоматизация расследования инцидентов, сокращение времени обнаружения, уменьшения ложных сработок и блокировок, а также противодействие новым типам атак, включая те, где злоумышленники сами используют ИИ.
- Ритейл и e-commerce: прогнозирование спроса, управление запасами, динамическое ценообразование, рекомендательные системы и автоматизация клиентской поддержки.
- Промышленность и производство: предиктивная аналитика, мониторинг оборудования, оптимизация производственных процессов и компьютерное зрение для контроля качества.
Многие пилоты уже прошли проверку и начинают внедряться в промышленную эксплуатацию. Чаще всего это проекты, где эффект легко измерить и можно быстро окупить инвестиции. Например, в кибербезопасности ИИ отлично работает для автоматизации анализа больших объемов событий, выявления аномалий, приоритизации и расследования инцидентов.
Драйверы и барьеры внедрения
Каждый проект внедрения ИИ всегда требует компромисса между амбициями и реальностью. С одной стороны, бизнес подстегивают очевидные выгоды, с другой – останавливают вполне обоснованные опасения. Если ранжировать ключевые факторы по убыванию важности, картина выглядит следующим образом.
Среди драйверов внедрения на первом месте стоит активное развитие генеративных моделей и повышение доступности этих технологий. Далее следуют экономическая эффективность и автоматизация процессов, дефицит квалифицированных кадров. Замыкают пятерку рост объема данных и сложность их анализа, а также конкурентное давление и цифровая трансформация.
В числе барьеров лидируют риски и вопросы безопасности, за ними идут качество и доступность данных, затем высокая стоимость инфраструктуры. Также компании сталкиваются с дефицитом квалифицированных специалистов и сложностью интеграции в существующие ИТ-системы.
При этом за год я заметил важные сдвиги. Заметно ослаб барьер доступности технологий, сами инструменты стали проще в использовании. На рынке появилось больше специалистов и интеграторов, которые умеют реализовывать ИИ-решения. Это резко снизило порог входа, и многие компании могут внедрять ИИ быстрее и дешевле.
Но сильно вырос спрос на вычислительные ресурсы, что привело к их дефициту и существенному росту стоимости. Также усилились вопросы кибербезопасности и управления рисками. Компании начинают гораздо серьезнее относиться к защите данных, использованию внешних AI-сервисов и контролю над тем, как модели принимают решения. Появляются риски утечек данных через ИИ-инструменты и новые типы атак. Кроме того, для масштабного использования ИИ большинству компаний нужно перестраивать внутренние бизнес-процессы, что также создает существенный барьер.
Технологические тенденции и практическая польза
Анализируя развитие рынка, я выделяю несколько ключевых технологических тенденций, которые определят ландшафт в текущем году года:
- Использование ИИ в кибербезопасности. Меняется технологическая архитектура систем защиты. Алгоритмы машинного обучения и генеративные модели становятся частью ядра систем безопасности, что усиливает возможности защиты инфраструктуры. Отдельно сами AI-системы превращаются в новый объект защиты и требуют отдельной архитектуры.
- Локализация и развитие собственных моделей. Это ведет к повышению технологического суверенитета и снижает зависимость от зарубежных технологий.
- Использование генеративных моделей в корпоративных и государственных сервисах. Внедрение этих технологий позволяет оптимизировать внутренние бизнес-процессы, снизить издержки и повысить эффективность.
- Использование
мультимодального ИИ. Это
один из ключевых технологических трендов, поскольку реальные бизнес-процессы
редко ограничиваются одним типом данных. Компании работают одновременно с
текстами, изображениями, видео, голосом и телеметрией, поэтому технологии,
которые могут анализировать всё это вместе, становятся особенно
востребованными. Если говорить о кибербезопасности, то тут объединяется работа
с разными типами данных, такими как текстовые логи, сетевой трафик, данные из
различных СЗИ, а также иногда аудио- или видеоинформация. Мультимодальные
модели помогают быстрее выявлять сложные инциденты, когда атака проявляется
сразу в нескольких источниках данных. Как яркий пример можно привести
использование в работе центров мониторинга кибербезопасности, где
обрабатывается огромное количество разного рода информации, и борьбу с фишинговыми
и мошенническими компаниями, а также с дипфейками и фальсификациями
медиаданных.
- Переход
от пилотов к промышленному внедрению. Проекты, которые были запущены ранее, сейчас масштабируются и
интегрируются в реальные бизнес-процессы.
- Рост инвестиций в технологии и инфраструктуру. Это ведет к повышению общих вычислительных мощностей, которые позволяют масштабировать использование ИИ.
- Внедрение корпоративных ассистентов для работы с внутренними базами знаний организаций. Смысл таких систем в том, что модель не использует свою память, а сначала ищет релевантную информацию в корпоративных базах (документации, регламентах, отчетах) и уже на основе найденных сведений формирует ответ. Основные сложности возникают из-за неоднородности структуры информации, качества ответов и борьбы с возможными галлюцинациями в них, а также из-за необходимости контроля доступа. Модель должна понимать, какие документы может видеть конкретный сотрудник и защищена от различного рода атак, включая промпт-инъекции.
Отмечу, что вопреки распространённому мнению, ИИ не заменяет сотрудников, а усиливает их и повышает их экспертность, забирая на себя рутину, первичный анализ и обработку. Экономический эффект достигается не столько за счёт сокращения штата, как упрощённо принято считать, а из-за повышения производительности труда, ускорения бизнес-процессов, снижения стоимости операционных издержек, уменьшения количества ошибок.
Доверие, безопасность и регулирование
Обратная сторона массового внедрения ИИ – это появление новых типов угроз. Сегодня заказчики сталкиваются с пятью наиболее критичными рисками:
- Новые типы кибератак с использованием ИИ.
- Утечка конфиденциальных данных.
- Уязвимости в архитектуре самих AI-систем.
- Недостоверные ответы и галлюцинации в них.
- Зависимость от внешних облачных сервисов и их инфраструктуры.
При внедрении ИИ-систем существует набор обязательных мер безопасности и контроля, которые нельзя игнорировать. Компании должны изначально закладывать архитектуру безопасности, мониторинга и управления рисками. Необходимо обеспечить защищенный контур использования моделей. Нужно четко определять, какие данные могут передаваться в модель, а какие нет. В ответах модели надо включать фильтрацию чувствительной информации с соблюдением корпоративных политик, в частности обеспечить защиту персональных данных. Следует выстроить грамотное управление доступом пользователей к AI-инструментам. Пользователи не должны получать через систему информацию, к которой у них нет доступа в обычных корпоративных системах.
Чтобы исключить выдачу недостоверных ответов, необходимо внедрить дополнительные механизмы верификации. Все взаимодействия с такими системами надо фиксировать и логировать. Компании должны на регулярной основе проводить оценку безопасности работы систем, использующих технологии ИИ, отслеживать метрики, проводить тестирование на возможные уязвимости и регулярно обновлять модели и правила безопасности.
Дипфейки и мошенники
Технологии генерации голоса, видео и изображений стали значительно доступнее, в том числе и для самих злоумышленников. Они активно начали использовать их в мошеннических схемах и атаках социальной инженерии. Особенно это актуально для граждан, а также банков, крупных компаний, медиа и государственных организаций.
Для защиты от мошенников на практике эффективнее всего работает комбинация различных технологий и инструментов, таких как автоматическое обнаружения дипфейков, многофакторная проверка личности и подтверждение операций, цифровая верификация контента с использованием цифровых водяных знаков, подписей, метаданных контроля, а также обучение сотрудников и повышение общей киберграмотности населения.
Прогноз на ближайший год
Если экстраполировать текущие тренды на ближайший год, картина рынка приобретает вполне четкие очертания. Наиболее массовыми, на мой взгляд, станут следующие сценария внедрения ИИ:
- Масштабная автоматизация рабочих процессов
- Увеличение скорости подготовки аналитики при работе с большими данными
- Расширение применения ИИ в кибербезопасности.
- Комплексная автоматизация в разработке и обеспечении безопасности кода.
- Повышение, автоматизации клиентского сервиса.
Базовым стандартом, скорее всего, будет использование ИИ для автоматизации повседневных бизнес-процессов и повышения производительности труда. Также стандартной практикой станет применение ИИ в системах кибербезопасности, в частности для анализа событий безопасности, выявления аномалий и автоматизации работы SOC-центров. Уже сегодня подобные технологии развиваются в разрабатываемых и используемых нами Security Vision SIEM и SOAR, позволяя сокращать время обнаружения и обработки инцидентов и снижать нагрузку на специалистов. Конкурентное преимущество будет формироваться в том, насколько быстро, глубоко и грамотно компании интегрируют эти технологии в свои модели работы. Компании, которые смогут выстроить эффективную работу с данными и безопасную архитектуру использования ИИ, будут получать значительно больший эффект.
Важно помнить, что окончательное решение в принятии решений остаётся за руководителем, а не за ИИ. Искусственный интеллект может только помочь быстро собрать всю необходимую информацию для этого.
Чтобы рынок продолжал ускоренно развиваться дальше, нам нужно выполнить три условия. Во-первых, обеспечить доверие и безопасность использования ИИ, включая четкое регулирование и формирование общих стандартов. Во-вторых, развивать кадры и компетенции, ведь без людей технологии не работают. И в-третьих, поддерживать доступность инфраструктуры и вычислительных мощностей, чтобы у бизнеса была техническая возможность внедрять самые смелые идеи.
