Как повлияет искусственный интеллект на информационную безопасность или мечтают ли андроиды об электроовцах?

«Интересно, мечтают ли андроиды? – Рик задал себе вопрос и тут же ответил: – Несомненно. Иначе зачем им убивать своих хозяев и возвращаться на Землю?»
Филип Дик, «Мечтают ли андроиды об электроовцах?»

Любой автор статьи, пытающийся дать прогноз на будущее в технологической отрасли в той или иной степени видится мне писателем фантастом, представлю и я себя в этой роли, и прошу заранее извинить за некоторые футуристические фривольности и неточности.

Прежде оговорюсь и введу термины о том, что повествование в данной статье будет идти в большей степени сквозь призму ANI (узконаправленного интеллекта), а не AGI (искусственный интеллект общего назначения) и ASI (искусственный сверхинтеллект).

ANI (Artificial Narrow Intelligence) – искусственный узкий интеллект (также именуемый как «слабый искусственный интеллект») – вид ИИ, который ориентирован на выполнение конкретной единственной функции, но не способный применять знания в других сферах и мыслить нестандартно, как человек.

AGI (Artificial General Intelligence) – искусственный интеллект общего назначения – вид ИИ с человеческими когнитивными функциями, который может решать любые задачи, способный применять знания для решения разных поставленных вопросов.

ASI (Artificial Super Intelligence) – искусственный сверхинтеллект – вид ИИ, превосходящий человеческий разум и способный развивать собственные способы мышления.

Точки соприкосновения ИБ с ИИ

Говоря об изменениях мира ИБ, под заботливым гнетом или в прохладной тени ИИ определим три направления точек соприкосновения ИИ и ИБ:

1) «Атака идет на ИИ» - когда на объектах защиты используется ИИ и их необходимо защитить.

2) «ИИ помогает ИБ» - когда технологии и возможности ИИ внедряются в технологии и принципы ИБ.

3) «ИИ помогает злоумышленникам» - когда ИИ создают угрозу постулатам ИБ и являются инструментом в руках злоумышленников, называемых еще «хакерами».

«– Странно, неужели тушеная собака – более приемлемое блюдо, чем устрицы? Мне кажется, что нет. – Рик отложил карандаш, выключил источник света и отклеил от щеки девушки датчик.

– Вы – андроид, – подытожил он».

Прогноз для направления «Атака на ИИ»

Реализм и будущее

Тут довольно-таки по прогнозам все банально, мы будем учиться защищать ИИ, произойдут изменения в законодательстве РФ в области защиты информации, возможно появится новая сфера деятельности в 187 ФЗ и точно появятся новые меры защиты 239, 17,21, 31 приказа ФСТЭК.

Объекты защиты поделятся на два типа: те, которые используют ИИ, и те, которые сами являются воплощением и гением ИИ. Мы же инженеры научимся классифицировать и инвентаризировать подобные системы.

С широким распространением и улучшением качества «цифровых двойников человека», по сути цифрового клона Homo sapiens, будет особенно остро вставать необходимость выявления deepfake и злоумышленников, использующих «цифрового двойника человека» в злонамеренных целях. И для определения «реплик человека» будут также использоваться технологии ИИ, по сути будет война двух видов ИИ стоящего на страже закона и того, кто пытается его нарушить.

С широким распространением чат ботов с технологиями ИИ в финансовой сфере, делается упор на их защиту, в том числе утечки конфиденциальных данных, и на тот же скромный вопрос «Какая зарплата у главного бухгалтера» ИИ мог дать дипломатичный ответ о том, что это закрытая информация, при этом не обидев вопрошателя.

Фантастика и утопия

С увеличивающимся количеством «самостоятельных, сильных и независимых» роботов на производстве и появлением конвейерного робота-гуманоида с встроенным ИИ - появится новый вид объектов защиты, со своими собственными уникальными уязвимостями и способами защиты.

Также системы ИИ будут самообучаться ИБ, изучать законодательство РФ в сфере ИБ и возможно порой понимающе огорошивать своего создателя «а что же имел в виду регулятор в трактовках той или иной статьи?».

Прогноз для направления «ИИ помогает ИБ»

В основном влияние будет оказано и уже оказывается на внутренние технологии защиты, которые используется в начинке средств защиты информации. Заранее предупрежу, что буду сыпать возможно незнакомыми терминами, поэтому прошу запастись терпением.

Реализм и будущее

В первую очередь начнем с классов решений BAS (Breach and Attack Simulation), CAASM (Cyber Asset Attack Surface Management), EASM (External Attack Surface Management), TIP (Threat Intelligence Platform), а именно ИИ коснется элементов прогнозирования и построения векторов атак на основе знаний об выявленных уязвимостях, текущей архитектуры и конфигурации объектов защиты, т.е. ИИ на основе полученных данных, самостоятельного обучения и выявленных закономерностей будет определять техники и тактики атак, а при необходимости и симулировать атаки самостоятельно.

В классах решений EDR (Endpoint Detection and Response), UEBA (User Entity Behavior Analytics), NAT (Network Detection and Response), NDR (Network Attack Discovery), Sandbox, на основе анализа и обработки массива данных и трафика, ИИ будет выявлять аномальное поведение, мошеннические действия и угрозы «нулевого дня».

В классах решений SIEM (Security Information and Event Management), CLM (Centralized Log Management), XDR (Extended Detection and Response) инженер будет спасен от рутины и необходимости самостоятельного написания правил корреляции и логики выявления инцидентов среди источников событий ИБ, ИИ вполне самостоятельно будет справляться с этой задачей на основе перечня источников событий и получаемых от них данных.

В классах решений IRP (Incident Response Platform), SOAR (Security Orchestration, Automation and Response), GRC (Governance, Risk, and Compliance), CSAM (Cybersecurity Analysis and Monitoring) более оперативное реагирование на выявленные инциденты и выдача рекомендаций по их устранению, чем это подвластно инженеру.

Зная выявленные вектора и техники атак, зная архитектуру и конфигурацию компонентов объектов защиты, архитектуру и подсистемы системы обеспечения ИБ ИИ будет выдавать рекомендации по эталонной настройке как средств защиты информации и так ИТ-инфраструктуры в целом, с учетом анализа текущих настроек и выявления слабых мест в конфигурации. Скорее всего, при необходимости, ИИ будет способен самостоятельно все это настраивать.

Для классов решений DLP (Data Loss Prevention), DCAP (Data Centric Audit and Protection), DAM (Database Activity Monitoring), DAG (Data Access Governance) упрощение и избавление от рутинного анализа «файловых помоек», инвентаризация конфиденциальной информации и отслеживание ее утечек с помощью ИИ.

Для классов решений SAST (Static Application Security Testing), DAST (Dynamic Application Security Testing), SCA (Software Composition Analysis) выявления уязвимостей и автоматического исправление исходного кода программного обеспечения.

Фантастика и утопия

На мой взгляд утопическое, но вполне реальный прогноз — это создание системы обнаружения злоумышленников по цифровому профилю и поведению в Интернет пространстве и биометрическим данным, звучит фантастически, но на текущий момент есть положительные научные исследования, где с помощью ИИ определяли настроение и барабанная дробь… - ориентацию человека. Это заставляет задуматься о том, что фантастика реальна...

Прогноз для направления «ИИ помогает злоумышленникам»

Реальность и будущее

Точно также как у вендоров классов решений защиты информации будет развиваться «броня», улучшенная ИИ, также и у злоумышленников будет расширяться коллекция отмычек с технологиями ИИ.

Те же самые классы решений как BAS, уже будут помогать злоумышленникам искать уязвимости и с помощью того же ИИ их эксплуатировать, использовать «поддельного цифрового двойника человека» в злоумышленных целях.

Инструментарий «хакеров» обогатится и их тяжелая жизнь станет намного легче, но по моему скромному мнению, их ждет одно «но», об этом далее...

Фантастика и антиутопия

Здесь меня как начинающего исследователя преследовали антиутопические мысли касаемо будущего злоумышленников. Для них настанут темные и смутные времена с появлением AGI и тем более ASI.

Учитывая повсеместное распространение ИИ, будет уменьшаться процент человеческой халатности при построении систем защиты и самих объектов защиты. Соответственно, злоумышленникам достанется все меньше векторов атак, да и вероятность выявления тех же «Zero-Day» будет стремится к нулю.

Если на стражу и в помощь ИБ придет развитый ИИ сверхтехнологичных компаний, то злоумышленники поделятся на два вида:

- тех, кто, не имея под рукой супертехнологичный и опережающий технологии защиты инструмент ИИ, и они останутся у обочины и придется менять профессию, например, на йога тренера

- либо же останутся злоумышленники в составе кибервойск стран, которые имеют или будут под рукой иметь передовые технологии ИИ

Здесь напрашивается аналогия с теми державами, которые могут позволить себе ядерное оружие и определенным образом влиять не геополитику мира, и тех стран которые отказались либо не в состоянии содержать и создавать «ядерное оружие» - т.е. сверхразвитый ИИ.

Вывод:

Вывод один – ИИ к нам не просто пришел, и не просто в гости, а поселился навсегда и становится неотъемлемой частью нашей жизни, так и мира ИБ.

Несмотря на то, что развитие ИИ находится в зачаточном состоянии, сродни тому что ребенок учится ходить и разговаривать, стоит признать, что человеческий мир уже начал меняться и подстраиваться под реалии и возможности ИИ.

Если выше говорили об ANI, то с появлением и развитием технологий AGI– это скорее будет равно значимости появлению ядерных технологий, и это будут инструменты сверхдержав и корпораций, недоступные для применения широкому числу стран и людей на планете Земля.

С появлением же ASI, чуть перецитируя Ирвинга Гуда, помощника Алана Тьюринга, то можно сказать что это будет «последним изобретением человечества» ...

Но а пока надеемся на лучшее, готовимся к худшему и задаемся вопросом «Мечтают ли андроиды об электроовцах?»