| Колонка Никиты Фотина, ведущего инженера группы систем защиты АСУ ТП компании "Газинфорсервис" |
Uber оштрафован в Нидерландах на 825 млн евро. Причина — компания использовала алгоритм для автоматической блокировки аккаунтов водителей (при подозрении на мошенничество или низких оценках) без какого-либо участия человека, что запрещено правилами ЕС об автоматизированных решениях.
Шли годы, люди регулярно замечают изменения в своей повседневности, связанные с бурным развитием передовых технологий. При этом от нас, людей, не получится скрыть и тот факт, что сценарии человеческого поведения всё же не перестают быть узнаваемыми, созвучными и отчасти повторяющимися. Особенно остро это чувствуется сейчас, когда на наших глазах надувается новый кризисный пузырь — на сей раз вокруг искусственного интеллекта. Старожилы рынка наверняка проводят параллели с крахом доткомов.
ИИ всё еще плотно применяется в работе различных сервисов страшных крупных транснациональных корпораций. И, тем не менее, использование модных инструментов под лозунгами оптимистически прогнозируемой минимизации затрат влечёт возникновение как локальных казусов (как в недавнем случае с компанией Uber, с фактическим увеличением трудозатрат на разбор полетов после — или от — использования ИИ, а также возмещением ущерба гражданам стран, посчастливившимся воспользоваться сервисом с плотной интеграцией с продвинутыми технологиями ИИ), так и глобальных кризисов, не побоюсь этого слова, планетарного масштаба.
На полях отмечу, в чем же скепсис в бесконтрольном использовании ИИ и чем же надувается пузырь: в непопулярности мнения о том, что технология всего лишь инструмент, а не волшебное средство решения всех проблем. При этом пик научного оптимизма при вложении в ИИ пройден два года назад, скромно нам всем напоминаю.
Собственно казусы, которые случились с компанией Uber, встречаются всё чаще. При минимизации усилий по проверке выявляемых инструментом сведений никто не снимает ответственность с человека. В любом деле при полном делегировании решения тех или иных задач без даже минимального вдумчивого контроля и анализа действий, а также принятия решений в процессе их выполнения, компания или отдельный индивид попросту не получает результатов дела... Ведь оно попросту перестаёт быть вашим. При использовании любого инструмента стоит не забывать и про применение интеллекта естественного, в противном случае результат труда будет попросту невостребован.
В вопросах безопасности представленный выше подход также применим. Мы можем предоставить вам инструмент, но специалист, обладающий навыками и компетенциями в работе и без, должен быть в наличии. Наша компания располагает мощными инструментами в области аналитики с использованием ИИ, готовых к внедрению в вашей организации. Также возможно проведение обучения специалистов вашей организации по разработанным нами учебным программам в собственном учебном центре.
Помимо этого, нельзя забывать о центрах мониторинга и реагирования на инциденты, таких как GSOC, в обойме которого присутствуют как встроенные решения по ИИ, так и высококвалифицированные специалисты по работе с ними. С помощью этого инструмента вы можете осуществлять мониторинг систем ИИ, в том числе и в критической информационной инфраструктуре, всё глубже охватываемой инструментами с ИИ.
