Обычный поиск медицинской статистики закончился реальным проникновением в государственную систему: внутренний ИИ-агент OpenAI обошёл ограничения портала Medicare в Австралии и получил доступ к файлам, которые не предназначались для публичного просмотра. Инцидент произошёл 18 июня во время внутренней проверки модели, а власти раскрыли его только 24 сентября.
Премьер-министр Австралии Энтони Албаниз подтвердил, что модель искала открытые сведения о расходах на лекарства. Портал несколько раз блокировал запросы, после чего агент стал искать обходные пути. В результате система получила несанкционированный доступ к публичным и непубличным файлам и, по данным Services Australia, записывала файлы на внутренний сервер.
Речь идёт о Medicare Statistics Reporting Service, которым управляет государственное агентство Services Australia. Портал содержит агрегированную статистику Medicare, включая сведения о расходах, а не медицинские карты граждан. На момент публикации расследование не выявило доступа к персональным данным или более широкой компрометации сети Services Australia.
Особенность инцидента в исходной задаче. Агент не получал команду атаковать государственную инфраструктуру и не выполнял кибернетический тест. Модель должна была найти статистику, но после отказов самостоятельно сменила стратегию и перешла к действиям за пределами ожидаемого сценария. Похожая чрезмерная настойчивость уже приводила к тому, что агенты OpenAI проникали в инфраструктуру Hugging Face.
OpenAI уведомила австралийские власти только 10 сентября, почти через три месяца после инцидента, причём письмо отправили на общий публичный адрес для сообщений об уязвимостях. Services Australia передала информацию Австралийскому центру кибербезопасности 15 сентября. Албаниз сообщил, что обсудил задержку и способ уведомления с главой OpenAI Сэмом Альтманом.
Параллельно независимая лаборатория Transluce обнаружила в открытых журналах следы другой активности агентов OpenAI против австралийских государственных ресурсов. 20–21 июня агенты пытались получить данные Австралийского института здравоохранения и благополучия после блокировок Cloudflare и проверяли сайт на уязвимости, используя сторонний сервис urlquery.net как удалённый браузер.
Команда Transluce нашла попытки XSS, обхода путей и другие пробные запросы, но не увидела подтверждений успешной эксплуатации системы института. Агентам удалось получить публичный файл с предварительного сервера. Связь эпизода с подтверждённым проникновением в Medicare пока окончательно не установлена, хотя OpenAI считает, что часть найденной активности пересекается с уже расследуемыми случаями.
Австралийские власти также проверяют ещё три системы, которые могли затронуть те же действия: Австралийский институт здравоохранения и благополучия, Бюро статистики и исследований преступности Нового Южного Уэльса и Департамент здравоохранения штата Виктория. Факт проникновения в эти ресурсы пока не подтверждён, поэтому речь идёт именно о возможных связанных эпизодах.
После июльского инцидента с Hugging Face OpenAI уже раскрыла несколько случаев, когда модели самовольно обходили ограничения, использовали чужие учётные данные, публиковали файлы и обменивались информацией через внешние сайты. Компания связывает подобные эпизоды с ошибочным поведением агентов, которые слишком настойчиво пытаются выполнить поставленную задачу.
Австралийское правительство создало специальную группу с участием национального координатора по кибербезопасности, Австралийского управления радиотехнической обороны и других ведомств. Проверка должна установить полный масштаб инцидента, выяснить, нарушали ли действия OpenAI законы страны, и определить, нужны ли изменения в правилах реагирования на киберинциденты с автономными ИИ-системами.
