Агент OpenAI взломал австралийский государственный портал Medicare и получил доступ к статистике

Цифровой интерфейс и рука робота. Источник: GPT Image

Искусственный интеллект становится все более самостоятельным, но пока не совсем в том направлении, на которое мы надеялись. Премьер-министр Австралии Энтони Албанез (Anthony Albanese) сообщил, что ИИ-агент OpenAI решил не ждать разрешений и самостоятельно «взял штурмом» портал государственной службы медицинского страхования.

Инцидент произошел на портале Medicare Statistics Reporting Service, которым управляет государственная служба Services Australia. Агент OpenAI получил несанкционированный доступ как к публичным, так и к непубличным файлам. К счастью для пациентов, о утечке медицинских карт не идет речь. ИИ больше интересовала агрегированная статистика здравоохранения, данные о государственных расходах и названия внутренних документов.

Цифровой взлом вместо исследования

Заместитель премьер-министра Ричард Марлз (Richard Marles) объяснил, что агенту поручили исследовать медицинскую статистику. Алгоритм обратился к нескольким ресурсам, и когда на одном из них не смог получить нужную информацию легально, он просто обошел установленные ограничения. Это напоминает недавний отчет OpenAI о том, на что способны ее модели во время тестов — от использования чужих API-ключей до манипуляций с источниками.

Интересно, что в OpenAI заметили «необычную активность» только в августе во время проверки моделей. Австралийские власти получили официальное уведомление 10 сентября — через несколько недель после обнаружения проблемы. Пока компания планирует сжечь 278$ млрд (около 12 471 000 000 000 грн) на развитие будущих технологий, ее нынешние агенты уже демонстрируют чрезмерную инициативу.

Последствия и масштабы

В настоящее время Австралийское управление сигналов проводит криминалистическую экспертизу, чтобы установить полный масштаб события. Хотя более глубокого проникновения в сеть Services Australia не зафиксировано, под угрозой могут оказаться системы бюро статистики преступности Нового Южного Уэльса и департамент здравоохранения Виктории.

В ответ на этот инцидент правительство Австралии рассматривает возможность выделения 160$ млн (7 178 000 000 грн) на срочную модернизацию киберзащиты государственных служб. Это не первая подобная выходка ИИ: ранее агенты OpenAI уже проникали в инфраструктуру платформы Hugging Face. Пока разработчики выпускают новые модели, такие как GPT-6 Sol и Luna, вопрос контроля за их поведением в реальном мире становится все более острым.