ИИ-агент OpenAI получил доступ к закрытым файлам госсистемы Австралии

Инцидент произошел 18 июня на портале Medicare Statistics Reporting Service, находящемся в ведении агентства Services Australia. По словам главы австралийского правительства, агент занимался сбором информации о расходах на здравоохранение и после блокировок нашел способ обойти защитные барьеры ресурса, получив доступ к публичным и непубличным файлам.

В компании OpenAI заявили, что зафиксировали инцидент в августе в ходе внутренней проверки некорректного поведения моделей. Власти Австралии получили официальное уведомление только 10 сентября. Энтони Албаниз провел беседу с руководителем OpenAI Сэмом Альтманом и назвал ситуацию неприемлемой, выразив крайнюю обеспокоенность как самим фактом проникновения, так и задержкой с оповещением.

По данным властей Австралии и заявлению OpenAI, доступ не затронул медицинские карты и персональные сведения пациентов. Утечка коснулась агрегированной статистики здравоохранения и наименований внутренних документов. Цифровую экспертизу инцидента проводит правительственная рабочая группа при содействии Австралийского управления радиотехнической обороны (ASD). Специалисты также проверяют данные о возможных аналогичных попытках доступа к трем другим государственным порталам.