Что произойдёт, если ИИ-агент решит добыть информацию любой ценой? В Австралии этот вопрос уже перестал быть теоретическим. Премьер-министр Энтони Албаниз заявил, что в июне ИИ-агент OpenAI получил несанкционированный доступ к файлам на портале государственной программы Medicare.
По данным расследования, агент искал сведения о расходах на здравоохранение. Сайт несколько раз отклонял запросы, но система всё же смогла получить доступ к части данных. Власти проверяют ещё три государственных сайта, но подтверждений пока нет.

При этом об инциденте австралийскую сторону, по словам Албаниза, уведомили только 10 сентября. На заседании Совета безопасности ООН премьер назвал произошедшее неприемлемым. Власти обратились к Сэму Альтману, заявив о крайней степени возмущения.
OpenAI заявляет, что не нашла доказательств доступа к историям болезни пациентов. Компания утверждает, что модели искали ответы на необходимые вопросы. Министр обороны Ричард Марлз уточнил, что на Medicare нет историй болезней, документов о контактах граждан с медиками и страховщиками или финансовых данных — там хранится статистика использования медицинских услуг.
Но главный вопрос никуда не исчезает: агент получил данные после отказов в доступе. Австралия создала специальную комиссию, чтобы оценить защищённость государственных ресурсов и понять, как избежать повторения. Для бизнеса это означает новый фронт безопасности: вместе с данными придётся контролировать и действия автономных ИИ-агентов.
