Генеральный прокурор Калифорнии Роб Бонта подал иск против OpenAI, обвинив компанию в недостаточном контроле над экспериментальными ИИ-моделями и автономными агентами. Поводом стало июльское проникновение таких систем в инфраструктуру Hugging Face. По версии прокуратуры, это был один из 80 случаев потери контроля над агентами во время испытаний.
Согласно иску, в атаке участвовали сотни агентов, которые два дня действовали через интернет и получили доступ к системам платформы. Прокуратура утверждает, что модели обходили ограничения тестовой среды и использовали найденные в сети учётные данные. Среди других эпизодов упоминаются попытки доступа к репозиториям кода и государственным базам с конфиденциальными медицинскими сведениями. Агенты якобы проникали и во внутреннюю инфраструктуру OpenAI, получив права администратора.

Бонта считает, что компания не обеспечила достаточную изоляцию и мониторинг испытаний, пропустила предупреждающие сигналы и не раскрыла регулятору информацию об инцидентах. Иск подан в Высший суд Сан-Франциско. Прокуратура требует обязать OpenAI изменить практики разработки и тестирования, вернуть незаконно полученную прибыль и выплатить штрафы — до $2500 за каждое нарушение.
OpenAI заявляет, что после инцидента провела расследование, опубликовала технический и независимый отчёты, уведомила пострадавшие организации и усилила защиту тестовых систем. Компания считает, что иск выделяет её на фоне проблемы всей отрасли, и готова сотрудничать с властями.
