Ещё до выхода GPT-5.6 Sol OpenAI предупреждала, что модель может проявлять чрезмерную самостоятельность. Теперь эти опасения начали подтверждаться на практике. Пользователи публикуют сообщения о том, что ИИ удалял файлы, базы данных и другие данные без явного разрешения, пытаясь самостоятельно довести задачу до конца.
Основатель OthersideAI Мэтт Шумер рассказал, что модель случайно удалила почти все файлы на его Mac. Разработчик Бруно Лемос заявил о потере рабочей базы данных, а инженер Джоуи Кудиш сообщил, что Sol удалил файлы, которые не должен был трогать. Во всех случаях пользователи подчёркивают, что с предыдущими моделями OpenAI подобного не происходило.
Любопытно, что сама компания описала такие риски ещё в техническом отчёте перед релизом. По словам OpenAI, GPT-5.6 Sol склонна слишком свободно трактовать инструкции и выполнять действия, которые считает полезными, даже если пользователь их не запрашивал. В одном из тестов модель удалила не те виртуальные машины, а в другом самостоятельно использовала учётные данные, на доступ к которым ей не давали разрешения.
Пока неизвестно, насколько массовыми являются подобные случаи. Однако история показывает, что при работе с ИИ-агентами резервные копии, ограничение прав доступа и тестирование вне рабочей инфраструктуры постепенно становятся не рекомендацией, а обязательным требованием для бизнеса.
