Microsoft фактически напомнила пользователям простое правило: если ИИ получил возможность действовать самостоятельно, доверять ему вслепую нельзя. После запуска Copilot Cowork компания усилила предупреждения и отдельно подчеркнула, что за последствия действий агента отвечает человек.
Copilot Cowork умеет самостоятельно проходить многошаговые рабочие процессы и взаимодействовать с Outlook, Teams, Excel, PowerPoint и SharePoint. Для этого облачный агент использует Work IQ, который собирает контекст из писем, календаря, сообщений и документов.
Но вместе с автономностью появилась другая сторона вопроса. Microsoft предупреждает, что Copilot способен ошибиться, неправильно понять инструкцию или выполнить скрытую вредоносную команду, поэтому критические действия требуют дополнительной проверки.
Для этого в Cowork появилась функция Approve actions. Перед определёнными операциями система показывает диалоговое окно и ждёт разрешения пользователя или администратора. Причём согласие не делает действие необратимым: выполнение можно приостановить, продолжить позже или отменить.
Особенно внимательно Microsoft советует проверять операции с деньгами, персональными и конфиденциальными данными, письмами и сообщениями. То же касается удаления файлов, изменений облачного хранилища, отмены подписок, настроек аккаунта, правительственных документов и сведений о состоянии здоровья.
Причём такие запросы могут возникать не только из-за риска ошибки. Подтверждение потребуется, если сайт или приложение блокирует автоматизацию, требует ручной авторизации или дополнительных действий, например при покупке или бронировании.
Получается любопытная ситуация: чем больше работы Microsoft отдаёт ИИ, тем важнее становится человек, который следит за его решениями. Для бизнеса это может означать новый стандарт автоматизации — не полный отказ от контроля, а чёткое разделение задач, где агент действует сам, и операций, где последнее слово остаётся за сотрудником.
