Microsoft добавляет в Copilot Studio функцию, которая заставит ИИ-агента остановиться перед потенциально рискованным действием и дождаться решения человека. Это касается инструментов, способных отправлять письма, закрывать заявки или проводить платежи.
Разработчик сможет задать обязательное подтверждение отдельно для каждого инструмента и агента. Когда ИИ дойдёт до такого шага, он приостановит выполнение и покажет пользователю, что именно собирается сделать. Действие можно разрешить один раз, на оставшуюся часть сессии или отклонить.
Важный момент — защита работает независимо от инструкций агента. Даже если модель считает вызов инструмента правильным следующим шагом, система всё равно может потребовать вмешательства человека. Такой подход оставляет за пользователем контроль над операциями, которые могут иметь финансовые последствия.
Запрос на одобрение появляется прямо в рабочем канале. Microsoft указывает поддержку Teams и Microsoft 365 Copilot, поэтому переходить в Copilot Studio для каждого подтверждения не понадобится. Сейчас функция доступна в веб-версии Copilot Studio.
Нововведение продолжает курс Microsoft на контроль ИИ-инфраструктуры. В феврале компания представила панель безопасности, объединяющую сигналы Defender, Entra и Purview для управления агентами, приложениями и платформами. Для бизнеса это может сделать внедрение автономных агентов безопаснее. А разделение рутинных и требующих согласования операций поможет компаниям постепенно расширять применение ИИ.
