Что делать, если искусственный интеллект однажды выйдет из-под контроля? В США решили обсудить этот вопрос не после возможных проблем, а заранее. В Конгрессе представили законопроект AI Kill Switch Act, который обяжет разработчиков самых мощных ИИ-моделей встроить механизм экстренной остановки.
Инициативу внесли конгрессмены Тед Лью и Натаниэль Моран. Если закон примут, компании должны будут обеспечить возможность по требованию властей ограничить работу модели, отключить отдельные функции или полностью остановить её. Причём речь идёт не о постоянном контроле, а о механизме, который можно будет использовать только в исключительных ситуациях.
Такие полномочия предлагают передать Министерству внутренней безопасности США. Оснований для вмешательства немного, но все они серьёзные: если действия ИИ привели к гибели десяти и более человек, нанесли ущерб свыше $100 млн или если сама модель попыталась скрыть либо отключить встроенный механизм аварийной остановки.
За отказ выполнять требования предусмотрены жёсткие меры. Законопроект устанавливает штраф до $20 млн за каждый день неисполнения распоряжения. Это делает инициативу одной из самых строгих среди обсуждаемых мер регулирования ИИ.
Документу ещё предстоит пройти все этапы рассмотрения, поэтому говорить о новых правилах пока рано. Но сам факт появления такого законопроекта показывает, что власти всё активнее обсуждают не только развитие искусственного интеллекта, но и способы быстро ограничить его работу, если технология начнёт представлять реальную угрозу.
