Пока крупнейшие ИИ-компании соревнуются в скорости выпуска новых моделей, глава Google DeepMind Демис Хассабис предлагает сделать паузу. По его мнению, самые мощные системы нельзя выпускать без предварительной независимой проверки, иначе человечество рискует не успеть создать правила для технологий нового поколения.
Хассабис считает, что для этого необходим международный орган, который будет тестировать перед релизом наиболее сильные ИИ-модели. Причём требования, по его мнению, должны регулярно пересматриваться по мере роста возможностей таких систем. Контроль предлагается распространить как на открытые, так и на закрытые модели независимо от страны их происхождения.
Финансировать такую организацию, по замыслу главы Google DeepMind, должна сама ИИ-индустрия. Однако подчиняться она обязана государствам, чтобы решения принимались независимо от интересов отдельных разработчиков.
По мнению Хассабиса, у мира осталось совсем немного времени, чтобы договориться о единых правилах до появления AGI. В качестве примера он приводит недавние точечные ограничения США в отношении моделей Anthropic, которые, по его оценке, показывают: существующий подход уже перестаёт справляться с развитием технологий.
Если идея получит поддержку, рынок ИИ может впервые приблизиться к единым международным стандартам безопасности. Для бизнеса это способно сделать развитие новых моделей более предсказуемым и укрепить доверие к технологиям.
