Что, если однажды ИИ начнёт развиваться быстрее, чем люди смогут его контролировать? Именно этот вопрос заставил более тысячи сотрудников ведущих ИИ-компаний поддержать инициативу Pacing the Frontier, призывающую заранее подготовить механизмы экстренного замедления развития технологии.
Авторы обращения считают, что в ближайшем будущем ИИ может приблизиться к этапу самоулучшения. По их мнению, если системы начнут самостоятельно ускорять собственное развитие, прогресс может стать настолько быстрым, что общество и государственные регуляторы просто не успеют выработать меры реагирования. Поэтому, как предполагают авторы письма, международные технические и политические инструменты для замедления ИИ необходимо создавать уже сейчас, даже если они никогда не понадобятся.
На момент публикации инициативу поддержали более 1100 специалистов отрасли. Среди них — генеральный директор Anthropic Дарио Амодеи, сооснователи компании Джаред Каплан и Джек Кларк, главный научный сотрудник OpenAI Джакуб Пахоцки, руководитель направления AI Safety в Google Анка Драган, а также Ян Лейке, Марк Чен, Джон Шульман и другие.
Если подобные предложения получат развитие, индустрия может впервые начать обсуждать не только ускорение, но и управляемое замедление развития ИИ. Для бизнеса это станет сигналом готовиться к новым международным правилам, которые могут определить дальнейшее развитие всего рынка.
