OpenAI призвала США возглавить международную коалицию для создания единых стандартов безопасности ИИ. Компания предлагает наладить между странами безопасный обмен информацией об угрозах и общие правила оценки передовых моделей.
Особое внимание OpenAI уделила ИИ с возможностью рекурсивного самосовершенствования (RSI). В компании заявили, что полностью автономных RSI-систем пока не существует, и считают, что они не должны появляться до подтверждения их безопасности и сохранения человеческого контроля.

OpenAI также предложила использовать опыт авиации и финансовой системы, где международные стандарты и каналы обмена информацией позволяют сотрудничать без отказа от государственного суверенитета. Отдельно компания назвала важным диалог по безопасности ИИ между США и Китаем.
Инициатива появилась перед выступлением Сэма Альтмана в Совете безопасности ООН и встречей Дональда Трампа с Си Цзиньпином. При этом Вашингтон пока не готов ограничивать темпы развития ИИ. Советник Трампа Дэвид Сакс заявил, что подобные ограничения могут ослабить позиции США в конкуренции с Китаем.
Идею международных стандартов поддержал глава Google DeepMind Демис Хассабис. Он предложил создать частно-государственный орган с участием технических экспертов и представителей open source. По его оценке, ИИ окажет на человечество влияние в десять раз сильнее промышленной революции, но изменения будут происходить в десять раз быстрее.
Anthropic meanwhile выступает за добровольное замедление разработки и внешний аудит безопасности передовых моделей. Теперь спор идёт не только о мощности ИИ, но и о правилах, которые должны определять границы его развития.
