Пока одни обсуждают, стоит ли ограничивать открытые ИИ-модели, глава Anthropic предлагает смотреть на проблему шире. По словам генерального директора компании Дарио Амодеи, главный риск связан не с открытым кодом как таковым, а с тем, как самые мощные технологии могут использовать авторитарные государства.
Поводом для новой дискуссии стало открытое письмо, которое подписали Nvidia, Microsoft, Mistral, Hugging Face и другие компании. Его авторы выступили против преждевременных ограничений открытых моделей. После публикации появились предположения, что Anthropic придерживается противоположной позиции. Однако Амодеи заявил, что компания никогда не призывала запрещать или ограничивать open source ИИ.
По его словам, открытые модели без опасных возможностей приносят пользу разработчикам, исследователям и бизнесу независимо от страны. Гораздо больше его беспокоит вероятность того, что самые продвинутые ИИ-системы могут использоваться для военных целей, усиления государственного контроля или даже создания биологических угроз. Он также напомнил вывод британского AI Security Institute: после публикации открытую модель уже невозможно вернуть под контроль.
Вместо запретов Амодеи предлагает сосредоточиться на других мерах: ограничить доступ к передовым чипам, бороться с кражей технологий через дистилляцию моделей и создать международную систему проверки безопасности ИИ. По сути, речь идёт о попытке снизить реальные риски, не замедляя развитие самой технологии.
