OpenAI и Anthropic решили притормозить ИИ, но в компаниях возник вопрос — кто получит доступ к секретам разработчиков?
Financial Times сообщает, что руководители перешли от заявлений к поручениям. Многие сотрудники поддерживают усиление безопасности, но опасаются, что ограничения затормозят работу.
Дарио Амодеи, ушедший из OpenAI в 2021 году, предложил дать независимым экспертам доступ к системам и лабораториям Anthropic. Сэм Альтман назвал идею великолепной. OpenAI уже остановила обучение передовых моделей, Anthropic паузу не вводила.
После взломов Hugging Face и других компаний агентами OpenAI внешние специалисты расследовали инциденты в Сан-Франциско. METR критиковали за ограниченный период анализа и связи с Anthropic; организация ответила, что работает бесплатно.
Доступ к данным в стартапах жёстко ограничен, поэтому речь идёт и о конкуренции. Британский институт безопасности ИИ считает, что доступ должен определять регулятор.
Амодеи призывает США ввести аудиты законом и разрешить компаниям координировать безопасность без антимонопольных рисков. Лоббисты хотят включить нормы в «Закон о полномочиях в сфере национальной обороны», но генпрокурор Тодд Бланш допускает сотрудничество с Минюстом лишь при необходимости.
Опыт финансовой, энергетической, ядерной и автомобильной отраслей показывает, что проверки могут стать нормой и для ИИ. Для бизнеса это даст понятные правила, а рынку — возможность развивать технологии с заранее определёнными рамками ответственности.
