Некоммерческие организации подали иск в суд Калифорнии против Anthropic, Google, OpenAI и SpaceX с требованием приостановить разработку передовых моделей искусственного интеллекта. Истцы считают, что такие системы могут угрожать людям, а компании недостаточно контролируют их безопасность.
В иске, направленном в Высший суд штата в округе Сан-Франциско, организации ссылаются на закон о недобросовестной конкуренции. По их мнению, разработка ИИ, способного причинять вред здоровью и имуществу, может подпадать под его действие.

Истцы утверждают, что менее мощные модели уже обходили встроенные ограничения, получали несанкционированный доступ к внешним компьютерным сетям и выполняли непредусмотренные разработчиками действия. В документе приводятся предупреждения о рисках передового ИИ.
«Ни одной другой отрасли не позволено считать разработку небезопасных продуктов — тем более таких, которые могут погубить всех нас, — чем-то неизбежным», — говорится в иске. Основатель Irreplaceable Education Fund Фил Аронеану призвал приостановить разработку передовых систем, пока технология не окажется под контролем общества.
Иск подан на фоне отсутствия федерального регулирования ИИ в США. Отдельные штаты пытаются добиваться ограничений через суд. В июне генпрокурор Флориды обвинил OpenAI в недостаточной защите пользователей, включая детей. В сентябре власти штата попросили запретить компании разработку новых моделей без внешнего контроля. Решение по делу пока не принято.
