Ещё недавно AGI казался далёкой целью, но глава Google DeepMind Демис Хассабис считает иначе. В своём манифесте он заявил, что до появления искусственного общего интеллекта остаётся всего несколько лет, а человечество уже находится у порога «сингулярности». По его мнению, сейчас существует короткое «драгоценное окно», чтобы успеть выработать правила развития технологии.
Хассабис считает, что AGI нельзя сравнивать с интернетом или мобильной связью. По его словам, влияние новой технологии окажется в десять раз масштабнее промышленной революции и проявится в десять раз быстрее. При этом ИИ способен не только ускорить научные открытия и борьбу с тяжёлыми заболеваниями, но и создать новые кибер-, биологические и другие угрозы.
По мнению Хассабиса, США следует создать независимый Комитет по стандартам передового ИИ. Он предлагает, чтобы разработчики добровольно за 30 дней до релиза направляли самые мощные модели на проверку, где их будут тестировать на попытки обхода защиты, склонность к обману и опасные возможности. Стартапы и научные организации с менее сложными моделями предлагается освободить от таких требований.
В июне более 150 математиков и позднее свыше 200 экономистов и исследователей ИИ, включая 16 нобелевских лауреатов, также призвали внимательнее оценивать последствия развития технологии. Для рынка это может ускорить появление единых правил, а бизнесу поможет заранее подготовиться к эпохе AGI.
