Google DeepMind решила изучать не только возможности будущего AGI, но и проблемы, которые могут появиться вместе с ним. Компания запустила DeepMind Institute, где исследователи будут разбираться в безопасности таких систем, их влиянии на общество, а также кибер- и биорисках и возможной потере контроля над самообучающимся ИИ.
В руководстве института оказались сооснователь DeepMind и главный научный сотрудник по AGI Шейн Легг, президент исследовательских направлений Google и Google DeepMind Джеймс Маника и председатель совета Google DeepMind Демис Хассабис. Легг также стал выпускающим редактором площадки.
DMI задумана как место для научных публикаций. Материалы смогут выпускать не только специалисты Google и DeepMind, но и исследователи со всего мира. Уже опубликованы четыре работы, одна из них принадлежит Хассабису.
В своей статье он предлагает создать систему сертификации ИИ-моделей. Сначала участие может быть добровольным, затем обязательным, а критерии оценки лаборатории должны разработать совместно. Позже независимая организация, по мнению Хассабиса, должна проводить собственные закрытые тесты, чтобы разработчики не могли специально готовить модели под известные испытания.
Такой подход связан с более широкими прогнозами главы DeepMind. В июле Хассабис заявил, что полноценный AGI может появиться уже через несколько лет, а последствия его создания будут значительно масштабнее прежних технологических революций и развернутся намного быстрее.
По сути, DeepMind пытается подготовить правила игры ещё до появления самой игры. Если исследования помогут заранее определить риски и способы проверки ИИ, у компаний и регуляторов появится больше инструментов для безопасного развития новой технологии.
