ИИ уже неплохо справляется с поиском информации и анализом больших объёмов данных. Но есть проблема, которая до сих пор мешает доверять его выводам: модели могут уверенно ссылаться на несуществующие исследования или придумывать факты. Google предлагает решить эту задачу с помощью нового экспериментального проекта Science One Framework.
Его идея довольно проста: модель должна не просто сформулировать ответ, а подтвердить каждое утверждение реальными источниками. В специальном режиме, который внутри компании называют «детективом», ИИ самостоятельно ищет научные статьи, наборы данных и техническую документацию, а затем проверяет, действительно ли они подтверждают сделанные выводы.
В основе системы лежит принцип Chain of Evidence, или «цепочка доказательств». Каждый вывод связывается с конкретными публикациями или данными по понятной логике: источник приводит к факту, а факт — к итоговому заключению. Если убедительного подтверждения нет, информация просто не попадает в отчёт.
В результате пользователь получает не обычный текст, а материал, где практически каждое утверждение можно проверить по первоисточнику — научной статье, графику или набору данных. Такой подход должен заметно сократить число вымышленных ссылок и ошибок, которые сегодня остаются одной из главных претензий к генеративному ИИ. Если технология оправдает ожидания, нейросети смогут стать гораздо более надёжным инструментом для научных исследований.
