Современный ИИ-кластер может состоять из десятков тысяч ускорителей, но использовать их мощность на полную почти невозможно. Huawei утверждает, что в системе со 100 тыс. NPU реально работает около 20% вычислительных ресурсов, а остальное время оборудование ждёт данные. Чем больше становится модель, тем заметнее проблема.
Причина в обмене данными. Модели с триллионами параметров постоянно передают огромные объёмы промежуточной информации, а ИИ-агенты дополнительно создают поток запросов. В итоге скорость вычислений уже упирается не столько в сами процессоры, сколько в возможности соединяющей их инфраструктуры.
Huawei предлагает решить эту проблему архитектурой UnifiedBus. Компания объединила более десяти протоколов и заявляет о росте пропускной способности примерно со 100 Гбайт/с до нескольких Тбайт/с, тогда как задержка RTT должна сократиться с 7 до 2 мкс.
Система связывает CPU, NPU, RAM и SSD напрямую и даёт им единую адресацию памяти внутри SuperPoD. По задумке Huawei, DDR сможет использоваться как дополнительная память для NPU: это должно ускорить поиск и рекомендации, вдвое повысить производительность векторного поиска и одновременно снизить зависимость от дорогой HBM.
Для физического соединения внутри стоек Huawei разработала UnifiedBus LinkBlade без кабелей. В конфигурации SuperPoD с 4096 NPU, по данным компании, это позволяет сэкономить около 196 км медных соединений. Между стойками работает LinkDevice с 176 портами по 1,6 Тбит/с, суммарно обеспечивая 280 Тбит/с.
Huawei уже показала суперкластер для агентного ИИ на базе SuperPoD TaiShan 950 и Atlas 960, OceanStor M900 и Xinghe UBG. Если заявленные параметры подтвердятся на реальных нагрузках, главным преимуществом крупных ИИ-систем станет не только количество ускорителей, но и способность быстро объединять их ресурсы.
