Ещё недавно полноценные ИИ-агенты требовали мощных серверов и постоянного подключения к облаку. Теперь ситуация начинает меняться. Компания Liquid AI представила LFM2.5-2.6B — агентную модель на 2,6 млрд параметров, способную выполнять многошаговые задачи прямо на устройстве.
По данным Liquid AI, модель умеет самостоятельно планировать действия, вызывать инструменты и работать без облачного API. Она обучена примерно на 34 трлн токенов, поддерживает словарь из 128 тыс. токенов и контекстное окно 128K. Для обучения разработчики сначала создали отдельные модели-эксперты по математике, программированию, работе с инструментами и длинному контексту, затем объединили их навыки с помощью on-policy distillation и дообучили систему в агентных средах Hermes Agent и OpenClaw.
Компания также приводит результаты тестов производительности. Модель генерирует до 220 токенов в секунду на Apple M5 Max, до 113 — на Ryzen AI Max+ 395, около 30 — на смартфоне и почти 15 тыс. выходных токенов в секунду на одной H100 при высокой параллельной нагрузке. При этом потребление памяти на процессоре не превышает 2,5 ГБ.
По данным Liquid AI, в ряде задач на следование инструкциям и использование инструментов LFM2.5-2.6B превосходит более крупные Gemma и Qwen, хотя в сложном программировании преимущество пока остаётся за большими моделями. Поддержка llama.cpp, MLX, vLLM, SGLang и ONNX, а также открытые веса могут ускорить распространение локальных ИИ-агентов и снизить зависимость бизнеса от облачных сервисов.
