Liquid AI выпускает LFM3: шесть компактных моделей на общей основе
В семействе есть текстовая, визуальная, речевая и объединённая модели. Общая архитектура предназначена для дообучения под конкретную задачу.
Семейство вместо одного универсального файла
27 октября Liquid AI представила LFM3 — семейство моделей примерно двухмиллиардного класса. В общей коллекции собраны текстовая модель, варианты для зрения и аудио, объединённая модель и модели решений. Центральная идея — одинаковая базовая архитектура, которую можно специализировать под тип входных данных и затем под конкретное приложение. Это отличается от подключения нескольких независимых больших моделей через внешний маршрутизатор: знания и способы обработки модальностей развиваются вокруг общей основы LFM3-1.7B-Base. В публикации компания связывает компактный размер с выполнением на устройстве и возможностью дообучения на одной видеокарте. Последнее описывает доступные рецепты, а не любую мыслимую длину последовательности или размер обучающей партии.
Три механизма внутри одного декодера
Разработчики назвали архитектуру тригибридной: в ней чередуются короткие свёртки, локальное внимание и глобальное внимание. Свёртки обрабатывают близкие зависимости, локальные слои ограничивают область просмотра, глобальные сохраняют доступ к удалённой информации. Такое сочетание позволяет не оплачивать полное глобальное внимание на каждом слое. В базовой модели 24 слоя; компания также описывает управление вкладом отдельных голов внимания и изменение позиционного кодирования. Поиск архитектуры проводился с учётом реального оборудования и нескольких сред исполнения. Поэтому размер модели — лишь часть истории: скорость зависит от того, насколько конкретный процессор и программная среда поддерживают выбранные операции.
Какие входы доступны
Визуальная версия получает изображения и видео, речевая работает со звуком, Omni соединяет несколько типов входа. Текстовое окно до 256 тысяч токенов относится к заявленным возможностям соответствующей модели; его нельзя автоматически переносить на все варианты семейства. То же касается оценки около гигабайта для текстовой модели при четырёхбитном представлении: память исполнения включает дополнительные буферы и растущий кеш контекста. Для разработчика выбор начинается с карточки конкретного контрольного набора весов, его формата входа и поддержанного движка. Коллекция Hugging Face удобна как перечень поставок, но не заменяет документацию каждого файла. Название одного семейства не делает модели взаимозаменяемыми по шаблонам диалога и обработке медиаданных.
Форматы для разных сред исполнения
У текстовой LFM3-1.7B опубликованы BF16, FP8, NVFP4, GGUF, MLX и ONNX варианты. Карточка связывает их с конкретными движками: GGUF — с llama.cpp и приложениями на его основе, MLX — с Apple Silicon, ONNX — с ONNX Runtime. Указаны 16 языков, включая русский, и словарь на 128 тысяч токенов. Модель готовилась для локальных агентов, вызова инструментов и структурированных ответов; сложное агентное программирование авторы не называют её сильной областью. Шаблон диалога автоматически оформляет схемы функций и результаты вызовов. Выбор действий и их фактическое исполнение остаются разными шагами: модель выдаёт описание вызова, приложение исполняет его и возвращает результат в историю. Веса имеют отдельную LFM Open License v1.0.
