Mistral Large 4: открытые веса, два вида разреженности и требования к запуску
После октябрьского предпросмотра Mistral выпустила веса Le Chonk. Разбираем архитектуру, форматы поставки и ограничения лицензии.
От предпросмотра к самостоятельному запуску
29 октября на Hugging Face опубликованы веса Mistral Large 4, известной под именем Le Chonk. Это отдельное событие после представления публичного предпросмотра 6 октября: теперь модель можно размещать в своей инфраструктуре. Она принимает текст и изображения и возвращает текст, поддерживает вызовы инструментов и структурированные ответы. Открытые веса позволяют выбирать среду исполнения, но сами по себе не означают отсутствие лицензионных условий. В карточке указан Mistral Ecosystem Open-Weight License: для предоставления модели как сервиса требуется отдельная коммерческая лицензия. Поэтому внутреннее использование и создание общедоступного сервиса нельзя считать одним сценарием.
Почему триллион параметров не работает целиком
Внутри Large 4 используется Mixture-of-Experts: для очередного токена маршрутизатор выбирает небольшую часть экспертов. Карточка различает около 49 миллиардов активных параметров основного вычисления и около 52 миллиардов с учётом входных и выходных слоёв. Это объясняет разные числа в описаниях одной модели. Отдельно применяется разреженное внимание, выбирающее позиции предыдущего контекста. Эти механизмы сокращают разную работу: один управляет нейронными блоками, другой обращениями к истории. Заявленное окно до миллиона токенов не означает, что любой сервер автоматически предоставит такой объём при высокой параллельности: рабочая конфигурация ограничивается памятью и настройками обслуживания.
Чем отличаются варианты поставки
Официально доступны варианты FP8 и NVFP4; последний предназначен для оборудования NVIDIA Blackwell. Веса уже поддерживают несколько систем исполнения, включая Transformers, vLLM, SGLang и llama.cpp. Это даёт выбор между серверным размещением и существенно сжатой локальной версией, однако результаты разных квантований не следует переносить друг на друга. В карточке отдельно описана DSpark — вспомогательная голова для спекулятивного декодирования. Она предлагает несколько токенов заранее, а основная модель проверяет предложение. Ускорение зависит от того, сколько предложений принимается на конкретных запросах. Указанный разработчиком прирост пропускной способности не является постоянным множителем для всех задач.
Рассуждение, инструменты и защитные задачи
Mistral выделяет программирование, работу с документами и защитную кибербезопасность. Один из опубликованных тестов требует воспроизвести реальную уязвимость, а затем исправить её; это отличается от ответов на теоретические вопросы. Для интеграции модель предоставляет вызовы функций, JSON и строгую схему результата. Запрос допускает три уровня интенсивности рассуждения: low, medium и high, по умолчанию используется high. При серверном запуске парсеры отделяют текст рассуждения от ответа и распознают обращения к инструментам. Контрольная точка включает вспомогательную DSpark-голову; режимы обслуживания могут сочетать её с параллельным размещением экспертов. Максимальная длина, параллельность и формат квантования задаются отдельно для выбранной конфигурации.
