NVIDIA открыла веса Nemotron 3.5 Bolt E4B для локального запуска

NVIDIA открыла веса Nemotron 3.5 Bolt E4B и опубликовала чекпойнты Q4_K_M и BF16 для локального инференса.

Модель построена на Gemma 4 E4B, содержит 8 млрд параметров при 4 млрд активных, рассчитана примерно на 4 ГБ памяти и поддерживает контекст до 64K токенов. NVIDIA также заявляет многошаговый вызов инструментов и отключаемый режим рассуждений.

Чекпойнт можно запускать локально через llama.cpp, поэтому модель можно подключить к локальному узлу Nodul через OpenAI-совместимый API. Лицензия OpenMDW-1.1 разрешает коммерческое и некоммерческое использование. Перед внедрением стоит проверить задержку, фактическое потребление памяти и качество tool calling на своих сценариях.