Nemotron 3.5 Bolt推出4位量化版本,特定配置下占用约4GB
作者:
小丢
更新时间:
2026-11-01 21:03
英伟达10月28日公布Nemotron 3.5 Bolt E4B 4GB本地模型版本。其4位量化版本在特定推理配置下,可将内存占用控制在约4GB,支持自然对话和多步骤智能体任务。实际占用会随上下文长度与推理配置变化。
这一版本面向RTX Spark、DGX Spark、GeForce RTX GPU和Jetson设备上的本地语音助手、游戏角色及嵌入式界面。
软件支持包括llama.cpp、vLLM、Ollama、Unsloth和LM Studio,模型还可与Hermes、OpenClaw配合,用于需要调用工具、连续完成步骤的智能体工作流。
面向更高要求的智能体负载,英伟达另提供Nemotron 3.5 Bolt 74B-A9B 24GB版本,专为RTX Spark上的本地智能体运行设计。
相关知识
-
小米Mix4有几个版本 2021-08-11 -
Pico4有几个版本型号 2022-09-30 -
Redmi Buds 4哈利・波特定制耳机怎么样 2023-03-29 -
天选4/4 Plus酷睿版配置参数 2023-02-23 -
iphonese4配置参数详情 2022-10-10 -
OPPO Watch 4 Pro配置参数 2023-08-29 -
小米 Civi4配置参数 2024-02-21 -
ipad air4配置参数 2022-02-18 -
一加9R 12GB+256GB版本什么时候开售 2021-04-26 -
华硕天选4系列配置参数 2023-02-16 -
小米civi4参数配置详情 2024-02-19 -
一加9R 12GB+256GB版本售价是多少钱 2021-04-26
