华硕发布UGen B70 32GB加速卡,面向本地AI推理

作者: 迷魂雪
更新时间: 2026-10-27 11:26

华硕于2026年10月23日宣布UGen Intel Arc Pro B70 32GB加速卡,面向桌面和工作站上的本地AI推理。新卡配备32GB支持ECC的GDDR6显存,公告列出的功耗为310W,主要服务于大语言模型和多智能体应用。

华硕发布UGen B70 32GB加速卡,面向本地AI推理

这款卡的重点是显存容量。长上下文会增加KV缓存占用,多智能体同时运行多个模型也会提高显存需求。华硕给出的部署示例中,单卡运行Llama 3.1 8B可支持最高128K tokens上下文,双卡和四卡配置的总显存分别达到64GB和128GB。

软件支持覆盖Intel LLM Scaler、vLLM XPU、llama.cpp的SYCL与Vulkan后端,以及Ollama、OpenVINO、oneAPI、PyTorch XPU和ComfyUI。LLM Scaler还提供INT4、FP8在线量化,方便在这套硬件上部署模型。

按华硕给出的产品定位,单卡主要面向个人开发者,双卡适用于小型企业和创意工作室,多卡配置则用于企业部门的本地AI部署。此次公告尚未给出具体售价及中国大陆开售安排。