英伟达RTX Spark迷你AI工作站开卖:最高本地跑1200亿参数大模型
英伟达RTX Spark迷你AI工作站上市 最高支持本地运行1200亿参数大模型
财联社11月18日电,英伟达宣布,采用RTX Spark平台的紧凑型桌面电脑已经正式上市。华硕、戴尔和微星率先拿出了相关产品,宏碁、技嘉和惠普等厂商的产品也会随后陆续推出。
这批设备用上20核英伟达Grace CPU和基于Blackwell架构的RTX GPU,统一内存最高128GB,AI算力最高能到1 Petaflop,可在本地运行1200亿参数的大语言模型。英伟达方面还表示,模型放在本地跑,相关任务对云端API的依赖和Token费用都能减少。