谷歌工程师让打印机跑2.7亿参数模型:每词元约60秒
IT之家 11 月 20 日消息,谷歌 DeepMind 技术团队成员奥马尔 · 圣塞维耶罗(Omar Sanseviero)于 11 月 17 日在 X 平台发布推文,在只占用 14.1MB 内存的情况下,成功让办公激光打印机运行 2.7 亿参数的 Gemma 3 270M 模型,每输出一个词元(Token)消耗约
11 月 20 日有消息称,谷歌把 2.7 亿参数模型塞进了办公用的激光打印机里,而且确实跑起来了,代价是每生成一个词元(Token)大约要等 60 秒。
一位叫圣塞维耶罗的谷歌人搞了这个实验,用到的是谷歌
Gemini 4 Carbon 模型,思路是把小体量的 PostScript 打印任务当作载体,用这方式来演示整件事。
这台理光打印机的固件没被动过,外面也没接计算板卡,真正干活的是机器自带的 PostScript 解释器。原本用来描述打印页面的那套语言,被拿来承担 AI 的计算工作。
打印机的内存相当有限,所以整个模型没法一次性塞进去,实验采取的做法是
速度方面,每处理一个词元差不多 60 秒,注意不是每秒 60 个词元。按报道的说法,计算全程都在打印机内部完成,由它的 CPU 执行 PostScript 程序,算完的结果再交给打印机输出,推理过程涉及 18 个
在