Gemma模型塞进理光打印机:14MB内存,一分钟出1个token

资讯 快科技 全文 478 字 · 约 2 分钟读完 配图 4 张 分类存储

14MB内存跑起Gemma3!打印机一分钟一个token

所属频道 算力与芯片

Google DeepMind 工程师 Omar Sanseviero 在社交平台上晒出了一次实验:把 270M 参数的 Gemma 模型放进一台办公激光打印机里运行。11月20日消息,整个过程中打印机固件没有被改动,也没有外接计算板。

过去人们普遍认为打印机那点算力干不了这种事。这回的办法是把推理过程编译成一份 PostScript 打印文件,交由打印机自带的解释器执行,计算全部在机器内部完成。

14MB内存跑起Gemma3!打印机一分钟一个token

与之配合的是一个名为 Carbon 的轻量推理引擎,模型被它压缩到打印机扛得住的体量。内存不能被撑爆,于是实验采用动态层流式加载,让模型的各层轮流进出内存。

速度上付出的代价不小。原帖给出的峰值内存占用为 14MB,生成速度约一分钟一个 token,一句简短回答要等上几分钟。

实验输入的提示语是 Read the fine,打印机最终在纸上印出的是 Read the fine print。答案只有三个词,确实是打印机自己算完再打出来的。

14MB内存跑起Gemma3!打印机一分钟一个token

这台设备是理光的办公激光打印机,用的是打印机中最常见的 PostScript 页面描述语言。Sanseviero 本人的表态也很克制:这更像一次把硬件推到极限的测试,距离真正能干活还差得远。

14MB内存跑起Gemma3!打印机一分钟一个token

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 苹果拟签三星DRAM长约:AI算力推高内存成本,四年协议锁定产能

    报道称,受AI算力基建需求激增引发芯片供应紧张影响,苹果拟与三星电子达成罕见的四至五年期DRAM内存供应协议,2027年上半年生效,延续至2031或2032年,以锁定最低采购量,保障未来iPhone、MacBook等产能。此前苹果靠大订单和短期续约压价,但2026年初AI服务器扩建致存储供需失衡,该模式失效。

    来源 AI 产业速递
  2. 国家网络安全通报中心发布JAVA远程代码执行高危漏洞预警

    36氪获悉,国家网络安全通报中心发布JAVA远程代码执行高危漏洞预警:11月17日,境外安全研究机构Calif披露了名为Java4Shell的高危漏洞(CVE-2026-114938),该漏洞存在于OpenJDK Base64解码路径中,当攻击者向Java应用提交特制的Base64数据时,可触发堆内存越界写入,造成敏感

    来源 AI 行业观察
  3. 苹果拟与三星签四至五年DRAM长约:2027年生效,锁定最低采购量

    11月18日报道,受人工智能算力基础设施需求激增引发的芯片供应紧张影响, 苹果公司 拟与三星电子达成一项罕见的四至五年期DRAM内存供应协议,于2027年上半年生效并延续至2031或2032年,以锁定最低采购量、保障未来 iPhone 与 MacBook 等终端产能。 长期以来,苹果依赖庞大订单量与

    来源 AI 开发者社区
  4. 美光:2027年供需比2026年更紧,75%产能已预售

    财联社11月20日讯(编辑 黄君芝)人工智能(AI)需求持续扩张,但存储芯片供给跟不上增长节奏。美光科技高管近期接连表示,供给短缺短期内难以缓解,2027年、2028年的供需失衡局面或将比2026年更为严峻。美光科技总裁兼首席技术与产品官Scott DeBoer在接受采访时表示,内存芯片的供需在很长一段时间内都无法达到

    来源 腾讯网
  5. DeepSeek调整API计费:搜索与网页抓取不再单收费,只按Token算

    11月18日12:00起,DeepSeek正式实施全新API计费规则,开发者在调用大模型过程中触发的服务端搜索与网页抓取功能不再单独收费,全面转为仅按模型Token用量计费。这一调整进一步简化了大模型的商业化计费链路,直接降低了开发者构建联网AI应用的综合成本。 根据DeepSeek官方披露的规则,

    来源 AI 开发者社区
  6. TrendForce看跌2027年NAND闪存价格:中国云厂砍单规模超北美新增需求

    集邦咨询预测,受供给端产能扩张、中国云服务商大幅削减企业级固态硬盘订单及消费电子需求疲软三重压力影响,NAND闪存合约价格将于2027年一季度开始下滑,二季度起全面进入下行周期。2027年全球位供给量预计同比增长25%至30%,供过于求格局贯穿全年。

    来源 华尔街见闻
  7. Cloudflare 重构 D1 控制平面,支持数百万数据库规模

    Cloudflare 近日发表了一篇文章,介绍其如何重新设计无服务器 SQL 数据库 D1 的控制平面,以支持数百万个数据库。此次重构是为避免集中式架构中的性能瓶颈,同时引入重试机制、幂等性保障和最终一致性。 D1 的控制平面架构围绕三种存储系统构建:使用 Postgres 存储事务性元数据,使用 ClickHouse

    来源 AI 行业观察
  8. 三星电子调整存储与移动业务负责人,全永铉、卢泰文继续留任联席CEO

    IT之家 11 月 20 日消息,据韩媒《朝鲜日报》今日报道,三星电子发布电子邮件声明,宣布调整核心业务管理架构,在联席 CEO 全永铉和卢泰文的领导下,分别任命存储业务和移动业务负责人。 其中,黄尚俊(Sang Joon Hwang)晋升为总裁,出任存储业务负责人;崔元俊(Won-Joon Choi)则接任移动业务负

    来源 AI 行业观察
  9. 32GB内存跑180B模型:用Transformers实现MoE专家流式加载

    在只有32GB统一内存的Mac上运行1800亿参数的Qwen模型听起来像天方夜谭,但通过优化Transformers库的专家卸载机制,我们实现了接近专用引擎Strata的性能。本文详细拆解了如何利用SSD流式加载稀疏专家、构建有界缓存以及编写Metal内核,将推理速度提升至14 tokens/s,仅比最优方案慢6%。这

    来源 AI 应用前沿
  10. DeepSeek刚限完流,就去给开发者免单了

    简单来说,开发者通过DeepSeek模型执行联网搜索任务,不再需要为搜索和网页抓取额外支付按次调用费用,但模型本身消耗的Token仍然正常计费。

    来源 凤凰科技
  11. 美光:2027 年存储芯片已有 75% 库存售罄,供需形势会比今年更加紧张

    IT之家 11 月 20 日消息,据科创板日报今日报道,美光科技总裁兼首席技术与产品官 Scott DeBoer 在接受采访时表示,存储芯片的供需在很长一段时间内都无法达到平衡。 他指出,在可预见的未来,供需找不到明确的平衡点,预计 2027 年供需形势会比 2026 年更加紧张。 另据 Investing.com 本

    来源 AI 行业观察
  12. 三星存储与移动业务换将:黄尚俊、崔元俊走马上任,联席CEO不变

    根据三星电子发送的一份电子邮件声明,在联席CEO全永铉(Jun Young-hyun)和卢泰文(TM Roh)的领导下,三星电子分别任命了存储和移动业务的新负责人。黄尚俊(Sang Joon Hwang)晋升为总裁,并将出任存储业务负责人。崔元俊(Won-Joon Choi)被任命为移动业务负责人。全永铉将继续负责设备

    来源 AI 行业观察
  13. 红帽曹衡康:模型常换、Token账单走高,企业AI落地怎么接

    “刚选定模型、完成平台搭建,业务流程也已经接入。但没过几天,市场上又出现一个表现更好的模型,CEO 转头就问 CIO:能不能也试试?”红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)提到了企业落地 AI 时经常遇到的一个困境。 对企业来说,换模型并不像个人更换一个聊天工具那么简单。模型背后还连接着 GPU

    来源 AI 行业观察
向下滚动自动加载更多