光计算能接替GPU吗:能效高5个数量级,落地还要看N在1000到10000

资讯 腾讯网 作者:半导体产业纵横 全文 4092 字 · 约 11 分钟读完 分类芯片数据中心

理论能效碾压GPU,光计算离商用还有多远? 这一轮热潮兴起的原因并不出人意料:AI。尤其是AI推理——也就是AI模型响应用户提问的计算过程,催生了大量高功耗数据中心的建设,能效相对更高的光....

所属频道 算力与芯片

理论上,光计算的能效远胜GPU。

这波热潮为什么起来?答案不意外:AI。特别是AI推理,也就是模型回答用户提问时的那段计算,带动了大批高功耗数据中心开建。能效更高的光系统,因此被看成一条可走的破局路径。

彼得·麦克马洪在美国康奈尔大学(伊萨卡校区)应用与工程物理系任副教授,研究方向正是这一块。

英国公司Optalysys的做法,是把光计算单元嵌进网络链路——数据中心本来就用光传数据。图中芯片上内嵌的基础光学元件,承担的是相应运算。

如今在耶鲁大学纽黑文校区应用物理系担任助理教授的洛根·赖特,此前曾在麦克马洪课题组从事博士后研究。他提到:“这波企业里要是有一批能把技术路线真正跑通,对整个领域来说是件好事。这样攒下来的技术会很有价值,能带出一批光子系统——它们可能赶不上这轮AI热潮,但很多独特的任务它们干得了。”

光计算能不能救AI推理?

AI能耗的大头在推理。业内已砸下数十亿美元,开发更先进的GPU和其他芯片,想把推理能效尽量往上推。推理最核心的运算,是每秒重复亿万次的矩阵-向量乘法。

用光来做矩阵-向量乘法的设想并不新。1978年,光计算先驱约瑟夫·W·古德曼和合作者就提出了方案。

光的优势从算术上讲得通:一个N×N矩阵乘长度为N的向量,需要N²次乘法。电子计算里每乘一次都要耗能,总能耗随N²上涨。光计算不同,乘法是无源操作——矩阵不变,光穿过衰减器几乎不费电。耗能的环节只有两个:把向量编码成光信号、读出结果,而向量长度是N,不是N²。向量和矩阵越大,能耗只随N线性增长,不会按N²走。

从古德曼1978年提出方案至今,光学器件性能已大幅提升。2022年,麦克马洪在康奈尔带队演示了一套光学神经网络:单次乘法耗能不到1个光子,约2.5×10⁻¹⁹焦耳。传统计算机做一次乘法,能耗落在10⁻¹⁴~10⁻¹²焦耳区间,照此推算,光计算理论上能把能耗压低5个数量级。

不过麦克马洪提醒,这个理想推算不能直接照搬。第一,测算没算上把数据编码进光信号的能耗。就算光的缩放规律更优,实际落地不只看缩放关系,还要看系数。他举了个例子:电子做一次乘法耗1皮焦,光编码一个向量元素却要1000皮焦;向量长度N小于1000时,电子方案反而更划算。麦克马洪说,这个例子和现实差距不大:“核心问题是,系统规模要做到多大,光计算才能实现能耗优势?很多团队针对各类神经网络做过测算,粗略结论是N要在1000到10000之间。”

还有一条计算原理绕不开:

“

放到AI推理场景里,要的是省电,不是提速,但阿姆达尔定律照样起作用。现在的推理负载中,适合光计算加速的比例有多大,不同方案给出的答案差别很大,而且不可能达到100%。矩阵-向量乘法只是推理工作流的一环,不少非线性运算还得另想办法。把这些限制都算进去,眼下光计算企业的目标是:能效比现有GPU高出10~80倍。真正的考验在于,传统电子芯片追上这份能效增益之前,它们能不能把承诺规模化兑现。

自由空间光计算:把光路打通

牛津的初创公司Lumai,基本是直接接着古德曼团队的思路往下做。Lumai产品负责人菲利普·伯尔说,自由空间光路——光线在空气中走,不在片上波导里传——正是他们技术超过GPU的关键。

古德曼方案用的是固定衰减器,Lumai换成了现代可编程器件。

要公平比较光方案和GPU的能耗,先得划清负载范围。现代推理一般分两个阶段:

自由空间光如何实现向量矩阵乘法

Lumai和同赛道其他公司,都把力气放在算力密集的预填充阶段。Lumai称,2026年4月开放测试的Iris Nova光学服务器属于验证原型;下一代Iris Aura服务器跑预填充,能耗大约只有GPU的十分之一。

奥斯汀的初创企业Neurophos,则从古德曼光计算机出发,走了另一条路。为了在更小体积里装进更强算力,这家公司用上了自己的办法。

(图:显微镜探针对准绿色电路板上的方形微芯片。位于奥斯汀的Neurophos将微型器件集成到芯片上。)

鲍恩团队做出了基于超材料的调制器,能在微米尺度上编程调控光的相位和强度,最终在边长5毫米的芯片上,集成1000×1000规模的调制器阵列。鲍恩说,他们的调制器切换速度比传统液晶空间光调制器快上万倍。

他还给出了对标数据。

Lumai和Neurophos下的其实是同一个赌注:赶在传统CMOS的能效追上光计算之前,先把产品做出来、推上市场。伯尔说:“硅芯片还会一代代往下走,可数字芯片的能效提升已经慢下来了,成本还越压越高。光计算的缩放规律不一样:矩阵做得越大,能效上的便宜就越明显。模型更大、上下文窗口更长、智能体负载更重,预填充所需的算力会一直往上走,这恰好是光计算擅长的地方。”

除了自由空间光路,片上集成光子是另一条路。

古德曼方案里的乘法几乎不耗能,自由空间光路有望把它实现。可从古德曼70年代的论文算到今天,

耶鲁大学

Q.ANT创始人兼首席执行官迈克尔·费尔奇表示:“自由空间光学设备的年产量通常很难突破1000台,镜片检测、组装工艺等一连串难题是根源。相比之下,能用半导体工艺制造的集成光子电路,走向大规模量产的机会更大。”

用集成光子做向量矩阵乘法

示意图:光脉冲沿波导传输,穿过移相器,最后到达光电探测器(绘图:CHRIS PHILPOT)。在芯片上以光完成向量矩阵乘法,一种做法是把向量元素编码为光脉冲的振幅,让脉冲顺次沿波导传输。乘法靠的是

Q.ANT的做法是:输入数据经片上调制器写进光脉冲的相位和振幅;向量由一串脉冲表示,每个脉冲对应一个向量元素,光在芯片内由波导导引。干涉仪是基本的计算单元——波导一分为二,其中一路的光相位受电压控制,两路汇合后产生干涉,运算就此完成。随后光电探测器和模数转换器把结果变回数字信号。

这种串行脉冲式的向量矩阵乘法,速度比不上古德曼方案中的同步并行计算。但依靠

不过,这套方案在能效上的优势尚未得到最终确认。费尔奇也坦言,离真正落地还差得远。最核心的卡点是

不止于矩阵乘法

向量矩阵乘法眼下是AI推理的热点,可并非所有从业者都盯着这一块。实际上,用光做其他运算的研究,最早能追溯到上世纪50年代。比如:

费尔奇说:“数字芯片做一次傅里叶变换,要拆成成千上万步,占用大量晶体管、耗费许多计算周期。假如模型建立在这样的非线性运算之上,参数量和运算量更少,精度也能做到持平甚至更高。”

Q.ANT的光处理器当然能做传统的向量矩阵乘法,但公司认为它最大的价值在于适配更贴合光子特性的新型AI架构。费尔奇说:“图像分类、图像分割这类任务,高度依赖傅里叶级数、变换和其他非线性运算,光子硬件天生就擅长这些。在生成式AI,特别是图像、视频生成方面,我们也看到了类似的潜力。”

以色列

LightSolver的激光处理单元,是古德曼光计算机思路的一个有趣变体:输入光源、可编程空间光调制器、输出光路一应俱全,只是整套系统放在

(图:光学实验室里,红色激光在透镜与反射镜之间来回反射。以色列初创企业LightSolver借助自由空间光学,利用光本身的物理特性快速求解微分方程。来源:LIGHTSOLVER)

待求解的问题被编码进调制器后,增益介质受激产生随机光子。光子在腔内往返震荡,经增益介质放大、被调制器施加预设变换、彼此耦合,直至收敛到稳态——这个稳态就是问题的解。稳态结果最后由相机直接读出。LightSolver团队通过仿真验证,其激光处理单元求解微分方程的速度最高可达GPU的8万倍,具体提升幅度视负载而定;目前团队正在实测能效方面的提升数据。

LightSolver也在为激光处理单元开发AI应用,用自研算法做文生图。本-什洛米说:“我们不去高速跑向量矩阵乘法,我们做的是完全不一样的事。配套的模型训练和推理范式都得重新设计。可一旦换了范式,图像生成就有机会大幅降低能耗、提高速度。”LightSolver已拥有可用原型,正在研发规格更大、机架式的设备。

把计算放进传输途中

英国利兹的Optalysys,找到了另一条发挥光优势的路。创始人兼首席产品官尼克·纽长期钻研自由空间光学,很清楚用光做傅里叶变换有多简便。

Optalysys的核心思路,是把自由空间中的傅里叶变换能力搬到芯片上。纽介绍:“现在我们不用透镜,自研了硅平面上的无源器件,实现同样的功能。我们还巧妙设计了器件结构,做多路输出,从而支持更多种类的运算。借助傅里叶变换的响应特性,可以从中拆解出多种数学运算。依靠这套模拟光子方案,我们能以超高能效完成大规模、高精度的数字运算。”

“我们本质上,是在原本没有计算能力的环节,加入算力。”——尼克·纽,Optalysys。

这家公司没有从零设计一款独立加速器,而是瞄准AI负载里本就处于光域的环节:网络传输。数据中心内,服务器机架之间靠光纤互联,光链路也日益靠近GPU、CPU。

如今已有部分计算在数据传输途中完成,例如汇总多块GPU的计算结果,这类运算由交换机卡执行,可电域计算本身就会产生功耗。无源光学器件则有机会以几乎零能耗完成这类运算。

纽说,除GPU之间的通信外,Optalysys的技术还能用于GPU与内存之间的数据交互,在传输途中完成压缩、格式转换。回到AI推理场景,这套方案更适合解码阶段:解码属于内存受限型负载,开销主要来自反复读写模型数据。“我们更聚焦内存受限场景,刚好契合‘在通信链路里嵌入计算’的思路。我们本质上,是在原本没有计算能力的环节,加入算力。”

光计算的未来

光计算会取代数据中心里的GPU吗?耶鲁大学的赖特对此并不看好。他的判断是,算法迭代的方向不会天然朝着适配光硬件的方向走;真实情况可能正相反,模型开发者会优先让模型在GPU上跑得更好。

不过,就算未来几年AI推理不会全盘交给光计算,押注这条赛道的钱也不会打水漂。赖特表示:“我和很多同行依然保持乐观,英伟达、台积电这类企业都在投入。”至于光计算最后是拿来跑向量矩阵乘法、做专属仿真任务,还是去实现别的用途,目前都还没有定论。

*声明:本文系原作者创作。文章内容系其个人观点,我方转载仅为分享与讨论,不代表我方赞成或认同,如有异议,请联系后台。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Prime Intellect推出Model Factory:支持数千GPU训练万亿参数MoE

    智东西(公众号:zhidxcom)编译 | 孙小雯编辑 | 程茜智东西11月20日消息,昨日,美国AI Infra创企Prime Intellect宣布推出模型训练平台Model Factory,企业可根据平台支持的模型和算力配置,更新现成模型的全部参数,或从零训练新模型。该公司称,其底层强化学习框架prime-rl支

    来源 腾讯网
  2. 阿里云单季收入突破600亿,吴泳铭:算力紧缺是长期现实,数据中心建设目标可能下调

    【TechWeb】11月20日消息,阿里巴巴发布2027财年第二季度(自然年2026年7—9月)财报,该季度阿里云板块收入609.73亿元,同比增长53%,其中,外部客户收入同比增长64%,刷新近六年来的增速高点。剔除一次性硬件交付后的外部经常性收入增速进一步升至67%。在资本开支同比大增60%至504.77亿元的重投

    来源 腾讯网
  3. 黄仁勋卸任后英伟达评级遭下调,AMD被做空机构质疑订单

    【TechWeb】11月20日消息,黄仁勋卸任英伟达CEO带来的震荡仍在AI芯片产业链持续蔓延。19日行业接连爆出多重利空:英伟达遭遇勒索组织数据威胁、穆迪下调其信用评级展望,同时做空机构发布报告质疑AMD订单真实性与流动性安全,叠加台积电

    来源 TechWeb
  4. 英伟达单周跌近23%创2008年来最差,美股AI板块集体重挫

    板块方面,半导体产业链成为重灾区,费城半导体指数暴跌10.73%。英伟达跌14.01%,报收125.53美元,连续第7个交易日下跌;特斯拉跌7.64%,Meta跌5.93%,亚马逊跌4.10%,微软跌2.77%,谷歌跌2.59%,苹果跌1.90%。值得一提的是,英伟达本周累计下跌近23%,创2008年10月以来最大单周

    来源 TechWeb
  5. 英伟达重挫14%:美股三大指数齐跌,纳指跌5.28%

    板块方面,半导体产业链成为重灾区,费城半导体指数暴跌10.73%。英伟达跌14.01%,报收125.53美元,连续第7个交易日下跌;特斯拉跌7.64%,Meta跌5.93%,亚马逊跌4.10%,微软跌2.77%,谷歌跌2.59%,苹果跌1.90%。值得一提的是,英伟达本周累计下跌近23%,创2008年10月以来最大单周

    来源 TechWeb
  6. 14%收益提升!OpenAI用AI造芯,5个月完成人工1年工作量,Astra领跑

    智东西(公众号:zhidxcom)编译 | 程茜编辑 | 李水青智东西11月19日消息,刚刚,OpenAI宣布,其模型在不到五个月内,将AMD旗舰级GPU IP的PPA(芯片设计核心指标)提升高达14%,这是此前人类工程师约一整年的研发工作量。OpenAI的研究证明,在RISC-V评估任务中,模型能够探索全新处理器架构

    来源 腾讯网
  7. 英伟达H200、AMD MI325X对华许可明细公开:344万颗申请获批88万颗

    【TechWeb】11月20日消息,当地时间11月19日,美国众议院外交事务委员会公开了英伟达H200、AMD MI325X高端AI芯片对华出口许可明细,这份由委员会主席Brian Mast依据《出口管制改革法案》披露的文件,统计节点截至2026年5月11日,也是该法案生效以来透明度最高的一轮芯片许可披露。 文件显示,

    来源 AI 行业观察
  8. 张博开源Linger本地版Muse:个人电脑跑Agent,准确率95%

    智东西(公众号:zhidxcom)作者 | 黄菲编辑 | 江宇智东西11月20日报道,昨夜,前DeepSeek研究员、Simplex AI创始人张博(Tony Zhang)宣布开源个人Agent Linger,号称要让Agent摆脱对云端数据中心的依赖,直接运行在用户自己的电脑上。项目发布后迅速引发关注,GitHub星

    来源 腾讯网
  9. 三星高管谈AI投资:Neocloud风险有限,需求真实非投机

    IT之家 11 月 20 日消息,据路透社当地时间 18 日报道,三星电子两位高管在本周举行的摩根士丹利会议上表示 Neocloud(新兴 AI 云服务企业)面临的不确定性对整体市场的影响有限,这轮 AI 投资基于实际需求而非投机。 三星 DS(设备解决方案,半导体板块)部门经营战略总管负责人 Kim Yong-kwa

    来源 AI 行业观察
  10. AMD苏姿丰给出2027年指引:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  11. AMD苏姿丰给出2027年目标:服务器营收翻倍,总营收增幅超80%

    11月19日,AMDCEO苏姿丰在第三季度财报电话会议上给出了极为激进的业绩指引:预计2027年公司服务器业务营收将实现同比翻倍,整体营收增幅超过80%。这一表态正值全球AI算力需求持续井喷、竞争对手英伟达深陷高层动荡的微妙窗口期,AMD正加速抢占数据中心市场份额。

    来源 TechWeb
  12. 立讯不做iPhone组装

    说起立讯精密,很多人会想到苹果。 从iPhone里的连接器,到AirPods、Apple Watch的组装,这家公司做的东西不少。这些年,它还把生意做到了汽车和数据中心。 202....

    来源 腾讯网
  13. AI数据中心排放飙升,Meta重审2030净零目标

    Meta正在重新评估2030年可持续发展目标,背景是AI数据中心扩张导致排放创纪录。本文梳理算力竞赛如何推高电力与碳成本,分析Meta调整的可能路径,并探讨微软、谷歌、亚马逊等科技巨头是否会跟进,以及净零承诺在AI时代面临的透明度与执行挑战。

    来源 AI 科技快讯
  14. 百年德企花落黄埔:破解AI“吃电”难题

    南方财经记者朱治宣 一次AI提问只需几秒,背后是数据中心瞬间拉高的电力负荷。当AI算力向兆瓦级扩张,怎么供电、如何不断电、电池会不会起火,正在成为比算力本身更现实的难题。 11月20日,TÜV南德意志集团国际科技创新园区在广州开发区、黄埔区落成。园区聚焦新能源、新型储能、机器人与人工智能、数字信任四个方向,核心...

    来源 腾讯网
  15. 英伟达投资版图:持股超1000亿美元,钱都流向了谁

    近年来,英伟达一直被业内人士誉为是AI循环融资经济的“中央银行”。在前首席执行官黄仁勋的领导下,英伟达不仅为全球AI浪潮打造了底层核心基石——GPU芯片,更凭借雄厚财力构筑起一座庞大的“资本弹药库”。 然而,伴随这位“皮衣刀客”的骤然离任,华尔街与硅谷无不忧心忡忡:这股源源不竭的资金活水是否还将继续奔涌?一旦水龙头骤然

    来源 AI 行业观察
  16. 霍普金斯大学研究:美国电网设备2027年或临短缺?

    约翰斯 · 霍普金斯大学近日在《Cell Reports Sustainability》期刊发表的一项研究显示,美国最早可能在 2027 年就面临电网设备短缺,影响新建电厂和数据中心并网。到 2030 年,变压器和变流器的短缺问题或将进一步恶化。

    来源 IT之家
  17. 国产存储前传

    中国存储芯片研发的起点,与美国相差不到5年。1975年中国第一块1K DRAM问世时,只比美国英特尔的1103存储芯片迟了5年。早在1956年,中国在《1956—1967年科技发展规划》中提出,国家新技术发展的“四项紧急措施”——计算机、电子学、半导体、自动化,要求相关部门集中全国科技力量进行攻关。这份跨越12年的科技

    来源 腾讯网
  18. 太空数据中心融资难题:抵押物上了天,银行敢放贷吗

    太空数据中心正从概念走向发射合同:轨道上太阳能几乎不间断,余热可辐射进深空,抗辐射芯片也已被证明能在轨服役数年。但真正的瓶颈不在技术,而在融资——当抵押物被火箭送上轨道,银行既无法查封也无法拍卖。保险、长期算力合同与政府订单能否补上这个缺口,决定了这个行业究竟能走多远。

    来源 AI 科技快讯
向下滚动自动加载更多