HyperQ用64量子比特，让11亿参数模型零样本超过80亿模型

王晓强是加拿大蒙特利尔大学（Université de Montréal）与 Mila 人工智能研究所的博士生，导师为刘邦教授。读博期间，他主要研究以记忆模型驱动的递归自我改进（RSI），把它当作大模型智能体的 scaling 范式。目前他已在 NeurIPS、ICLR、ACL、EMNLP 等人工智能顶级会议发表多篇论文。

2019 年，Google 用 Sycamore 的 53 个有效量子比特跑完随机电路采样，只花了 200 秒，并估算当时最快的超级计算机要跑约一万年。IBM 很快提出不同看法：优化经典模拟方法后，同一任务大约 2.5 天就能完成。围绕 “量子优越性” 的这场争论，把量子计算的潜力带到了公众面前。

七年过去，AI 已经直接下场做量子计算实验。2026 年 9 月，

AI 已经能帮科学家做研究了？

扩散语言模型如今用上了逐 Token 自适应的量子计算——这是加拿大蒙特利尔大学、Mila 人工智能研究所与麦吉尔大学团队新提出的 HyperQ 方案。64 量子比特条件下，参数量仅 11 亿（1.1B）的模型在六项零样本测试中拿到平均分，超过 Qwen3-8B 等 80 亿参数模型。团队还把相关量子电路放到 IBM 156 量子比特量子集群上跑通了验证。

量子计算到底怎么给语言模型帮忙？HyperQ 又凭什么用 64 量子比特去挑战 80 亿参数模型？

• 论文标题：Circuit Hypernetworks for Quantum-Augmented Diffusion Language Models

• 论文地址：https://arxiv.org/abs/2609.24657

先看量子计算的基本概念。

量子计算和经典计算最大的区别，是量子比特能处在 0 和 1 的叠加态，再借量子门完成复杂的状态变换（图 2）。一组量子比特上依次作用多个量子门，就组成了一个量子电路，测量之后得到经典读出数值。对神经网络来说，量子电路提供了一种有别于传统线性变换的计算方式。

HyperQ 的动态量子电路

可量子计算要真正为语言模型所用，该怎么落地？

扩散语言模型尤其特殊。它不像自回归模型那样一个词一个词地生成，而是从大量掩码（[MASK]）起步，经过多轮去噪慢慢还原出完整文本。同一个 Token 的隐藏状态，会随着去噪过程不断变化。

现有的量子增强语言模型大多用事先设计好的固定量子电路，没法按不同 Token 的内容灵活调整。

HyperQ 的做法很直接：让语言模型自己决定，每个 Token 该配什么样的量子计算。

如图 3 所示，HyperQ 的核心是一个轻量级超网络（Hypernetwork），它依据每个 Token 当前的隐藏状态，动态生成专属的量子电路。

图 3. 扩散去噪（左）、含量子计算分支的 Transformer 层（中）与逐 Token 量子电路（右）

如图 4 所示，整个过程分三步走：

1. 生成量子电路：根据 Token 的隐藏状态，生成量子门的旋转角度、耦合强度和测量方向。

2. 执行计算：用量子电路变换信息，再从各量子比特的测量结果里提取特征。

3. 增强模型：把这些量子特征加进 Transformer 的注意力计算，帮助模型预测文本。

由此，不同 Token 可以用上不同的量子电路；同一个 Token 在不同去噪步骤中，计算方式也能动态调整。

另外，HyperQ 不用重新训练整个语言模型，只训练新增的量子计算分支就行。

量子电路的规模扩展

量子计算有个现实难题：量子比特越多，计算和训练往往越难。要完整描述 64 量子比特的量子态，需要多达 264 个振幅。

HyperQ绕开这道坎的办法，藏在量子电路的设计里。其一是稀疏连接：每个量子比特只跟 4 个邻居相连，量子电路规模往上走时，连接数量不会跟着猛涨。其二是采用一种特殊的 IQP 量子电路，只读取量子比特的测量期望值，这些期望值用经典计算就能直接求解，计算量随量子比特数量线性增长。

算力开销降下来了，量子电路训练里常见的梯度消失问题也得到缓解（图 5）。图 5. 量子电路梯度方差（左）与量子计算分支显存及延迟（右）

这样一来，HyperQ 在经典计算机上就能高效训练规模更大的量子计算分支，同时不丢与量子硬件的兼容性。

实验结果

性能在六项零样本测试中做了验证，覆盖常识理解、阅读理解、数学推理等任务。最受关注的是 64 量子比特那一组结果（图 6）：

对比冻结主干，HyperQ 高出 4.71 分，也超过了同主干的 LoRA 微调，而它用到的指令微调数据只有后者的十分之一。

实验还显示，量子电路不是越大越好。16 量子比特时 HyperQ 甚至不如冻结主干，扩到 64 量子比特，性能才明显抬升。

关键不只在量子比特数量，还在于量子电路能不能跟着 Token 动态调整。

图 7 左侧表格给出了对照：64 量子比特下，HyperQ 比最优固定量子电路高 3.68 分；对离散结构搜索，也有 2.00 分的领先。

图 7 中间和右侧两图则显示，16 量子比特时 HyperQ 会按 Token 的信息量分配纠缠，实词和罕见子词保留的耦合最密，30.2% 的标点会把量子电路内部的旋转和耦合关掉。图例里，Ring and chord 指同时保留相邻量子比特间的环耦合和跨固定间隔的弦耦合，Ring 和 Chord 各自只留其中一层，Product 只留单比特旋转，Identity 只留读出。到 64 量子比特，约九成 Token 所用电路结构不与其他 Token 重复。

作为对照，固定量子电路让所有 Token 共用一套结构；离散结构搜索也按 Token 选电路，但每个 Token 只能从有限的候选结构里挑，并非为这种细粒度的逐 Token 分配而设计。图 7. HyperQ 对比固定量子电路及离散结构搜索（左）、Token 耦合分配（中）与量子电路结构频次（右）

量子集群实验。此前的主要实验都是用经典计算模拟量子电路，那这些电路能不能真跑在量子计算机上？

团队在不改动模型权重的前提下，把量子计算分支里的量子电路部署到了 IBM 156 量子比特量子集群。结果即便受硬件噪声影响，大部分性能仍能保住：64 量子比特下，量子集群上跑的六项零样本测试平均分只比经典模拟低 1.12 分（图 8）。

图 8. 量子集群上的分数损失（左）、评测题数（中）与执行的量子电路数（右）

可见 HyperQ 不光能在经典计算环境里训练，它的量子电路在量子硬件上执行同样可行。

结语

HyperQ 打开的方向是：每个 Token 都能调用专属的量子电路，计算结构由此成为模型能力增长的新维度，量子计算与大模型也走向更深层的结合。团队还将继续在量子基础模型方向深耕。