检索增强回答
先在大规模文献库中检索相关论文，再基于检索到的来源生成回答，引用落在真实论文上，而不是凭空生成参考文献。
Ai2 OpenScholar
AI TOOL PROFILE工具资料面向科学文献的检索增强语言模型，回答先检索真实论文再生成
价格官网未标价
平台Web / API
归类AI 搜索
收录2024-11-19
复核2024-11-19
编辑评分
4.2 / 5
★★★★☆
Ai2 OpenScholar编辑总结
OpenScholar 是华盛顿大学与 Allen Institute for AI 合作推出的首个完全开源的检索增强语言模型系统，面向科研文献的综合与问答。它由 45M 篇论文的数据存储、专用检索器与重排器、以及基于 Llama 3.1 8B 微调的 8B 语言模型组成，回答前先检索再生成，因此引用都落在真实论文上。在 ScholarQABench 生物医学问题上，GPT-4o 引用的科学论文有超过 90% 是虚构的，而该 8B 模型按构造即保持grounded。它仍是研究原型，官网未公开具体定价与免费额度。
Ai2 OpenScholar是什么？
OpenScholar 由华盛顿大学与 Allen Institute for AI 合作开发，是一个面向科学文献的检索增强语言模型系统。它的目标是回答用户提问时先搜索相关论文，再基于这些来源生成回答，帮助科研人员从每年数百万篇论文中快速找到并综合所需知识。
当前主力形态是 8B 参数的语言模型（OS-8B），在 Llama 3.1 8B 上微调，配合专门训练的检索器与重排器，以及由 Semantic Scholar 论文构成、包含超过 45M 篇论文和约 250M 段落向量的数据存储。系统在推理时使用迭代自反馈生成，每轮迭代会额外检索更多论文，以提升质量并补上引用缺口。
使用方式上，研究人员可以直接访问 openscilm.allen.ai 的演示进行提问；开发者可以取用全部开源代码、语言模型、检索器与重排器检查点、检索索引以及训练数据；团队则可以把这套检索、重排与自反馈流程叠加到其他现成语言模型之上。
Ai2 OpenScholar核心功能
45M 论文数据存储
数据存储收录超过 45M 篇来自 Semantic Scholar 的论文，以及约 250M 对应的段落向量，底层数据来自 peS2o 的更新版本，覆盖到 2024 年 10 月的论文。
专用检索与重排
检索器和重排器针对从科学文献数据存储中识别相关段落做了专门训练，而不是通用检索模型直接套用。
8B 科学合成模型
8B 参数语言模型在 Llama 3.1 8B 基础上微调，专门优化科学文献综合任务，在性能与计算效率之间做平衡。
迭代自反馈生成
推理时用自然语言反馈反复打磨输出，每一轮迭代都会额外检索更多论文，用来提升回答质量并补上引用缺口。
完整开源流水线
代码、语言模型、检索器与重排器检查点、检索索引、训练数据、学术论文数据存储与 ScholarQABench 评测数据全部开源。
可叠加其他模型
数据存储、检索与重排模型以及自反馈生成流程可以叠加到其他现成语言模型之上，不绑定在自家 8B 模型上使用。
Ai2 OpenScholar值不值得用？
当你要在生物医学、计算机或物理文献里找有真实出处的答案时，OpenScholar 的检索增强路线值得优先试——它的 8B 模型引用都落在实际检索到的论文上，而 GPT-4o 在生物医学问题上引用的论文有超过 90% 是虚构的。20 位计算机、生物医学和物理领域的科学家参与评估，多数问题上 8B 模型的回答被认为比专家撰写的答案更有用。但它是研究原型，官网未公开定价和免费额度，也没有说明地域与语言支持范围，把它当作生产工具前需要先自己验证。
建议选它的情况
- 需要带真实论文引用的文献综述式回答
- 生物医学、计算机、物理方向的研究人员
- 想复现或改造完整检索增强流水线的开发者
不建议选它的情况
- 需要稳定商业 SLA 与明确收费方案的生产环境
- 非英文或其他语言文献为主的研究场景
Ai2 OpenScholar使用建议
入门先把路子走对
- 先跑演示从 openscilm.allen.ai 的 Demo 入手，用自己的研究问题试几条，观察回答里的引用是否都能对上原文。
- 核对引用原文系统按构造 grounded 在检索到的论文上，但引用位置是否精确仍需自己回查原文段落，尤其是跨学科问题。
- 带着具体问题问检索靠的是论文段落匹配，问题越具体（限定研究对象、方法或结论），召回到的相关段落越准。
进阶省时间也省钱
- 叠加到别的模型数据存储、检索器、重排器和自反馈生成流程可以套在其他现成语言模型上，想比较基座模型时不必重训整条链路。
- 按需重建索引底层数据覆盖到 2024 年 10 月的论文，需要更新的文献时可以基于开源的数据与训练配方自行更新检索索引。
- 用基准做回归ScholarQABench 的评测数据已开源，改造模型或流程后可以用它对比事实性与引用准确率的变化。
Ai2 OpenScholar适合谁用？
生物医学研究者
推荐在生物医学研究问题上，该 8B 模型的引用保持 grounded，而 GPT-4o 引用的论文超过 90% 是虚构的，适合用来做文献初筛。
计算机方向科研人员
推荐20 位计算机、生物医学、物理领域的科学家参与评估，多数问题上 8B 模型的回答被评为比专家撰写的答案更有用。
检索增强方向开发者
推荐代码、模型、检索器与重排器检查点、检索索引、训练数据与评测数据全部开源，可直接复现和改造。
生产环境使用者
有条件官方明确这是研究原型，官网未公开定价、额度与服务等级，直接用于正式业务存在风险。
非英文文献研究者
不推荐数据存储来自 Semantic Scholar 的英文论文数据，官网未说明其他语言的文献覆盖情况。
Ai2 OpenScholar优点和缺点
优点
- 生物医学问题上引用准确，GPT-4o 虚构引用超 90%，该 8B 模型保持 grounded
- 数据存储含超过 45M 篇论文与约 250M 段落向量，覆盖到 2024 年 10 月
- 代码、模型检查点、检索索引与训练数据全部开源
- 20 位科学家评估中，多数问题的回答比专家撰写答案更有用
- 检索、重排与自反馈流程可叠加到其他现成语言模型上
缺点
- 官方定位为研究原型，官网未公开定价与免费额度
- 官网未说明地域限制与语言支持范围
- 主力模型为 8B 参数，规模小于同级闭源模型
- 底层论文数据覆盖到 2024 年 10 月，之后的新论文需自行更新索引
Ai2 OpenScholar关键指标
| 指标 | 数值 | 数据来源 |
|---|---|---|
| 数据存储论文数 | 超过 45M 篇来自 Semantic Scholar 的论文 | Ai2 OpenScholar 官方博客 |
| 段落向量数 | 约 250M 对应段落嵌入 | Ai2 OpenScholar 官方博客 |
| 模型参数规模 | 8B（基于 Llama 3.1 8B 微调） | Ai2 OpenScholar 官方博客 |
| GPT-4o 虚构引用比例 | 在生物医学研究问题上超过 90% 的引用论文为虚构 | Ai2 OpenScholar 官方博客 |
| 参与评估的科学家数 | 20 位，来自计算机科学、生物医学和物理领域 | Ai2 OpenScholar 官方博客 |
| 底层数据时间覆盖 | 论文收录至 2024 年 10 月 | Ai2 OpenScholar 官方博客 |
Ai2 OpenScholar常见问题
OpenScholar 现在用的是什么模型？＋
主力是 8B 参数的 OS-8B，在 Llama 3.1 8B 上微调，专门针对科学文献综合任务优化，用来在性能和计算效率之间做平衡。它配套专门训练的检索器和重排器，以及收录超过 45M 篇论文、约 250M 段落向量的数据存储。
它的引用可靠吗？＋
回答按构造 grounded 在实际检索到的论文上，先检索再生成。在 ScholarQABench 的生物医学研究问题上，GPT-4o 引用的科学论文超过 90% 是虚构的，而这个 8B 模型不会出现这种情况。具体引用位置是否精确，仍建议回查原文。
和 GPT-4o 这类通用模型怎么选？＋
在生物医学等科学文献问答上，OpenScholar 引用的论文都是真实检索到的，GPT-4o 在该类问题上虚构引用超过 90%。20 位计算机、生物医学、物理领域的科学家参与评估，多数问题上 OpenScholar 的回答被认为比专家撰写的答案更有用。如果需要的是通用对话或非科研任务，通用模型更合适。
可以自己部署或改造吗？＋
可以。代码、语言模型、检索器与重排器检查点、检索索引、训练数据（含语言模型与检索器训练数据）、学术论文数据存储以及 ScholarQABench 评测数据都已开源，据官方说法这是首个从数据到训练配方再到模型检查点的完整科学助手流水线开源。
能支持中文提问或中文文献吗？＋
数据存储来自 Semantic Scholar 的论文集合，底层数据是 peS2o 的更新版本，包含超过 45M 篇论文，覆盖到 2024 年 10 月。官网未说明中文提问或中文文献的检索支持情况，中文场景需要自行用开源组件验证。
Ai2 OpenScholar竞品对比
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Ai2 OpenScholar本工具 | 4.2 | 未标价 | 检索增强回答；45M 论文数据存储；专用检索与重排；8B 科学合成模型 | Web / API |
| GPT-4o本工具 | — | 未标价 | 在 ScholarQABench 生物医学问题上引用的科学论文超过 90% 为虚构，OpenScholar 的 8B 模型按构造 grounded 在真实检索论文上。 | — |
在科学文献问答这个场景下，选 OpenScholar 的理由是引用落在真实检索到的论文上：生物医学问题上 GPT-4o 的引用超过 90% 是虚构的，而 OpenScholar 按构造 grounded。20 位计算机、生物医学、物理领域的科学家评估中，多数问题上 OpenScholar 的回答被认为比专家撰写的答案更有用。如果任务不是文献综合，而是通用对话、写作或非科研领域问答，通用模型更合适。
Ai2 OpenScholar最新动态
-
OpenScholar 发布
华盛顿大学与 Allen Institute for AI 合作推出首个完全开源的检索增强语言模型系统，8B 模型在 ScholarQABench 上取得事实性与引用准确率的最好成绩。
官方公告 ↗
