库内大语言模型
大型语言模型直接运行在数据库内部,用户可用自然语言提问,模型处理请求并返回内容。无需挑选外部 LLM,也不必处理集成复杂度和外部 LLM 在各数据中心的可用性问题。
官方说明 ↗拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
在 MySQL HeatWave 数据库内置大语言模型,直接对非结构化文档做生成、摘要与检索。
Oracle HeatWave GenAI 把大语言模型直接内置进 MySQL HeatWave 数据库,用户通过应用用自然语言提问,模型在库内处理请求并返回内容,可用于生成、摘要以及基于自有数据做检索增强生成(RAG)。它集成 OCI Generative AI 服务与 Amazon Bedrock,可访问 Cohere 和 Meta 的预训练基础模型,并覆盖 OCI 各区域、OCI Dedicated Region、Oracle Alloy、AWS 和 Microsoft Azure。使用库内 LLM 不产生额外费用,也无需订阅外部 LLM 或自行配置 GPU。官网未公开具体定价档位与免费额度的数字,具体费用需以官方页面为准。主要短板是它依附于 HeatWave 生态,非 MySQL HeatWave 用户难以直接使用,且官网未说明中文支持与国内可用性。
Oracle HeatWave GenAI 是 Oracle 旗下 MySQL HeatWave 数据库的生成式 AI 能力集合,面向希望在自己的数据上构建生成式 AI 应用的开发者和企业。它把大语言模型直接放进数据库内部,让用户在应用里用自然语言提问,模型就地处理请求并输出结果。
官网确认的主力能力分几块:库内大语言模型(In-database LLMs)、HeatWave Vector Store、灵活的向量处理,以及 HeatWave Chat。库内 LLM 可以基于非结构化文档生成或摘要内容,配合 Vector Store 做检索增强生成(RAG),还能与 MySQL HeatWave 自带的机器学习能力组合使用。模型来源上,它与 OCI Generative AI 服务及 Amazon Bedrock 集成,可访问 Cohere 和 Meta 的预训练基础模型。
对不同角色,用法不一样:普通用户通过应用界面用自然语言提问即可;开发者直接调用库内 LLM、用 LLM 推理批处理提升吞吐,无需订阅外部 LLM 或配置 GPU;企业侧则看重跨云一致性与成本,库内 LLM 在 OCI 各区域、OCI Dedicated Region、Oracle Alloy、AWS 和 Microsoft Azure 都能获得一致结果。
大型语言模型直接运行在数据库内部,用户可用自然语言提问,模型处理请求并返回内容。无需挑选外部 LLM,也不必处理集成复杂度和外部 LLM 在各数据中心的可用性问题。
官方说明 ↗内置向量存储,LLM 可借助它用自有数据扩充知识,而不是依赖微调。配合库内 LLM 即可完成检索增强生成(RAG)。
官方说明 ↗面向向量数据提供灵活且快速的处理能力,支撑 RAG 场景下对自有数据的检索与调用。
官方说明 ↗配合库内 LLM,帮助开发者交付预配置的上下文自然语言对话应用,无需自行搭建对话框架。
官方说明 ↗可基于非结构化文档生成或摘要内容。典型提问如请对这份方案简介生成一份摘要,模型处理该输入后输出摘要结果。
官方说明 ↗库内 LLM 可在 OCI 各区域、OCI Dedicated Region、Oracle Alloy、AWS 及 Microsoft Azure 使用,跨部署获得一致结果与可预期的性能。
官方说明 ↗与 OCI Generative AI 服务及 Amazon Bedrock 集成,可访问来自 Cohere 和 Meta 的预训练基础模型。
官方说明 ↗支持批量执行多个推理请求,让开发者同时处理多项任务,从而提升应用吞吐量。
官方说明 ↗库内 LLM 可与 Oracle MySQL HeatWave 的其他内置能力(如机器学习)组合使用,以降低成本并更快获得更准确的结果。
官方说明 ↗把生成式 AI 放在数据库里,省掉外部 LLM 选型和集成这一层,是 HeatWave GenAI 最实际的价值。当你的数据已经落在 MySQL HeatWave 上、又想做摘要、问答或 RAG 时,它值得一试:库内 LLM 不产生额外费用,不用订阅外部 LLM,也不用配置 GPU,批处理还能拉高吞吐。跨云覆盖 OCI 各区域、OCI Dedicated Region、Oracle Alloy、AWS 和 Azure,多环境部署结果一致。但如果你用的不是 MySQL HeatWave,这套能力基本用不上;价格与免费额度的具体数字未公布,做预算前需要先摸清计费方式。
数据已在 HeatWave 上,想直接对非结构化文档做摘要、生成或问答,不必把数据搬出库。
需要在应用里交付上下文自然语言对话,用 HeatWave Chat 与库内 LLM 可省去自建对话框架。
业务分布在 OCI、AWS、Azure 等多环境,要求生成式 AI 结果一致、性能可预期。
库内 LLM 不产生额外费用,但整体价格档位与免费额度上限未公布,立项前需先确认计费方式。
只想找个独立的文档摘要或问答工具,不打算接触数据库,HeatWave GenAI 的使用门槛不匹配。
使用库内大语言模型不产生额外费用,你不需要订阅外部 LLM。但整体方案的价格档位与免费额度上限未公布,涉及整体成本时需要先向官方确认计费方式。
它和 OCI Generative AI 服务以及 Amazon Bedrock 集成,可访问来自 Cohere 和 Meta 的预训练基础模型。你不需要自己挑选外部 LLM,也不用处理外部模型在各数据中心的可用性问题。
可以。配合 HeatWave Vector Store,LLM 能借助你的专有数据扩充知识,走检索增强生成(RAG)路线,而不必做微调。常见用法是让它对非结构化文档做生成或摘要。
可部署范围包括 OCI 各区域、OCI Dedicated Region、Oracle Alloy、AWS 和 Microsoft Azure,但中文支持与国内可用性未说明,国内团队启用前需要另行确认。
不需要。库内 LLM 省掉了自行选型和配置 GPU 的环节,也无需订阅外部 LLM;开发者直接调用库内模型即可,还能用批处理提升吞吐。
这套能力是建立在 MySQL HeatWave 之上的,数据落在 HeatWave 内才能直接用库内模型处理。若数据在其他系统,使用前需要先考虑是否迁移到 HeatWave。