灵活模型路由
托管访问主流大模型,服务可按请求自动选择最合适的模型,并帮助管理用量与成本,开发者无需自行切换底层模型。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Oracle 云上的企业级生成式 AI 服务,可构建与部署生产级 AI 智能体
官网地址 https://www.oracle.com/artificial-intelligence/generative-ai/large-language-models/
OCI Enterprise AI 是 Oracle 云基础设施(OCI)面向企业的生成式 AI 服务,帮助开发者在多种数据源上构建和部署生产级 AI 智能体。它支持使用开放标准与开源框架搭建智能体工作流,并以零数据留存端点托管访问主流大模型,同时提供数据主权托管选项与统一治理能力。目前该服务已正式发布(GA)。短板是官网未公开具体定价与免费额度,且上手依赖 OCI 账户与云平台经验。
OCI Enterprise AI 是 Oracle 云基础设施(Oracle Cloud Infrastructure,简称 OCI)提供的企业级生成式 AI 服务,由 Oracle 打造,面向希望在云上构建、部署与治理 AI 智能体的开发团队和企业。它把模型选择、企业数据接入、智能体工作流编排和生产环境运维整合到同一套服务中。
平台支持托管访问主流大模型,并提供零数据留存端点,开发者既能使用开源模型也能使用专有模型。它还提供专用 AI 集群(Dedicated AI Clusters),以预留 GPU 资源支撑对性能和资源隔离有要求的生成式 AI 工作负载,并提供数据托管与处理的主权 AI 选项。整体流程分为四步:选择基础模型、把智能体接入企业数据与知识源、定义智能体可调用的工具与 API、在生产环境中部署并运维。
开发者可用开放标准和开源框架搭建智能体工作流,避免被单一厂商锁定;企业团队则通过基于身份与访问管理(IAM)的访问控制、护栏、可观测性与审计能力,在规模化部署时保持一致的治理。该服务适合已有 OCI 使用经验、对数据安全与合规有要求的组织。
托管访问主流大模型,服务可按请求自动选择最合适的模型,并帮助管理用量与成本,开发者无需自行切换底层模型。
可把智能体连接到企业结构化系统与知识源,并对非结构化内容使用基于向量搜索的检索,让回答有企业数据作为依据。
开发者可定义智能体能调用哪些工具和 API,以及它如何编排多步动作和对话上下文来完成具体任务。
提供预留 GPU 资源的托管推理服务,运行在专属资源而非与其他客户共享的容量上,适合对性能和资源隔离有要求的负载。
专用集群可托管受支持的预训练模型、微调后的自定义模型以及兼容的开源权重模型,覆盖较广的 AI 使用场景。
提供护栏、基于身份与访问管理(IAM)的访问控制、可观测性与审计能力,支撑智能体在生产环境中的安全可靠运行。
通过零数据留存端点访问模型,有助于企业在使用生成式 AI 时满足数据管理、安全与合规方面的要求。
提供数据托管与处理的主权 AI 选项,便于对数据存放位置和处理方式有特定要求的组织在本地或指定区域运行。
当你的团队已经在用 OCI,或对数据主权、合规和模型访问治理有明确要求时,OCI Enterprise AI 值得考虑:它把模型访问、数据接入、智能体编排和生产运维放在同一套云服务里,并配了预留 GPU 的专用集群。若你只是想在本地快速试玩一个对话模型,或对价格非常敏感、需要先看到清晰的按量费率再决策,则要留意,需要先联系销售确认。总体它更偏企业级工程落地,而不是开箱即用的轻量工具。
已有 Oracle 云使用经验,希望在可信系统附近运行模型并构建生产级智能体的团队。
金融、医疗等对数据托管位置、留存和访问审计有要求的组织,可用主权 AI 与零数据留存端点满足约束。
生产负载对推理性能可预测性有要求时,可选用专用 AI 集群的预留 GPU 资源。
未公开具体定价与免费额度上限,个人若想先比较成本再决定,选择前需要先向官方确认费用。
平台围绕智能体构建与部署设计,不提供面向个人娱乐的即开即用聊天场景。
已经可用。Oracle 宣布 OCI Enterprise AI 正式发布(GA),定位是帮助企业团队更快构建、部署和治理生产级 AI 智能体。还提到该服务是端到端方案,覆盖从模型选择到生产运维的完整流程。
官网说明可访问专有和开源的生成式大语言模型(LLM),并支持通过专用 AI 集群托管受支持的预训练模型、微调后的自定义模型以及兼容的开源权重模型。具体可用的模型清单官网未逐一列出。
官网涉及注册 OCI 账户可获得免费云积分,用于试用包括生成式 AI 在内的 OCI AI 服务,但积分额度和适用范围官网未明确说明。
官网给出四步流程:先选择最适合用例的基础模型;再把智能体连接到企业数据与知识源,包括结构化系统和面向非结构化内容的向量搜索检索;然后定义智能体的工作流,即它能调用哪些工具和 API、如何编排多步动作与对话上下文;最后在生产环境部署并运维。
包括的能力包括零数据留存端点、基于身份与访问管理(IAM)的访问控制、护栏、可观测性和审计能力,并支持数据托管与处理的主权 AI 选项。这些能力用于支撑智能体在生产环境中的安全可靠运行。
专用 AI 集群是一种托管推理服务,为工作负载提供预留的 GPU 容量。说明它用专属资源而非与其他客户共享的容量运行模型,从而获得可预测的性能,适合对资源隔离和稳定推理有要求的生成式 AI 负载。