本地模型探索器
运行 interpreter --local 启动交互式设置,可以选择推理服务商、挑选模型、下载新模型。想让更多推理引擎加入,可以向官方仓库提交 PR。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
为开源解释器带来易用的本地模型探索与离线代码解释能力
Local III 是 Open Interpreter 于 2024 年 6 月 18 日发布的重大更新,由超过 100 位贡献者共同开发。它带来一个交互式的本地模型探索器,只需运行 interpreter --local 即可选择推理服务商、挑选并下载模型。更新深化了对 Ollama 的集成,并内置面向 Llama3、Moondream、Codestral 等开源模型的优化配置。此外还引入一个免费托管的可选模型,通过 interpreter --model i 使用,对话会用于训练其自研的开源语言模型。不足之处在于本地运行对硬件有要求,部分功能仍处于实验阶段。
Local III 是 Open Interpreter 项目在 2024 年 6 月 18 日发布的一次重大更新,由来自各个时区的超过 100 位贡献者共同开发。它的目标是为普通用户和开发者提供个人化、私密的机器智能访问方式,让本地模型用起来更省心。
这次更新包含多个部分:一个交互式的本地模型探索器,运行 interpreter --local 即可启动;一个免费托管的语言模型端点,通过 interpreter --model i 调用;与推理引擎 Ollama 的深度集成;以及面向 Codestral、Llama3、Qwen 等开源模型的推荐配置。它还提供了本地视觉能力和实验性的本地操作系统模式。
普通用户可以直接用免费托管端点零配置上手;开发者可以把模型的接入、系统消息、示例等写进配置文件,通过 interpreter --profiles 打开配置目录进行定制;团队则可以在离线环境下借助本地模型完成代码解释,把数据留在自己的机器上。
运行 interpreter --local 启动交互式设置,可以选择推理服务商、挑选模型、下载新模型。想让更多推理引擎加入,可以向官方仓库提交 PR。
新增一个免费语言模型端点,提供 Llama3-70B,用户无需任何配置即可使用,同时为训练小体积本地模型贡献对话数据。
通过一条 interpreter --model 命令即可让任意 Ollama 模型获得代码解释能力,命令会抽象掉模型设置步骤,只在你尚未下载模型时才进行下载。
为 codestral、llama3、qwen 等本地模型提供了调优后的配置,通过 interpreter --profile 指定,也可用 interpreter --profiles 打开配置目录自行修改。
发送给本地模型的图像会先由小巧的视觉模型 Moondream 生成描述,同时模型还会接收从图像中提取的 OCR 文本,运行 interpreter --local --vision 启用。
启用本地视觉后,实验性的本地 OS 模式会一并开启,Open Interpreter 可以控制鼠标、键盘并查看屏幕,通过其开源 Point 模型识别图标进行点击操作。
更新加入了一整套设置,让离线环境下的代码解释运行更加稳定可靠,这是本次更新重点改善的方向之一。
当你希望在本地或离线环境下使用代码解释能力、又不愿把数据交给云端服务时,Local III 值得一试,它把本地模型的挑选、下载和配置都收进了一个交互式入口,并对 Ollama 和主流开源模型做了推荐设置。当你想立刻获得稳定成熟的产品体验时要留意,本次更新中的本地 OS 模式被明确标注为实验性,本地运行的流畅度也依赖你自己的机器条件。免费托管端点虽然好用,但对话会被用于训练模型,对隐私敏感的场景应优先选择本地模型。
本地模型让代码与数据留在自己的机器上,适合对数据外流有顾虑的人。
已有 Ollama 环境的话,一条命令即可让本地模型获得代码解释能力。
官方为 Codestral、Llama3、Qwen 等提供了推荐配置,也欢迎自行修改与贡献。
免费 i 模型端点会收集对话用于训练,需要先接受这一点再使用。
本地模式需要自行挑选模型并依赖机器性能,实验性功能也尚不稳定。
本次更新推出的 i 模型是一个免费语言模型端点,用户可以零配置使用。除此之外的定价信息官网未公开,具体以官方页面为准。
重点在本地模型体验:交互式的本地模型探索器、与 Ollama 的深度集成、面向 codestral、llama3、qwen 的优化配置,以及本地视觉和实验性的本地操作系统模式。
想省事就用托管端点,运行 interpreter --model i 即可,但对话会被用于训练开源模型;想保护隐私就用本地模型,通过 interpreter --local 挑选并下载合适的模型。
该端点提供 Llama3-70B。对话会用于训练其自研的小体积、可在本地运行的语言模型,并在开源模型与训练集之前移除个人身份信息。
运行 interpreter --model 并带上 Ollama 模型库中的模型名即可,这条统一命令会省略所有模型设置步骤,只在你之前没下载过该模型时才下载。
用 interpreter --profile codestral.py、llama3.py 或 qwen.py 加载对应配置,也可以通过 interpreter --profiles 打开配置目录自行调整。
发送给本地模型的图像会由小巧的视觉模型 Moondream 生成描述,模型同时还会收到从图像中提取的 OCR 文本,使用 interpreter --local --vision 启用。
官网未说明地区可用性。免费托管的 i 模型端点属于在线服务,本地模型与 Ollama 集成则运行在用户自己的机器上,具体网络条件请以实际使用为准。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Local III本工具 | 4.2 | 提供一个免费托管的语言模型端点,其余价格官网未公开 | 本地模型探索器;免费托管 i 模型;Ollama 深度集成;优化模型配置 | Web / API |
| 幻导航网 | — | 未标价 | 发现优质实用网站,开启网络探索之旅! | — |
| AI 问我 | — | 未标价 | 一站式 AI 工具导航平台,探索人工智能的无限可能 | — |
| All in AI | — | 免费提交与付费提交并存,广告按点击付费。 | 探索最佳的 AI 产品和工具 | Web |
| Dir2AI | — | 未标价 | 探索 AI 可能性的宇宙 | — |
| Trends.vc | — | 官网未公开具体价格,仅说明有 Trends Pro 会员 | 探索新市场和想法的智能平台 | Web |