Local III

Local III

AI TOOL PROFILE工具资料

为开源解释器带来易用的本地模型探索与离线代码解释能力

官网地址 https://changes.openinterpreter.com/log/local-iii

访问官网
价格提供一个免费托管的语言模型端点,其余价格官网未公开
平台Web / API
归类其他 AI 工具
收录2024-06-18
复核2024-06-18
编辑评分 4.2 / 5

Local III编辑总结

EDITOR REVIEW编辑评测

Local III 是 Open Interpreter 于 2024 年 6 月 18 日发布的重大更新,由超过 100 位贡献者共同开发。它带来一个交互式的本地模型探索器,只需运行 interpreter --local 即可选择推理服务商、挑选并下载模型。更新深化了对 Ollama 的集成,并内置面向 Llama3、Moondream、Codestral 等开源模型的优化配置。此外还引入一个免费托管的可选模型,通过 interpreter --model i 使用,对话会用于训练其自研的开源语言模型。不足之处在于本地运行对硬件有要求,部分功能仍处于实验阶段。

Local III是什么?

Local III 是 Open Interpreter 项目在 2024 年 6 月 18 日发布的一次重大更新,由来自各个时区的超过 100 位贡献者共同开发。它的目标是为普通用户和开发者提供个人化、私密的机器智能访问方式,让本地模型用起来更省心。

这次更新包含多个部分:一个交互式的本地模型探索器,运行 interpreter --local 即可启动;一个免费托管的语言模型端点,通过 interpreter --model i 调用;与推理引擎 Ollama 的深度集成;以及面向 Codestral、Llama3、Qwen 等开源模型的推荐配置。它还提供了本地视觉能力和实验性的本地操作系统模式。

普通用户可以直接用免费托管端点零配置上手;开发者可以把模型的接入、系统消息、示例等写进配置文件,通过 interpreter --profiles 打开配置目录进行定制;团队则可以在离线环境下借助本地模型完成代码解释,把数据留在自己的机器上。

Local III核心功能

CAPABILITIES工具标签

本地模型探索器

运行 interpreter --local 启动交互式设置,可以选择推理服务商、挑选模型、下载新模型。想让更多推理引擎加入,可以向官方仓库提交 PR。

免费托管 i 模型

新增一个免费语言模型端点,提供 Llama3-70B,用户无需任何配置即可使用,同时为训练小体积本地模型贡献对话数据。

Ollama 深度集成

通过一条 interpreter --model 命令即可让任意 Ollama 模型获得代码解释能力,命令会抽象掉模型设置步骤,只在你尚未下载模型时才进行下载。

优化模型配置

为 codestral、llama3、qwen 等本地模型提供了调优后的配置,通过 interpreter --profile 指定,也可用 interpreter --profiles 打开配置目录自行修改。

本地视觉能力

发送给本地模型的图像会先由小巧的视觉模型 Moondream 生成描述,同时模型还会接收从图像中提取的 OCR 文本,运行 interpreter --local --vision 启用。

本地操作系统模式

启用本地视觉后,实验性的本地 OS 模式会一并开启,Open Interpreter 可以控制鼠标、键盘并查看屏幕,通过其开源 Point 模型识别图标进行点击操作。

离线更可靠

更新加入了一整套设置,让离线环境下的代码解释运行更加稳定可靠,这是本次更新重点改善的方向之一。

Local III值不值得用?

VERDICT工具标签

当你希望在本地或离线环境下使用代码解释能力、又不愿把数据交给云端服务时,Local III 值得一试,它把本地模型的挑选、下载和配置都收进了一个交互式入口,并对 Ollama 和主流开源模型做了推荐设置。当你想立刻获得稳定成熟的产品体验时要留意,本次更新中的本地 OS 模式被明确标注为实验性,本地运行的流畅度也依赖你自己的机器条件。免费托管端点虽然好用,但对话会被用于训练模型,对隐私敏感的场景应优先选择本地模型。

建议选它的情况

  • 希望在本地或离线环境运行代码解释、把数据留在自己机器上的用户
  • 已经使用 Ollama 并想给本地模型加上代码解释能力的开发者
  • 想为 Codestral、Llama3、Qwen 等开源模型快速套用推荐配置的进阶用户
  • 愿意用对话数据换取零配置体验、并参与开源模型训练的用户

不建议选它的情况

  • 需要成熟稳定、开箱即用的商业级产品体验的用户
  • 对隐私敏感、不希望对话被用于训练模型的用户
  • 机器性能有限、无法支撑本地模型运行的用户

Local III使用建议

HOW TO USE工具标签
入门先把路子走对
  1. 先启动本地探索器运行 interpreter --local,在交互式界面中依次选择推理服务商与模型,需要的话直接在界面里下载新模型。
  2. 零配置试用 i 模型运行 interpreter --model i 调用免费托管端点,无需任何本地部署即可先体验一次代码解释流程。
  3. 接入已有 Ollama 模型如果你已经装好 Ollama,用 interpreter --model 加上模型库中的模型名,命令会自动省略繁琐的设置步骤。
  4. 加载推荐配置用 interpreter --profile codestral.py 或 llama3.py、qwen.py,直接套用官方针对这些模型调好的设置。
进阶省时间也省钱
  1. 自己调一份配置运行 interpreter --profiles 打开配置目录,复制 codestral.py 这样的文件,改模型设置、系统消息和示例,再通过 --profile 加载。
  2. 为开源模型贡献配置如果你在某款本地模型上调出了更好的设置,可以把配置文件提交到官方的默认配置目录,让其他用户一起用。
  3. 用视觉模型处理图像加上 --local --vision,图像会先被 Moondream 转成描述并附带 OCR 文本后再交给模型,适合需要读图的任务。
  4. 谨慎尝试 OS 模式interpreter --local --os 让程序控制鼠标键盘并查看屏幕,该模式被官方标为实验性,建议先在非关键任务上试。

Local III适合谁用?

WHO IS IT FOR工具标签

注重隐私的用户

推荐

本地模型让代码与数据留在自己的机器上,适合对数据外流有顾虑的人。

Ollama 用户

推荐

已有 Ollama 环境的话,一条命令即可让本地模型获得代码解释能力。

开源模型玩家

推荐

官方为 Codestral、Llama3、Qwen 等提供了推荐配置,也欢迎自行修改与贡献。

隐私敏感又用托管端点的用户

有条件

免费 i 模型端点会收集对话用于训练,需要先接受这一点再使用。

追求开箱即用的普通用户

有条件

本地模式需要自行挑选模型并依赖机器性能,实验性功能也尚不稳定。

Local III优点和缺点

PROS & CONS工具标签

优点

  • 由超过 100 位贡献者共同开发,覆盖各个时区
  • 提供免费托管的模型端点,可零配置试用
  • 深度集成 Ollama,一条命令即可接入本地模型
  • 内置 Codestral、Llama3、Qwen 的推荐配置
  • 支持本地视觉,可处理图像描述与 OCR 文本

缺点

  • 本地操作系统模式仍处于实验阶段
  • 免费托管端点的对话会被用于训练模型
  • 本地运行的体验依赖使用者自身的机器条件

Local III常见问题

FAQ工具标签
Local III 要花钱吗?

本次更新推出的 i 模型是一个免费语言模型端点,用户可以零配置使用。除此之外的定价信息官网未公开,具体以官方页面为准。

当前主力能力是什么?

重点在本地模型体验:交互式的本地模型探索器、与 Ollama 的深度集成、面向 codestral、llama3、qwen 的优化配置,以及本地视觉和实验性的本地操作系统模式。

免费托管端点和本地模型该怎么选?

想省事就用托管端点,运行 interpreter --model i 即可,但对话会被用于训练开源模型;想保护隐私就用本地模型,通过 interpreter --local 挑选并下载合适的模型。

i 模型用什么?会拿我的对话做什么?

该端点提供 Llama3-70B。对话会用于训练其自研的小体积、可在本地运行的语言模型,并在开源模型与训练集之前移除个人身份信息。

怎么给 Ollama 里的模型加上代码解释?

运行 interpreter --model 并带上 Ollama 模型库中的模型名即可,这条统一命令会省略所有模型设置步骤,只在你之前没下载过该模型时才下载。

怎么使用官方推荐的模型设置?

用 interpreter --profile codestral.py、llama3.py 或 qwen.py 加载对应配置,也可以通过 interpreter --profiles 打开配置目录自行调整。

本地视觉是怎么工作的?

发送给本地模型的图像会由小巧的视觉模型 Moondream 生成描述,模型同时还会收到从图像中提取的 OCR 文本,使用 interpreter --local --vision 启用。

国内能不能用?

官网未说明地区可用性。免费托管的 i 模型端点属于在线服务,本地模型与 Ollama 集成则运行在用户自己的机器上,具体网络条件请以实际使用为准。

Local III竞品对比

COMPARISON工具标签
工具编辑评分价格核心功能平台
Local III本工具 4.2 提供一个免费托管的语言模型端点,其余价格官网未公开 本地模型探索器;免费托管 i 模型;Ollama 深度集成;优化模型配置 Web / API
幻导航网 — 未标价 发现优质实用网站,开启网络探索之旅! —
AI 问我 — 未标价 一站式 AI 工具导航平台,探索人工智能的无限可能 —
All in AI — 免费提交与付费提交并存,广告按点击付费。 探索最佳的 AI 产品和工具 Web
Dir2AI — 未标价 探索 AI 可能性的宇宙 —
Trends.vc — 官网未公开具体价格,仅说明有 Trends Pro 会员 探索新市场和想法的智能平台 Web