环境反馈闭环
每一步动作执行后都会收到环境返回的新观测,模型据此决定下一步,而不是预先写死整段操作。适合需要中途校验状态的任务。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
把 GPT-4 接进模拟器,让视觉语言模型边操作边根据环境反馈修正
Octopus 是一个把视觉语言模型(VLM)接入交互式环境的研究型工具,由 choiszt 在 GitHub 上开源。它的核心思路不是让模型一次性输出操作序列,而是让模型观察当前画面、给出动作、接收环境返回的新画面与状态,再进入下一轮判断。这种「观察—行动—反馈—再观察」的循环让模型能够处理需要中间状态校验的任务,例如在模拟器中按条件操作物体、完成多步指令。它适合研究具身智能、强化学习与 VLM 接地的开发者,纯终端用户直接上手门槛较高,需要自行准备模型接口与运行环境。
Octopus 是一个开源的视觉语言编程项目,作者为 choiszt,托管在 GitHub Pages 上。它的定位不是面向普通消费者的应用,而是给研究者与开发者使用的一套实验框架:把视觉语言模型当作一个可以感知画面、输出动作的智能体,让它在一个模拟器里反复与环境交互。
与「给模型一张图、让它一次性写好代码并执行」不同,Octopus 更强调环境反馈在回路里的作用。模型每一步都能拿到环境更新后的观测结果,并据此调整下一步动作,这使得它适合处理那些中途会发生变化、需要边做边看再决定的任务。
使用方式上,开发者需要自己准备可调用的视觉语言模型接口、配置好对应的模拟器环境,再通过项目提供的接口把两者接起来运行。研究者通常用它做接地能力、多步决策与反馈利用效率的对比实验;普通用户如果只是想生成一段代码或一张图,用通用对话类工具会更直接。
每一步动作执行后都会收到环境返回的新观测,模型据此决定下一步,而不是预先写死整段操作。适合需要中途校验状态的任务。
把视觉语言模型当作策略主体,模型同时读取画面与文本指令来产出动作,项目本身不绑定某一家模型,需要开发者自行接入。
面向在模拟环境里完成任务的操作型场景,把「写代码」和「在环境里执行代码」两件事合到一起,动作结果直接影响后续观测。
任务可以被拆成多轮动作依次执行,模型在中间步骤获得反馈后可以改变策略,而不是只能在开头做一次判断。
项目以开源形式发布,便于复现实验、替换模型或修改反馈逻辑,适合做接地与决策方向的对比研究。
把 Octopus 当成一个实验框架来用是合适的:如果你在研究视觉语言模型能不能靠环境反馈把多步任务做对,它提供了一个现成的回路结构,可以省去从零搭交互循环的时间。但如果你只是想让模型帮你写一段能跑的代码,或者想拿来处理日常的图片与文本任务,它的形态偏重、依赖你自备模型与环境,直接用通用对话工具会更快。它不是开箱即用的产品,更像一个需要你自己接模型、接环境、调反馈逻辑的研究脚手架。
需要研究视觉语言模型在交互环境里如何利用反馈做多步决策,可基于现成回路改实验变量
想把语言模型当作策略主体接入模拟器,验证反馈信号对动作选择的影响,改造成本可控
项目本身不提供可用的模型接口与模拟器,需要自己解决这两项才能跑起来,前期准备成本不低
目标是让模型直接产出可用代码片段,不需要环境反馈回路,用通用对话或编程助手会更省事
它是一个把视觉语言模型接入交互环境的开源框架。模型每一步先看当前画面与指令,输出动作,动作在环境里执行后再把新状态送回模型,循环往复直到任务完成,重点是让模型能利用环境反馈调整后续动作。
普通代码生成更接近一次性输出,模型写完就结束。Octopus 把执行结果当作下一轮的输入,模型能根据环境实际变成什么样再决定下一步,因此更适合需要中间校验的多步操作类任务。
需要两样东西:一个可调用的视觉语言模型接口,以及一个能接收动作并返回观测的模拟环境。项目负责把两者接成反馈回路,但这两端要使用者自己准备与配置。
不太适合。它的形态偏研究与实验,任务围绕模拟环境中的操作展开,需要自己搭环境、接模型、调反馈逻辑。日常写作、翻译、图片处理这类需求,用通用对话工具更直接。
| 工具 | 编辑评分 | 价格 | 核心功能 | 平台 |
|---|---|---|---|---|
| Octopus本工具 | 4.3 | 未标价 | 环境反馈闭环;视觉语言模型接入;模拟器中的编程任务;多步决策支持 | — |
| Formaly | — | 免费档 50 额度;付费 $3.50 起,含 60 额度。 | 用于创建对话式表单和收集聊天式反馈的 AI 平台 | Web / API |
| Aider.chat | — | 未标价 | Aider 是一款 AI 辅助编程工具,支持在终端进行 AI 配对编程 | Web |
| DryRrunAI | — | 未标价 | DryRunAI 是一款能够听取你的演讲并提供反馈的人工智能产品 | — |
| Gemini Omni Video | — | $9.9/月起,年付 5 折 | 集成了文生视频、视频二次创作及对话式自然语言编辑功能的 AI 工作台 | Web |
| bRAG AI.dev | — | 未标价 | bRAG AI 是一款强大的 AI 编程工具,可将想法快速转化为全栈应用 | — |