dsh-mac-computer-use

DSH PLUGIN视觉与多模态

仓库 OrderG-X/dsh-mac-computer-use

视觉与多模态 L5 · 运行验证通过 安全审查:低风险 可信度:金 可安装插件
安装这个插件

Vision-first desktop computer use for DSH on macOS: OCR text targeting, set-of-mark indices, 11 desktop_* tools and a visible cursor. No accessibility tree. · 让 DSH 看着屏幕操作你的 Mac。

一句话选型结论

按资料字段整理

dsh-mac-computer-use 是视觉与多模态类的 DSH 可安装插件,验证等级 L5 · 运行验证通过,安全审查为低风险,有可直接复制的安装命令。验证通过不等于安全:插件会读写文件、执行命令或联网,装前先到仓库确认它做了什么;涉及密钥或系统权限的,建议先在隔离环境试装。

分类视觉与多模态 收录类型可安装插件 验证等级L5 · 运行验证通过 安全审查低风险
验证等级 L5 L5 · 运行验证通过
GitHub 星标 7 复刻 未标注 · 未关闭 issue 未标注
最近更新 2026-10-26 创建于 未标注
README 11.1 KB 正文体量,越大说明说明书写得越细

安装

可安装插件
在 DSH 里执行,装完用 dsh plugin list 确认已挂上;标了 L4 / L5 的命令已在沙盒里真实跑通
dsh plugin --profile web add github:OrderG-X/dsh-mac-computer-use
  1. 1
    确认版本与运行环境

    仓库没有标注兼容版本与 Node.js 要求,先确认你的 DSH 版本能装,再继续。

  2. 2
    执行安装命令

    在 DSH 里执行上面的命令;多包仓库要注意区分具体子包名,别装错包。

  3. 3
    确认已挂载

    用 dsh plugin list 查看列表里是否出现这个插件,出现即挂载成功。

  4. 4
    试跑并检查权限

    加载后跑一个最小用例,确认它能正常工作;同时看它申请了哪些文件、命令或网络权限。

兼容 DSH 版本未标注版本不匹配时安装会报错
Node.js 要求未标注来自仓库 package.json 的 engines 字段
前置依赖无需要同时安装的同级依赖
npm 包名未发布到 npm可用 npm view 查看包信息

能做什么

视觉与多模态
字段来自项目仓库与公开索引,中文说明由本站标注

适用场景

视觉识别

验证等级与安全审查

L5 · 运行验证通过
自动化流程结论,不是人工审核
验证等级L5 · 运行验证通过在 dsh 沙盒中完成安装与运行冒烟——装得上、跑得起来
安全审查低风险静态分析结论,未标注不代表已通过审查
仓库健康度活跃按仓库活跃度与最近更新时间给出
可信度金综合仓库活跃度与验证结果

选择建议

装之前先看这几条
按条目字段给出的判断,不替你决定用不用

值得选的地方

  • 验证等级 L5:安装和运行都在沙盒里跑通过,装完能直接用的概率高。
  • 静态安全审查为低风险,没有发现明显可疑行为。
  • 有可直接复制的安装命令,不用自己翻文档找入口。

先想清楚的地方

  • 没有声明 Node.js 版本要求,版本不匹配可能装不上。
  • 验证通过不等于安全:插件会读写文件、执行命令或联网,装前先到仓库确认它做了什么。

更适合

  • 需要在视觉与多模态场景里给 DSH 补能力的人。
  • 想装完就能用、不想自己排依赖的人。
  • 能接受在本地装依赖、愿意自己确认权限的人。

不太适合

  • 只使用 DSH 官方内置能力、不接受第三方插件的人。

同类对比

6 个同类
同分类里挑最接近的几条,字段以各自详情页为准
插件验证等级安全审查星标兼容版本安装命令
dsh-mac-computer-use当前 L5 · 运行验证通过 低风险 7 未标注 有
open-design L4 · 沙盒安装通过 低风险 10.0 万 未标注 有
awesome-gpt-image-2 L3 · 安装规范通过 低风险 3.4 万 未标注 无
PicGo L3 · 安装规范通过 低风险 2.7 万 未标注 无
iPolloWork L4 · 沙盒安装通过 低风险 6,775 未标注 有
modlens L5 · 运行验证通过 低风险 4,207 0.2.0-rc.2 等 13 个 有

仓库档案

视觉与多模态
字段来自项目仓库与公开索引,中文说明由本站标注
作者 / 维护方OrderG-X仓库 dsh-mac-computer-use · 默认分支 未标注
分类视觉与多模态vision
收录类型可安装插件声明了 dsh.bundle、可用 dsh plugin add 安装的条目
开发语言未标注仓库主语言
许可证MIT商用或二次分发前请确认条款原文
星标 / 复刻 / issue7 / 未标注 / 未标注收录时的数值,非实时
创建 / 更新未标注 · 2026-10-26最后推送 未标注
本站收录2026-10-30首次进入本站目录的时间

README 全文

11.1 KB
作者原文,中文版优先;只做安全转义,不改内容

给 DSH 的 Mac 桌面操作能力(computer use)。视觉优先,不依赖无障碍树。

> 一句话:DeepSeek Harness(DSH)插件,让模型看着屏幕操作你的 Mac:列窗口、截图、OCR 找字、点击、打字、按键、滚动、拖拽、打开应用。
>
> 什么时候用:「看看我屏幕上有什么」「帮我在这个 App 里点一下」,以及没有命令行、只能用鼠标操作的 Mac 软件。
>
> 安装:dsh plugin add https://github.com/OrderG-X/dsh-mac-computer-use/releases/latest/download/dsh-mac-computer-use.tgz(或在 DSH 插件页添加这个地址),重启 DSH。安装包自带编好的程序(Apple 芯片和 Intel 都能用,macOS 11 起),不用编译。仅 macOS。
>
> English: a DeepSeek Harness (DSH) plugin for computer use on macOS. The model sees the screen and controls the Mac through 11 desktop_* tools: window list, screenshots, OCR text search, click, type, keys, scroll, drag and app launch. Install: dsh plugin add the release tarball above (or add it on DSH's plugin page) and restart DSH. The package ships prebuilt universal binaries (Apple silicon and Intel, macOS 11+), so there is nothing to compile.

> 以前叫 dsh-cu,2026-10-18 改名。旧地址会自动跳到这里;底层的命令行引擎仍叫 dsh-cu。
> 和别人家的 dsh-computer-use 不是一个东西:那个靠无障碍树(cua-driver),这个靠截图。

桌面光标:实心蓝箭头 + 带显示器图标的「DSH」名牌,干活时名牌写上正在做什么。跟 dsh-chrome-bridge 的浏览器光标是同一套样式,那边是半透明的、名牌带地球图标。

11 个 desktop_* 工具 + 一个自包含的 Swift 命令行 + 一个看得见的桌面光标。

desktop_windows    desktop_observe    desktop_screenshot   desktop_find_text
desktop_click      desktop_type       desktop_key          desktop_apps
desktop_launch     desktop_scroll     desktop_drag

为什么又造一个

DSH 上已有的 computer use 插件(dsh-computer-use、dsh-mac-cua 等)大多依赖 macOS 无障碍树(AX)。
我们实测过:锁屏时 AX 对所有应用都返回 0 个 AXWindow,解锁后立刻恢复正常 —— 这是 macOS 的行为,
不是驱动的 bug(详细记录)。另外第三方二进制在某些环境下拿不到 AXWindow。

Codex 那种 computer use 走的是视觉路线:截图 → 模型看 → 按坐标操作。这条路不碰 AX,
所以在 AX 不灵的环境下照样能用。这个仓库就是那条路,外加:

OCR 找文字 用 macOS 自带的 Vision 框架,本地跑。desktop_click(text="登录") 直接按文字点
元素编号 desktop_observe 把可点元素在截图上编号,模型说"点第 7 个"就行
做完说一声变了什么 点击、输入、按键、拖拽之后顺带回报窗口变化(新开了「存储」窗口、标题变了、窗口关了),模型不用每次再截图确认
看得见的光标 屏幕上有个蓝色光标跟着操作走,名牌写着「点击 发送」这类动作;跟浏览器插件的光标一套样式
空闲自退 光标浮层 60 秒没动静自己走,不留常驻进程
单文件 Swift 零依赖,好审计

安装

在 DSH 的插件页添加插件,地址填 https://github.com/OrderG-X/dsh-mac-computer-use/releases/latest/download/dsh-mac-computer-use.tgz(或者命令行 dsh plugin add 这个地址),然后重启 DSH。

安装包里自带编好的命令行引擎和光标浮层(Apple 芯片和 Intel 都能用,macOS 11 起),不用 clone 仓库、不用装 Xcode。第一次用要在系统设置里给 DeepSeek Harness 开屏幕录制和辅助功能权限,设置页里有按钮直达。

装好后插件页里叫「Mac 桌面操作」。点进去是设置页:能不能用、看得到几个窗口,命令行引擎、屏幕录制权限、辅助功能权限、光标浮层逐项打勾,缺哪个就给哪个的按钮(打开系统设置);还有「屏幕上显示操作光标」开关。

自己从源码编译(改了 Swift 代码时才需要):

git clone https://github.com/OrderG-X/dsh-mac-computer-use.git
cd dsh-mac-computer-use
./install.sh

需要 Xcode Command Line Tools(xcode-select --install),装到 ~/.dsh/bin/。插件优先用自带的程序,要用自己编的,设环境变量 DSH_CU_BIN=~/.dsh/bin/dsh-cu(光标浮层是 DSH_CU_OVERLAY)。发版时的编译脚本是 tools/build-bin.mjs。


用起来是什么样

你:帮我看看屏幕上有什么
→ desktop_windows      拿到窗口列表和坐标
→ desktop_screenshot   模型看到图

你:点那个「登录」按钮
→ desktop_click(text="登录")   OCR 找到它 → 发事件过去(不动你的鼠标)
回报「之后:新开了窗口「欢迎」」

你:把计算器的 7+8 算一下
→ desktop_observe      截图 + 元素编号
→ desktop_click(index=5) 点第 5 个("7")
→ desktop_screenshot   再截一次确认

推荐工作流是 observe → click(index) —— 模型看图上的编号,比算坐标可靠得多。


底层

DSH 工具 (desktop_*)
↓ spawn
dsh-cu (Swift 单文件)
├── winlist   CGWindowListCopyWindowInfo   ← 窗口坐标,零权限
├── observe   AX 枚举可点元素 + 截图标注编号
├── shot      screencapture -l 窗口号       ← 截窗口本身,被挡住也行
├── find      Vision 框架 OCR              ← 找文字 → 可点坐标
├── clickat   CGEvent postToPid            ← 不移动真实鼠标、不抢前台
├── type/key  CGEvent                      ← 支持中文
├── scroll/drag  CGEvent
└── launch    NSWorkspace(后台启动,不抢前台)

后台点击能落进窗口,靠的是两处细节:鼠标事件里填上目标窗口号和窗口内坐标(不填的话 AppKit 和 Electron 都会把事件丢掉);目标是后台的 Chromium / Electron 窗口(比如 DSH 自己)时,按下那一下带上 ⌘,页面才肯接,松开和 click 本身不带,页面看到的就是普通点击。

截某个应用的窗口时,按窗口号截它本身(screencapture -l):被别的窗口挡住、在后台都截得到,看到的就是要点的那个窗口;截不到再退回按屏幕区域截。截图、给元素编号、按文字找都是这样(感谢 @Golden-Pigeon 的 PR)。

后台打字同理:先用辅助功能把目标窗口设成它自己的主窗口(不激活应用、不抢前台),按键才有去处;Chromium / Electron 在后台一个按键只收一个字,所以对它们逐字发。后台应用收不到全选、复制、粘贴这类走菜单的 ⌘ 快捷键。

命令行也能单独用:

dsh-cu winlist                    # 列窗口
dsh-cu tree                  # AX 树(解锁状态下可用)
dsh-cu observe               # 截图 + 编号
dsh-cu find "登录"                 # OCR 找文字 → 坐标
dsh-cu clickat         # 点(默认不动真实鼠标)
dsh-cu type  "你好"           # 输入
dsh-cu selftest                   # 全链路自检(见 tools/selftest.sh)

光标

cursor/cursor-overlay.swift 是桌面光标浮层(装到 ~/.dsh/bin/dsh-cursor-overlay):NSPanel,不抢前台、点击穿透、永远置顶,闲 60 秒自己退出。

跟 dsh-chrome-bridge 的浏览器光标是一套样式,一眼分得清是在哪边干活:

桌面(这个仓库) 浏览器(dsh-chrome-bridge)
箭头 同一个形状,实心蓝 同一个形状,半透明淡蓝
名牌 显示器图标 + DSH 地球图标 + DSH
干活时 名牌展开成「DSH · 点击 发送」 名牌展开成「DSH · 点击 登录」

动效走克制路线,两边一样:

  • 同一个弹簧、同一套算法:沿轻微的弧线滑过去,顺着速度方向轻轻拉长(最多 7%)、略侧倾,名牌晚半拍跟上;到了冲过头最多两三像素再落回
  • 点击时以箭头尖端为支点缩一下再弹回(瞄准点纹丝不动),一圈淡波纹
  • 拖拽时按住(缩一点 + 尖端一圈光晕)跟着走;滚动时右上角亮一下方向
  • 闲 6 秒变淡、名牌收起,不挡视线;系统开了「减少动态效果」就不做动画

浮层指令(往 $(getconf DARWIN_USER_TEMP_DIR)dsh-cursor.fifo 写一行,每个账号各自一个):show x y / move x y / click [n] / down / up / scroll ±1 / label 文字 / hide / ping。


已知限制

  • 锁屏时:截图只有壁纸、窗口不渲染、AX 读不到窗口 —— 这是 macOS 的行为,不是工具的问题
  • 最小化的窗口、在别的桌面空间(Space)里的窗口:看不到也操作不了,先把它放回当前桌面
  • desktop_click 默认投递给目标进程(postToPid)。个别应用不响应投递事件,加 global: true 走系统事件兜底(会移动真实鼠标)
  • 桌面点击驱动不了 Chrome —— Chrome 不理会投递的合成事件。操作浏览器请用 CDP 类工具(比如 dsh-chrome-bridge)
  • 需要屏幕录制权限(screencapture 用)和辅助功能权限(点击、输入、按键、滚动、拖拽用;没开时系统会静默丢掉这些事件,所以工具会直接报错,不会假装成功)

Field notes

docs/locked-session-and-ax.md —— 锁屏会让 AX 全废这件事,
以及为什么它看起来跟驱动 bug 一模一样。这个坑花了一整天才确认。


反馈

遇到问题或想要新功能,提一个 issue。报问题时写上 DSH 版本和插件版本,修起来最快。

License

MIT。tools/dsh-cu.swift 是自包含单文件,想改直接改。


关于光标形状

光标是代码画的(cursor/cursor-overlay.swift 里的 arrowPath),圆角经典箭头 + 蓝色渐变,跟浏览器那边用同一条路径 —— 不包含任何第三方素材文件。

常见问题

5 问
答案由本站依据条目字段整理,不引用上游原文
dsh-mac-computer-use 怎么安装?

在 DSH 里执行 `dsh plugin --profile web add github:OrderG-X/dsh-mac-computer-use` 即可。

dsh-mac-computer-use 的验证等级是什么意思?

L5 · 运行验证通过。在 dsh 沙盒中完成安装与运行冒烟——装得上、跑得起来

dsh-mac-computer-use 安全吗?

低风险。

dsh-mac-computer-use 装之前要先确认什么?

先看它会读写哪些文件、执行哪些命令、连接哪些网络地址;验证等级只说明装得上、跑得起来,不等于安全。涉及密钥或系统权限的,建议先在隔离环境试装。

dsh-mac-computer-use 用的是什么许可证?

上游标注为 MIT。商用或二次分发前请到仓库确认许可证原文。

视觉与多模态
按星标排序,可作替代方案

open-design

open-design

L4 · 沙盒安装通过 10.0 万 星

awesome-gpt-image-2

awesome-gpt-image-2

GPT Image 2 / 2.5 提示词与案例库,530+ 个案例、20+ 套工业级模板与可复用 Skills,新增 2.5 同提示词对比

L3 · 安装规范通过 3.4 万 星

PicGo

PicGo

L3 · 安装规范通过 2.7 万 星

iPolloWork

iPolloWork

L4 · 沙盒安装通过 6,775 星

modlens

modlens

ModLens 是 DeepSeek Harness 的视觉插件,为纯文本模型外挂视觉能力,粘贴图片即得结构化 JSON 证据(OCR、版面

L5 · 运行验证通过 4,207 星

OpenBiliClaw

OpenBiliClaw

本地私有、开源的自进化跨平台 AI 内容发现 Agent:先理解你,再主动从 B站、小红书、抖音、YouTube、X、知乎、Reddit、微

L4 · 沙盒安装通过 3,398 星

OrderG-X 的其它插件

6 个

插件的元信息来自作者仓库;分类、验证等级与安全结论的中文说明为中文整理,最近核验 —。