本地模型运行
基于 llama.cpp 在本地计算机上运行语言模型,无需联网即可完成推理,数据保留在本地,适合对隐私有要求的场景。
拖动滑块完成拼图,通过后发送验证码
独立第三方 AI 评测平台 · 只用实测数据
Ava PLS 是一款开源桌面应用,让用户在本地电脑上运行语言模型,是 llama.cpp 的图形化界面。它使用 Zig、C++(llama.cpp)和 SQLite 构建,界面层采用 Preact 与 Tailwind CSS,并以 MIT 协议开放源代码。下载最新版本可通过 GitHub Actions 获取,也能自行编译。它还支持 headless 模式,可在 Linux 上启动服务器并通过浏览器远程连接,弥补了尚未支持 Qt/GTK 的不足。不过其功能与使用仍在持续完善中,图形界面还未覆盖 Linux 桌面环境。
Ava PLS 是一款开源桌面应用,用于在本地计算机上运行语言模型,本质上是为 llama.cpp 提供的开箱即用图形界面。项目采用 MIT 许可证,代码托管并公开构建产物,面向希望在本地进行语言处理而无需依赖云服务的用户。
技术栈由 Zig、C++(llama.cpp)和 SQLite 构成,前端使用 Preact、Preact Signals 与 Tailwind CSS。用户可以从 GitHub Actions 页面下载最新构建产物,也可以用 zig build run 或 zig build run -Dheadless=true 自行编译运行。
对不同用户而言,普通桌面用户可以直接下载安装包体验本地语言模型;开发者既能编译源码,也能利用 headless 模式在服务器上部署 Ava 并通过浏览器远程连接;Linux 用户目前可通过 headless 模式使用,因为项目尚未提供 Qt/GTK 桌面支持。
基于 llama.cpp 在本地计算机上运行语言模型,无需联网即可完成推理,数据保留在本地,适合对隐私有要求的场景。
为 llama.cpp 提供开箱即用的 GUI,省去命令行配置过程,用户通过桌面应用即可加载和对话。
以 headless 模式构建后会启动一个服务器,可通过网页浏览器连接,适合部署到远程主机或服务器上远程使用。
Headless 模式文档 ↗由 Zig、C++(llama.cpp)与 SQLite 构建,界面层使用 Preact、Preact Signals 和 Tailwind CSS,兼顾性能与界面响应。
采用 MIT 许可证,可从 GitHub Actions 下载最新产物,也可用 zig build run 自行编译,甚至构建 headless 版本。
当你想在本地跑语言模型、又不想折腾命令行时,Ava 值得一试:它是 llama.cpp 的图形界面,下载构建产物即可上手,代码开源且采用 MIT 许可。开发者还能用 zig build run 自行编译,或构建 headless 模式把 Ava 部署到服务器并通过浏览器远程连接。当你的主力系统是 Linux 桌面时则要注意:目前没有 Qt/GTK 支持,只能走 headless 模式,缺少原生桌面体验。此外价格与免费额度没有公布,功能细节也较有限,更适合愿意自行编译和调试的用户。
希望语言模型完全跑在自己电脑上、数据不出本机,Ava 的本地运行方式契合这类需求。
已经在用 llama.cpp、想要图形界面省去命令行操作的用户,可以直接下载构建产物上手。
需要把模型部署到远程主机并通过浏览器访问,headless 模式提供了这种用法。
目前没有 Qt/GTK 支持,只能用 headless 模式经浏览器访问,缺少原生桌面体验。
项目为 MIT 开源、功能与文档较简,缺少成熟商业支持,企业级落地需要自行评估。
项目采用 MIT 许可证开放源代码,可以免费使用、修改和分发。官网未公布任何付费档位或订阅价格,用户可以自行从 GitHub Actions 下载构建产物或编译源码使用。
它是一款在本地电脑上运行语言模型的桌面应用,本质上是 llama.cpp 的图形界面。加载模型后即可在本地进行语言处理,不需要把数据发送到云端。
主要以桌面应用形式提供,可通过浏览器访问。Linux 目前因缺少 Qt/GTK 支持,需要使用 headless 模式,启动服务器后用浏览器连接,也适合远程部署到服务器上使用。
有两种方式:从 GitHub Actions 页面下载最新构建产物直接运行,或者在项目源码目录执行 zig build run 自行编译启动;想构建 headless 版本则在命令后加上 -Dheadless=true。
构建 headless 版本后会启动一个服务器,可以用网页浏览器连接。这适合把 Ava 部署到远程主机,也适合 Linux 用户——因为目前还没有 Qt/GTK 桌面支持。
它是在本地运行语言模型的桌面应用,不依赖在线服务,因此使用方式与所在地区关系不大。具体的访问限制与网络要求未公布,建议按实际网络环境测试。