api key for ollama

模型与算力

讲清 Ollama 为什么没有密钥这一环、本地接口的免费怎么理解,以及接第三方工具时该在哪一层加自己的鉴权。

很多人第一次把 Ollama 接进别的工具,卡在「API Key 填什么」这一步:翻遍设置页找不到,于是怀疑自己装错了版本,或者被教程带去申请某个并不存在的密钥。这篇不劝你换框架,只把「有没有密钥」「免费指什么」「要暴露到公网时怎么办」三件事讲清楚,最后给一套按场景排查的顺序。

很多人第一次把 Ollama 接进别的工具,卡在「API Key 填什么」这一步:翻遍设置页找不到,于是怀疑自己装错了版本,或者被教程带去申请某个并不存在的密钥。这篇不劝你换框架,只把三件事讲清楚——它到底有没有密钥、本地接口的「免费」免的是哪部分、要暴露到公网时该在哪一层补鉴权,最后给一套按场景走的排查顺序。

先给结论:默认状态下你不需要任何密钥,也不该去找。但这不等于「随便怎么用都行」,一旦离开本机、进入多人或对外场景,规则就完全变了。下面按小节拆开讲,每节都尽量落到能动手的步骤。

Ollama 默认就没有密钥这回事

Ollama 的设计定位是「本机跑模型的运行时」,服务默认只监听回环地址,请求从本机发出,服务端不校验调用方是谁,所以配置项里根本没有 Key 这一栏。你在客户端里看到的「API Key」输入框,是那个客户端按云端厂商的习惯做的通用模板,跟 Ollama 本身无关。判断方法很简单:不填任何密钥直接发请求,能通就说明这一层没有鉴权。

回环地址
指只接受本机发起的连接,外部机器默认连不进来
鉴权
服务端核对「你是谁、有没有权限」的过程,Ollama 默认不做这一步
通用模板
第三方工具为兼容多家云端服务,统一留了一个密钥输入框
  • 先什么都不填,直接发一次请求,看是否返回正常结果;
  • 如果通了,说明该层确实无鉴权,不用再折腾密钥;
  • 如果工具报错,先去读它的报错文案,而不是去搜「怎么申请密钥」;
  • 把工具的连接模式切到「自定义 / 兼容」再试一次。

「免费」到底免的是哪一部分

免的是调用费:模型权重在你自己的机器上跑,没有按 token 计费的环节,也没有额度限制,跑多少次就是多少次。不免的是硬件和时间:电费、显卡占用、推理时的排队等待,全算你自己的成本。想估算量级,去 算力总览(/compute) 和 部署测算(/models/deploy) 对一下当时的数字,比凭感觉靠谱。

有个不适用情形要提前说:把服务开到公网、或放进多人共用的服务器上,这时「免费」就不再是优点,而是风险。因为没有鉴权意味着任何能连到端口的人都能调用你的显卡。

看得到的部分实际归属
调用不花钱省下的是按量计费的成本项
没有额度上限受限于本机显卡和内存的物理上限
不用注册账号省掉的是账号与账单管理
推理速度取决于你自己的硬件和同时使用的人数

客户端非要填 Key,该怎么办

绝大多数情况是客户端做了通用模板,不是你缺一个密钥。处理顺序是:先看它有没有「自定义 / 兼容」模式,很多工具在这个模式下允许把 Key 随便填一个占位字符串,只要地址填对就能跑通。地址这块是最常见的坑,往往要填到带版本前缀的那一层,只填主机名和端口容易直接 404,具体端点对照 接口端点(/ollama-api-endpoints-2) 那页。

  1. 确认是否支持自定义地址在工具的连接设置里找「自定义」「兼容」「本地」这类字眼;找不到就说明它内置了云端路由。
  2. 填一个占位密钥随便写几个字符即可,它的作用只是通过客户端的非空校验,不参与真正的身份判断。
  3. 核对完整端点把地址填到带版本前缀的那一层,具体写法到站内接口页面核对,不要凭记忆拼。
  4. 验证连通先让工具发一次最简请求,确认能拿到返回,再去调复杂参数。

如果工具只认官方域名、不接受自定义地址,那就是它内置了云端路由,本地服务无论如何都接不上。这时候要么换工具,要么在中间加一层代理把请求转过来,跟密钥没有关系。

什么时候必须自己加一道鉴权

触发条件有两个:一是把服务改成监听所有网卡,二是通过端口转发、内网穿透给同事或外部用。这两种情况下 Ollama 本身不做身份校验,等于把推理入口敞开。可行做法是在前面挂一层反向代理,在代理层加令牌校验和来源白名单,而不是指望 Ollama 自己出个 Key。

这里要注意一点:反向代理加的令牌是给「调用方」看的,跟云端服务的密钥不是一回事。它是你自己定的口令,写什么由你决定,丢了也只需要你在代理配置里换掉。

别把本地免费接口当成公共免费额度

有人把 Ollama 包装成「免费 API 中转」对外提供,这类服务的稳定性、日志留存和内容合规都不受你控制。你接进去之后,请求经过谁的机器、被记了什么、什么时候停服,你都没有发言权。要判断一个转发地址值不值得接,按 中转站真假在线实测(/tools/verify) 的流程先跑一遍,再看 中转站目录(/sites) 里有没有相关记录。

场景风险点建议
只在自己机器上用基本没有正常用,不用配密钥
开给同事用分不清谁在用、谁占满显存代理层加令牌和来源限制
对外提供给别人用责任和合规落到你身上先想清楚再开,别图省事

接第三方工具时的三种典型卡点

接工具失败,基本落在三类里,按顺序排除比乱试快得多。第一类是连不上:先确认进程在跑、端口对不对,再按 连接失败排查(/ollama-api-connection-fail) 的顺序走。第二类是连上了但报鉴权错,八成是工具写死了云端校验逻辑,这时该查它的配置说明,而不是去申请密钥。第三类是换机器就失效,常见原因是将地址写成了本机回环,跨机器访问要同时改监听地址和防火墙。

  1. 先确认服务活着看进程是否在运行,端口是否被占用,这是最快能排除的一层。
  2. 再确认能连通从本机发一次请求测试,通了再换另一台机器测。
  3. 最后看鉴权报错如果本机和跨机都报鉴权错,去翻工具文档确认它是否强制云端校验。

哪些情况下这条路不合适

需要给外部用户开放、要按调用量结算、要留完整审计日志的场景,本地无鉴权服务撑不起来。团队多人共用一台机器时,没有身份区分就没法定位是谁在用、谁把显存占满,出问题只能靠猜。对稳定性和并发有硬要求时,要按实际任务量重新算配置,光靠「免费」省不下停机成本。

  • 要给外部用户开放:无鉴权服务不适合直接对外;
  • 要按调用量结算:本地没有计费环节,得自己补统计;
  • 要完整审计日志:默认不记录调用方身份;
  • 多人共用一台机器:无法区分使用者;
  • 对并发和稳定性有硬要求:需要按任务量重新测算配置。

反过来说,如果是个人开发、离线调试、内部小范围试验,这条路非常合适:不用申请、不用付费、改起来快。合适和不合适的分界线,主要就是「有没有外人能碰到这个端口」。

下一步想确认手上某个转发地址是否可靠,或者想看当前哪些中转站还在正常服务,去站内目录和实测页面核一遍再决定要不要接。

常见问题

Ollama 到底有没有 API Key?

默认没有。它在本机运行、只监听回环地址,不做调用方身份校验,所以没有密钥这一环。你在某些客户端看到的 Key 输入框,是那些工具为兼容云端厂商预留的通用字段,填不填都能连通本地服务。

既然不要 Key,那 ollama api key free 这个说法怎么理解?

指的是本地推理没有按量计费这一层,不是指存在一把免费的密钥。省掉的只有调用费,显卡、电费和你的时间是自付的。要对外提供服务时,还得自己补一层鉴权,那部分成本反而更实在。

把 Ollama 开到公网会不会被人白用?

会。它不做身份校验,任何能访问到端口的人都能发请求,还会占用你的显存和带宽。真要开出去,前面必须挂反向代理做令牌校验和来源白名单,最好再加访问日志,别指望它自带保护。

工具提示鉴权失败,是不是我缺一把 Key?

多数情况不是。先确认工具是否支持自定义接口或兼容模式,再看请求地址有没有带版本前缀。若它只接受官方域名,说明内置的是云端路由,这种报错换成占位字符串也解决不了,需要换工具。

不填密钥的本地接口,能直接用到生产环境吗?

要分情况。单人本机自用可以;一旦涉及多人访问、对外服务或需要审计追溯,就需要额外补鉴权、限流和日志。判断标准是:出问题时你能不能定位到具体是谁发的请求,答案是否就不能上。

本文依据各平台公开文档与官方公告整理,只做中文归纳;具体做法、参数与限制以官方文档为准。