用 Ollama 本地跑翻译,最常见的不是服务起不来,而是起来了但译文不对味:整段没翻、中英混着出、长文翻到一半断了、术语前后不一致。这篇不教装环境,只讲怎么从现象倒推原因,按什么顺序查、每个现象该看哪一格参数,以及什么情况下根本不值得修、换个路子更省事。
用 Ollama 本地跑翻译,最常见的麻烦不是服务起不来,而是起来了但译文不对味:整段没翻、中英混着出、长文翻到一半断了、同一术语前后对不上。这时候大多数人第一反应是去改参数,改完更乱。这篇不教装环境,只讲怎么从现象往回倒推原因。
排查的核心思路是一层层剥:先确认现象属于哪一类,再判断是模型选错了、提示词没把边界写死,还是长度和资源把输出挤掉了。顺序错了,后面每一步都是在猜。
先别改配置,把现象归类
翻译类的毛病看着都像「模型不行」,实际上入口完全不同。完全没输出,是请求层或服务层的问题;有输出但原文照抄,是提示词没形成约束;翻了一半断掉,基本是上下文被截断;翻出来但质量不对,才轮到模型和采样参数。你连是哪一类都没分清就去调 temperature,大概率白忙。
- 动手前先记三件事:用的是哪个模型标签、这次输入大概多长、走的是命令行还是 API 调用,缺一条后面都是瞎猜
- 同一个提示词连着跑两次,看结果稳不稳定;不稳定的多半是采样参数太飘或者上下文溢出,不是模型本身不行
- 把出错的那段原文单独存下来,后面每改一次参数就用同一段重跑,不然没有对照
第一层:模型本身适不适合干翻译
通用对话模型直接拿来翻译,常见的毛病是自作主张改写、加一句解释、把重复的句子省略掉。这不是坏了,是它按聊天的习惯在做事。判断方法很简单:给一句完全不需要意译的短句,比如一句普通的陈述,看它是否逐字对应。如果短句都开始润色、开始补充背景,说明这个模型的定位就不对,后面调什么都没用。
还有个容易忽略的点是上下文长度。有些模型标签看着能用,实际支持的长度很短,翻一份稍长的文档就直接截断。到站内的模型资料库核对一下这个标签的定位说明和长度上限,比自己反复试快得多。
| 现象 | 先查什么 | 大概率原因 |
|---|---|---|
| 短句也被改写、加解释 | 模型定位 | 用了通用对话模型干翻译 |
| 整段原文照抄不翻 | 提示词 | 没写目标语言、没要求只输出译文 |
| 翻到一半停住 | 长度 | 输入超过上下文上限被截断 |
| 突然冒出第三种语言 | 采样与量化 | 参数太飘或量化档位太低 |
什么情况下这一层不适用?如果你的任务本来就是「翻译加润色」,比如做营销文案的本地化,那模型改写是预期行为,不该按逐字对应去卡它。这时候要查的是改写幅度是否可控,而不是逼它别改。
第二层:提示词里有没有把边界写死
模型选对了,译文还是不对劲,九成出在提示词太客气。翻译这件事需要的是硬约束,不是请它帮忙。最少要写清四件事:原文是什么语言、要翻成什么语言、只输出译文不要任何解释、专有名词保留原文还是意译。少写一条,模型就会自己补。
- 写死输出格式明确说只给译文,不要前言不要注释。改完用同一段原文重跑,看开头那句解释有没有消失。
- 交代分段规则长文要说明按段落一一对应翻译,不许合并或拆分,否则后面段落会整体错位。
- 控制术语表体积术语表几行就够,塞一大段进去会把上下文挤掉,后半段反而翻得敷衍。
- 固定样本回归改完提示词,拿同一段原文跑一遍,和改之前的结果逐句比,而不是凭印象觉得好了。
这里有个常见误判:有人把术语表写成几十条塞进系统提示,结果前半段术语确实统一了,后半段开始乱翻。不是术语表没用,是它占了本该留给正文的位置。术语多的时候,宁可分批翻,也别一次全塞进去。
第三层:翻一半断掉,多半是长度问题
译文停在半句、或者中间整段消失,先别怀疑模型能力,把输入长度和模型的上下文上限对一遍。超了就是一定截断,没有例外。更隐蔽的是输出长度:翻译的输出通常和输入等长甚至更长,输入把上限占满,输出就没地方放,于是话说到一半没了。
处理办法是分段翻译再拼接。分段不是随便切,段与段之间要保留上一段的末尾一句做衔接,不然指代会错乱——上一段说「该公司」,下一段单独翻就不知道该翻成什么。切分点尽量选在段落或句号处,别切在句子中间。
- 先算总长度:输入加预期输出,一起塞进上下文上限里算,别只算输入
- 分段后每段单独调用,拼接时检查指代和术语是否连贯
- 留出余量:单段别顶到上限,留一截给输出
- 短文档也建议走同一套分段逻辑,避免以后换长文档时重新踩坑
第四层:跑不动和翻不好是两件事
显存不够的时候,Ollama 会往 CPU 上卸载一部分计算,速度骤降,但译文质量通常不变。很多人把「变慢」当成「变差」,然后去调采样参数,越调越偏。这两件事要分开记录:慢是资源问题,错是模型或参数问题。
如果出现乱码、重复输出、或者翻着翻着突然换了语言,先看量化档位是不是压得太狠。低量化在短句上不一定看出问题,长文里会逐渐劣化。换高一档的量化版本再跑同一段,结果明显改善就说明是量化的问题,不是提示词。
什么样的结果算能交付,什么情况该换路子
译文通顺不代表能交付。自测至少准备三类样本:纯陈述句、含专有名词的句子、含否定和数量的句子。第三类最容易翻车,否定词位置错了意思就反了,数量词漏了更麻烦。三类都过,再谈长文和整篇文档。
术语一致性靠抽检。同一个术语在前后文出现多次,是否统一,比单句读着顺不顺更重要。至于什么情况该换路子:如果业务是固定领域的文档翻译,本地小模型反复调还是不行,别硬修,换成调用官方 API 或者专用翻译服务,可能整体更省事。判断标准是看单位时间的返工成本,而不是单次调用的开销。
反过来,如果只是偶尔翻几句话、内容不敏感、对格式要求也不高,本地跑就够用,没必要为了那点质量差异去接外部服务。到站内的价格与模型资料页核对当时的数字,再决定值不值。
一份可以照着走的排查清单
- 短句测试:能逐字对应再往下走,不能就换模型标签
- 长度核对:输入和预期输出一起算进上下文,超了就分段
- 提示词补四条硬约束:语言、只输出译文、术语处理、分段规则,然后重跑同一段对比
- 记一笔量化档位和显存卸载情况,把慢和错分开,别混着调
- 固定三类样本做回归,每改一次参数跑一遍,别凭感觉判断
- 术语抽检:同一术语前后是否统一,比单句通顺更值得盯
排查翻译问题,顺序比参数重要:先分清是模型、提示词还是长度,再动手改。下一步想先确认手里的模型标签到底支持多长上下文、定位适不适合翻译,去模型资料库对一遍,比反复试错省时间。→
常见问题
Ollama 翻译时整段没翻,直接返回原文,是什么原因?
先确认提示词里目标语言有没有写清,很多模型的默认行为是「如果原文已是目标语言就原样返回」。其次看输入是否触发了上下文上限,被截断后模型可能只回显片段。最后换一句极短的测试句,如果短句也这样,基本可以判定模型不适合这条任务,换一个再试。
本地翻译模型和在线翻译 API 该怎么取舍?
看三件事:文档是否涉密、日翻译量大小、对术语一致性的要求。涉密且量大、术语固定的场景,本地跑更可控;量小、语种多、要求稳定的场景,调用官方接口省心。价格和额度到 /official-api 对照当时的数字,别凭印象判断。
翻译长文档总是翻到一半就停,怎么处理?
九成是上下文放不下。把文档按段落切开,每段单独请求,请求里带上上一段的最后一句做衔接。同时确认输出长度预留了空间,翻译的输出往往比原文更长。切段后如果还有断裂,检查是不是服务端设置了输出上限。
同一个模型,有时候翻得好有时候很敷衍,正常吗?
正常。翻译任务对采样随机性敏感,温度偏高时模型更容易改写和省略。把温度调低、固定随机种子,结果会稳定很多。另外长输入下模型对后半段注意力会衰减,分段处理比一次喂完更可靠。
译文里专有名词一会儿中文一会儿英文,怎么统一?
在提示词里明确规则:人名地名保留原文、产品名首次出现加注、其余统一译法。再附一个几行的术语对照,不要长篇罗列。规则写死后仍不一致,说明模型指令遵循能力偏弱,这种场景换模型比调提示词有效。