开发者把Transformer塞进软盘:486老电脑跑起AI问答
名为 Tiny 2.1 的微型问答模型仅有 36.7 万参数,体积约 380KB,可在 DOS 系统与 486DX 等老电脑上运行。它支持 8 位量化并配有完整界面,还能通过 PC 扬声器朗读回答。#复古科技##AI##DOS#
WollyMonjac 最近做成了一个复古味很足的项目:把语言模型装进软盘,让跑 DOS 的 486DX 和 Pentium 老机器也能用上 AI。消息在 11 月 22 日传出。

需要说明,Tiny 2.1 并非大型语言模型(LLM)。它用的架构和大型模型一样,都是 Transformer,但 WollyMonjac 给它的定位很朴素——一个用 Turbo C 2.0 写出来的微型问答 Transformer。

486 电脑那会儿,普通 PC 格式化软盘的容量还不到 147.5 万字节。要在这么点地方跑现代 AI 软件,难度可想而知。Tiny 2.1 的做法是把模型体积压到极限,最终配置如下:
参数量 36.7 万个,网络 4 层,隐藏维度 96,逐字母读取、逐字母生成。
权重精度为 8 位量化,每行一个缩放系数,模型总大小约 380 KB。
训练数据约 3500 条事实信息,每条都换了多种问法来训练。
想在老式 PC 上跑 Tiny 2.1,系统得留出约 540 KB 可用常规内存。
界面做得也相当完整,有对话历史窗口、神经网络监控面板,还有输入问题的 Ask Tiny 窗口。按 DOS 软件的老规矩,软件还给了一组 F 键快捷操作。
还有个复古未来主义味道的功能:模型生成的回答,能通过 PC 内置扬声器用机器人语音念出来。
开发者对这款 DOS 程序的定位相当谦逊。GitHub 项目页面写着,软件由 Fable 5.2 编写、由 Opus 5.5 训练。WollyMonjac 也开玩笑地承认,除了训练数据里的那点知识,这个语言模型“会非常自信地编造内容”。
近几个月,围绕大型语言模型幻觉的讨论少了些。可放到这个复古 AI 项目上,一本正经胡说八道反倒像是个有趣的功能。
要是觉得 Tiny 2.1 的知识储备不够,WollyMonjac 在 MIT 许可证发布的软件包里还放了专门的训练文件夹。感兴趣的人可以自己补训练数据,做一个专攻自己关注领域的问答 Transformer。
让老软件跑在新硬件上,如今不算什么难事。反过来,把现代软件和游戏塞进几十年前的老硬件,也正成为一股有意思的开发潮流。
类似项目此前出过不少。有开发者为 DOS 做了 ChatGPT 客户端,让 1984 年推出的 IBM PC 也能用 ChatGPT;有人让《我的世界》在 Game Boy 上跑了起来;有人用生成式 AI 给 Commodore 64 生成 8×8 像素精灵图;甚至有人把《毁灭战士》(Doom)移植到了 Atari ST 电脑上。
这些项目实用价值有限,但开发者借此突破了老旧硬件的性能和存储限制,让现代技术和经典计算设备碰出了有意思的火花。