Carbon-X:能对话的DNA大模型,140亿参数可本地跑
现在AI已经深入到基因研究领域,最近几款专攻DNA的大模型接连登场,其中一款叫Carbon-X的模型思路很特别。 它就像“DNA版的ChatGPT”,把晦涩的基因代码和人类日常语言打通,用....
眼下AI已经扎进基因研究的地界,几款专攻DNA的大模型接连冒出来。其中
Carbon-X的玩法不太一样,它被叫作“DNA版的ChatGPT”,把难啃的基因代码和日常语言接上了线,用聊天提问的方式就能问明白基因方面的事。
同赛道另外两款产品可以先摆出来看。EpMind公司的AlphaGenome,拿手的是预测DNA序列和基因突变会起什么作用,可它吐出来的结果清一色是数值格式,普通人基本看不明白,跑起来对算力的要求也不低。Evo 2来头更硬,出自Arc研究所、
图源:豆包AI
Carbon-X挑的是另一条路子,走亲民路线:DNA序列信息和人类自然语言一起融进去,做成能对话的交互界面。说白了,不用自己硬啃那些干巴巴的基因代码,像对着普通聊天AI发问那样,就能拿到对应基因的通俗生物学解读。
它的实现办法其实不复杂。研发团队没有从零搭模型,而是在现成的成熟语言模型上做扩展:先给模型扩了“词汇表”,让它能按6个碱基字母一组去读DNA序列;接着用总量3000亿的数据片段(大模型里常说的token)接着训练,这批数据掺了三类东西——纯DNA序列、普通英文文本,还有“DNA序列对应生物功能描述”的配对样本。
训练用的DNA数据来源铺得很开,人类在内的哺乳动物、其他脊椎动物、无脊椎动物都在里面,植物、真菌和原生生物的基因信息也有。团队特意交代,病毒的基因数据一点没用。这么做的初衷,是不让模型被拿去做有潜在危险的研究。
图源:豆包AI
当然,眼下这款模型的使用边界也很清楚。完整的人类基因组传不上去,模型的设计上限是单次处理约5万个碱基对长度的DNA序列。换句话说,每次只能查基因组里的一小段,一整套基因信息没法一次性喂进去。
单次能处理的长度虽说有限,实用价值却不低。对科研人员来讲,最核心的用途之一就是帮着判断基因突变是什么性质:某个突变究竟是对人体没影响的良性变异,还是会诱发疾病的致病突变。这一步是研发靶向药物、开发基因疗法的关键前提。致病突变位点要是搞错了,对应的治疗手段轻则一点效果没有,重则还可能带来意料之外的伤害。
这款模型还有个挺务实的设计——主打本地运行,保住数据隐私。现在前沿AI模型的数据规范都很严,带身份标识、涉及患者隐私的敏感数据,不允许随便往云端模型上传。考虑到这层,研发团队特意把Carbon-X控制在仅140亿参数的“小体量”。
图源:豆包AI
参数规模小,好处是不用靠云端服务器,用户在自己本地硬件上就能跑。整个使用过程里,数据只留在用户自己的设备中,不会传给Hugging Face平台,也不会流到其他任何公司,敏感数据泄露的风险因此降了不少,医院、科研机构用起来更踏实。
开发团队最后也把局限性摊开讲了:Carbon-X目前还没经过真实实验室的“湿实验”验证,也就是没在真实生物实验里检验过效果。它给出的预测结果准确率到底怎么样,现在没法下肯定结论,后面还得靠更多实际实验来打磨和校验。