无涯智远获数亿元天使轮融资:北大博导带队攻克实时RSI
智东西(公众号:zhidxcom)作者 | 黄菲编辑 | 江宇智东西11月19日报道,今日,北京AI初创公司无涯智远(Norizon AI)宣布完成数亿元天使轮及天使加轮融资,五源资本、红杉中国、联想之星、中关村科学城基金、戈壁创投等参与投资。心流资本FlowCapital担任本轮融资的财务顾问。无涯智远是一家专注于实
智东西11月19日消息,北京AI初创公司无涯智远近日完成数亿元天使轮融资。
这家公司押注的方向是实时递归自我改进(Real-Time Recursive Self-Improvement,RSI)。其研发重点是让大模型在部署之后还能接着学、自己更新参数。
无涯智远自研RSI模型技术,核心技术之一是其超网络方案SHINE。
创始人兼首席科学家张牧涵本科读于上海交通大学。
博士毕业后,他进入北京大学任教,现为该校博导,同时在北大人工智能研究院开展研究。
▲张牧涵,图源:北大人工智能研究院官网
目前团队超过20人,成员来自北京大学、清华大学、麻省理工学院等高校,其中还有奥赛背景的成员。
团队主攻的问题之一,是大模型部署后怎么持续学习。
眼下的常见做法是扩大上下文窗口,或者借助外部检索,模型本身的参数并不随之改变。
针对这一点,无涯智远做出了SHINE。
传统微调要经过多轮参数优化,SHINE的做法不同:尝试用一次前向计算就完成轻量级参数更新,把模型持续学习的计算开销压下来。
按无涯智远的说法,SHINE在缓解灾难性遗忘方面已有表现。
除此之外,团队还在研究怎样把超网络做得更大、让单次知识内化覆盖更长的内容,并提高模型在数百万tokens连续更新时的稳定性。
结语:实时RSI探索持续升温,模型自我进化仍待落地
大模型正从单次问答走向长期任务执行,部署后如何持续吸收新知识,成了AI领域一个新的探索方向。
与依赖上下文窗口和外部检索的路子相比,实时递归自我改进(RSI)想把新知识直接写进模型参数,让模型在用的过程中不断积累经验。
无涯智远选的是超网络这条技术路线,希望借此压低模型持续学习的成本。只是从实验走到真实业务,长期更新中的稳定性还得过关,学新知识时不能把原有能力丢掉。RSI技术能不能变成可靠的产品,仍是无涯智远要回答的关键问题。