OVH开源Olala mini 7A1B:8GB显存可跑,后续还有超100B版本
IT之家 11 月 17 日消息,欧洲云服务企业 OVHcloud 当地时间今日宣布推出其首个 AI 模型家族 Olala,同时公布了该系列的首个成员 Olala mini 7A1B。Olala mini 7A1B 采用结合了 Differential-TPA 和 Mamba-3 的混合注意力机制,总参数 70 亿、激
OVH 是欧洲的云服务企业,11 月 17 日它对外公布了自研 AI 模型系列,系列名字叫 Olala,打头阵的是 Olala mini 7A1B。
这款 Olala mini 7A1B 会以开源形式发布。
Olala mini 7A1B 能在只有 8GB 显存的 GPU 上跑起来。
按 OVH 的说法,整个项目的总投入为 700 万欧元(现汇率约合 5,142.8 万元人民币)。
另据了解,Olala 2.0 的参数量将超过 100B。