麒麟9050芯片实现30B大模型入端:AI端侧应用升温
本文分析了华为麒麟9050芯片搭载新一代达芬奇架构NPU、Anthropic和英伟达发布新品等事件,探讨了AI芯片技术革新与端侧应用市场爆发的趋势。
华为麒麟9050系列芯片用上了新一代达芬奇架构NPU,业界首个30B MoE大模型被放进端侧,性能提升140%,功耗降低66%。这颗芯片还支持Transformer引擎、超低功耗感知引擎和CANN异构计算架构。AI芯片这几年一直在往前走,端侧应用因此有了更硬的技术底子,智能设备接下来的演进也多了一层支撑。
Anthropic和英伟达同样在发新品。Anthropic的Fable 5.2通用大模型在机器人控制上表现突出,英伟达则推出新一代机器人模型GR00T 2,同时发布机器人学习框架和多项技术。这些产品落地,把AI芯片往机器人、智能设备等场景里又推了一步,端侧AI市场被看作即将迎来爆发式增长。
AI眼镜这类原先偏小众的概念,一天之内突然火了,市场资金开始抢购AI端侧应用相关股票。资金的动作说明市场看好端侧应用的前景,也在追逐AI技术革新带来的机会。不过这个市场还在发展当中,技术、市场、伦理几方面都还有不少难题待解。
AI芯片技术在变,端侧应用市场在起量,AI产业因此同时拿到新机会和新挑战。技术继续进步、需求继续增长,端侧应用市场今后的空间被普遍看好。