麒麟9050芯片:30B MoE模型端侧跑,NPU性能提升140%
华为麒麟9050芯片搭载新一代达芬奇架构NPU,支持30B大模型端侧运行,推动AI端侧发展新趋势。
华为麒麟官方公众号近日放出消息,麒麟9050系列将用上新一代达芬奇架构NPU。按照官方说法,这突破了传统AI芯片的局限,给端侧AI带来新的机会。
这颗芯片跑的是业界首个30B MoE大模型,直接在端侧运行,不用联网,也不用等云端回应。AI应用因此更省事,移动设备、物联网这些场景都用得上。
新一代达芬奇架构NPU的性能提升140%,功耗降低66%。该架构还支持Transformer引擎、超低功耗感知引擎和CANN异构计算架构,AI应用能用的功能更多。
麒麟9050芯片的发布,是华为在AI芯片领域的又一次重要突破。AI技术还在往前走,端侧AI应用的空间会更大。华为这一步,会推动整个AI行业向前。
麒麟9050的推出还透出AI行业当下的一个新动向:终端侧AI应用的分量正越来越重。随着5G、物联网等技术加速铺开,端侧AI应用有望成为今后AI产业的一大走向,华为这次出手,也会给这个方向添上一把力。