Open ASR榜单为何再添埃及尼日利亚英语私有测试集?

资讯 AI 应用前沿 全文 2286 字 · 约 6 分钟读完 分类HuggingFace产品更新语音

Hugging Face Open ASR Leaderboard 联合 Liva AI 引入埃及和尼日利亚英语的私有评估数据。文章解析了此次更新如何细化口音分类,以及为何引入“私有数据”能更真实地反映语音识别模型在非主流口音上的表现,避免刷榜现象。

所属频道 产品更新

语音识别评测为什么需要“私有数据”

关注语音识别(ASR)进展的人大概都见过这种反差:模型在公开基准上分数漂亮,一到真实使用场景,碰上口音重或发音不标准的用户,效果就明显掉下来。

几个月前,Hugging Face 的 Open ASR Leaderboard 已经试过一回:把 Appen 和 DataOceanAI 的11个私有数据 splits 放进来,覆盖五种口音的脚本化语音和对话式语音。社区当时的反应很直接——大家受够了“刷榜”(benchmaxxing)。测试数据一旦公开,开发者就能拿这批特定数据做过拟合训练,分数自然虚高。真正能检验泛化能力的,还是手里攥着不公开的测试集(held-out sets)。

之后,榜单又接入了 Voice Arena 提供的印度口音英语私有数据。这回又有新扩展:Open ASR Leaderboard 与 Liva AI 合作,把埃及英语和尼日利亚英语的私有评估数据正式纳入。

新增的两个口音数据集

本次更新的核心是两个新的私有数据集,一个针对埃及英语口音,一个针对尼日利亚英语口音。它们不是简单的朗读录音,内容更贴近真实场景下的对话。

数据集名称 口音 时长 (小时) 风格 转录特点
Liva AI Conversational EG 埃及英语 1.34 对话式、自发 带标点、大小写,包含犹豫词等非流利特征
Liva AI Conversational NG 尼日利亚英语 1.55 对话式、自发 带标点、大小写,包含犹豫词等非流利特征

表格里“风格”那一栏写的是“自发的”(spontaneous)。也就是说,录音里有真实对话中的停顿、重复、修正,甚至背景噪音。跟字正腔圆的新闻播报或脚本朗读比起来,这类数据对 ASR 模型的考验大得多。转录文本还保留了这些非流利特征(disfluencies),模型不光要听清字词,还得跟上口语本身的自然节奏。

口音分类逻辑更细了

数据维度一多,单贴一个“英语”标签已经不够评估用了。Open ASR Leaderboard 参考了 Hume AI 的做法,依据语言学家 Braj Kachru 的“英语三圈理论”(Kachru’s Three Circles of English),把私有标签页(Private tab)的评估结果拆得更细。

现在榜单给出两个维度的对比:

  1. 一是美式对非美式。非美式涵盖英国、澳大利亚、加拿大、印度、尼日利亚和埃及,这个维度主要看模型有没有过度依赖美式发音数据。

  2. 二是内圈对外圈及扩展圈。

    • 内圈(Inner Circle):美国、英国、澳大利亚、加拿大。这些国家一般以英语为母语,发音规范相对标准化。
    • 外圈及扩展圈(Outer & Expanding Circles):印度、尼日利亚、埃及。英语在这些地区多作第二语言或官方语言使用,逐渐形成了带本地特色的变体。

这样分类的意义在于,能看出模型在不同语言生态位里的表现差异。一个在内圈数据上近乎完美的模型,处理尼日利亚英语或埃及英语时错误率可能一下子冲上去。榜单计划随着后续更多口音数据加入,把外圈和扩展圈再往下拆,给出更 granular(细粒度)的评估视角。

数据来源:Liva AI 怎么做的

这回合作的数据提供方是 Liva AI,它的采集方式跟传统实验室录音不太一样——多模态交互数据来自面向消费者的真实产品。

Liva AI 既掌握数据采集环境,也管产品分发,因此可以针对特定领域、行业、语言或交互类型中的模型短板来设计产品功能。数据就这样来自用户自然使用产品时产生的高上下文行为,而不是为测试专门设计的任务,也不是人工 elicited(诱导)出来的对话。

换句话说,录下来的是人们在真实生活场景里说话的样子。对 ASR 模型来说,这种“脏”数据比干净的标准录音更有参考价值,因为它对应的是模型部署之后真会碰到的情况。

这对开发者意味着什么

做语音识别开发的团队,从 Open ASR Leaderboard 这次变化里能读出一个明确信号:通用高分不够用了,细分场景下的鲁棒性成了新的竞争焦点。

一方面,私有测试集进来以后,刷榜的成本和难度都上去了。开发者没法再靠微调模型去匹配特定测试样本,只能拼更强的架构和更多样的训练数据,把泛化能力提上来。

另一方面,对非主流口音的关注,逼着团队重新看训练数据的多样性。目标市场如果包括非洲或中东,只用美式或英式英语数据训练显然不够。埃及英语和尼日利亚英语的加入,提醒开发者留意元音发音、语调模式以及本地词汇对识别准确率的影响。

还有一点,评估方式细化之后,不同模型之间的比较更公平了。过去一个在美式英语上表现优异的模型,可能因为整体平均分高就被认为“更好”;现在能清楚看到它在其他口音上的短板。挑适合特定地域部署的模型时,这一点很关键。

结语

语音技术要服务的是全球用户,母语为英语的人群只是其中一部分。Open ASR Leaderboard 引入了埃及和尼日利亚英语的私有数据,又把语言学分类框架纳入评估体系,ASR 评估因此朝着更贴近真实、更多元的方向走。

口音和语言数据越加越多,未来的语音识别系统有望不再对某些口音“充耳不闻”,而是能真正听懂世界的多样性。对开发者来说,早点适应这种细粒度的评估标准,在下一轮技术竞争里就能占据主动。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. Phonon TTS发布:开源端侧语音合成,离线也能跑

    Gradium推出的Phonon TTS模型能在手机、笔记本等设备上离线运行,支持英法德西葡五语。它在Hugging Face开源TTS榜单中,德语和西班牙语清晰度排名第一,首字延迟表现优异。文章介绍其技术原理、Transformers集成方法及实际应用场景。

    来源 AI 应用前沿
  2. Harness Adapters:用安全强化学习提升智能体开发效率

    Hugging Face 团队发布了 Harness Adapters,这是一种基于 LoRA 的轻量级适配器,通过强化学习(RL)在 pi、opencode 和 hermes 等智能体框架中训练。核心创新在于引入 safeagents 代理,实时拦截并阻断模型试图“作弊”的工具调用,确保训练安全。实验显示,该方案能在

    来源 AI 应用前沿
  3. 商汤SenseNova 6.8 Flash升级连续性:办公任务如何不跑偏?

    本期资讯聚焦模型能力演进与基础设施优化。商汤SenseNova 6.8 Flash提升了跨任务保持目标的能力,网易有道推出互动式讲题Agent“欧拉”,推动教育AI从搜答案转向教学过程。技术层面,Hugging Face分享本地量化部署技巧,NVIDIA演示GPU加速数据处理。安全领域,a16z警示AI降低攻击门槛,而

    来源 AI 应用前沿
  4. 德朗格:P(Doom)近零,矛头转向封闭模型

    在 11 月 5 日迈阿密举行的 WIRED 世界博览会上,Hugging Face 首席执行官克莱门特·德朗格给那道著名的"末日算式"泼了冷水。他对自己口中导致人类灭绝的概率 P(Doom),给出的评估是"接近于零"。在一众创始人忙着渲染生存级威胁的当下,这位开源阵营的掌门人选择把话挑明:比起天启式想象,眼前更该盯紧

    来源 AI 开发者社区
  5. 软银53.75亿美元买ABB机器人业务,中国监管层说不

    【TechWeb】11月6日消息,据外媒报道,ABB集团官网11月5日发布的《ABB机器人业务剥离进展更新》声明称,ABB已获软银告知,中国外商投资安全审查工作机制办公室已禁止软银收购ABB在中国的机器人业务。声明同时表示,ABB与软银正保持密切对话,并以建设性态度推进该交易。据媒体报道,ABB机器人业务在全球工业机器

    来源 腾讯网
  6. OpenAI发布GPT-6 Cyber:攻防能力双升,风险评级升至Critical

    AI 在网络安全领域的能力,又迎来了一次重大升级。 就在刚刚,OpenAI 正式发布新一代网络安全模型GPT-6 Cyber,能够自主发现软件漏洞、验证漏洞是否可以利用,并协助研究人员开发修复方案。 相比上一代 GPT-5.6 Cyber,新模型在漏洞利用测试中的成绩相对提升约 51%,同时大幅改善了执行安全任务时的指

    来源 AI 行业观察
  7. OpenAI模型在Firefox挖出111个RCE漏洞:81个为全新发现

    本期重点:OpenAI的自动化安全管线在Firefox里揪出111个渲染器漏洞,其中81个是新的;GitHub发布新Git存储架构,单仓库能扛5000个并发智能体写入;Hugging Face把ML Intern做成了Slack机器人,AWS Bedrock上线Web Answer工具。另外,a16z报告指出公开漏洞数

    来源 AI 应用前沿
  8. 曹操出行接入中国移动12580助理,成首个打车生态伙伴

    此次合作将结合曹操出行的合规运力调度、出行服务保障能力,以及中国移动12580个人智能助理的AI意图识别、语音交互和任务调度能力,为用户提供更加便捷、智能的AI打车体验。此次12580个人智能助理上线是双方合作的首期试点,通过 A2A 协议一次对接灵犀主控,后续曹操出行AI打车服务可进一步上线多个中国移动生态入口,扩大

    来源 TechWeb
  9. 曹操出行接入12580:首个打车生态伙伴落地

    此次合作将结合曹操出行的合规运力调度、出行服务保障能力,以及中国移动12580个人智能助理的AI意图识别、语音交互和任务调度能力,为用户提供更加便捷、智能的AI打车体验。此次12580个人智能助理上线是双方合作的首期试点,通过 A2A 协议一次对接灵犀主控,后续曹操出行AI打车服务可进一步上线多个中国移动生态入口,扩大

    来源 TechWeb
  10. 奇富科技开源ModelEvo 2.0:自动建模Agent新增自主搜索与经验复用

    【TechWeb】11月6日消息,尽日,奇富科技正式开源自动建模Agent ModelEvo 2.0。新版本面向结构化与表格数据,在标准化建模流程的基础上,进一步实现自主搜索、可信评估与跨任务经验积累复用。用户明确业务目标、提供建模样本与验证方案后,Agent可在给定预算内分析数据、规划实验并持续优化,对通过确认与交付

    来源 AI 行业观察
  11. 腾讯Chatterfly上手:语音说完就能成稿,还能直接执行任务

    过去一年,Typeless、Wispr Flow等AI语音输入产品逐渐走红,让不少人开始尝试放下键盘,直接用说话的方式完成文字输入。这类产品最吸引我的地方,在于我们终于不需要一边说话,一边纠结那些口头禅、重复的表达和混乱的语序。哪怕想到哪里说到哪里,AI也能最终整理成一段清晰、流畅的文字。但最近我通过内测体验了腾讯的C

    来源 腾讯网
  12. 特斯拉FSD欧洲改名TAD:德国开条件,12月投票定生死

    特斯拉的FSD,要在欧洲改名了。 根据外媒报道,荷兰车辆管理局(RDW)已经批准了特斯拉FSD系统在该国的多项更新,包括将最高车速超出限速的偏移值下调至10%以内,以及将名称改…TAD(Tesla Assisted Driving,意为特斯拉辅助驾驶)。 目前,特斯拉监督版FSD(也就是现在的TAD)已经在欧洲10国被

    来源 AI 行业观察
  13. 谷歌Omni 1.2 Flash上线:视频时长增至15秒,API降价约30%

    人工智能视频生成与编辑领域迎来重要更新。Google DeepMind 正式发布了全新的多模态视频生成模型——Gemini Omni1.2Flash。该模型在生成时长、画面一致性、多轮对话修改以及 API 价格上均带来了全方位的重大升级。 核心性能升级:时长翻倍、一致性优化与多轮对话编辑 在核心功能方面,Gemini

    来源 AI 开发者社区
  14. Anthropic上线Claude个人理财:美国Pro/Max/Ultra率先灰度

    当地时间11月5日,人工智能企业Anthropic宣布正式为Claude推出全新的个人理财功能(Personal Finance),并于本周率先开启灰度测试,面向美国地区的 Pro、Max 以及 Ultra 订阅用户开放。这一新功能的上线,标志着大模型正在从单纯的办公与创作助手,逐步深入渗透至用户的日常金融与生活管理场

    来源 AI 开发者社区
  15. OpenAI花120万美元补948个Linux漏洞:ChatGPT图像新增GIF生成

    本期资讯聚焦OpenAI在安全与产品层面的双重动作:其自动化管线以120万美元成本发现并修补948个Linux内核漏洞,展示规模化安全能力;同时ChatGPT Images 2.6上线,支持GIF生成与参考图复用。此外,Google Vids免费开放15秒视频生成,NVIDIA联合Box推进企业级权限感知检索,Visa

    来源 AI 应用前沿
  16. AI找到1024位RSA弱点,大厂同月密集开源万亿模型

    DeepMind展示AI辅助发现1024位RSA漏洞,现代2048位系统暂不受影响。月之暗面、百度等密集开源大模型权重,AWS和Google Cloud推出新算力与数据工具。行业焦点从单纯拼参数转向智能体落地与安全防御,资本支出持续高位运行。

    来源 AI 应用前沿
  17. Meta撤回页面内容AI训练条款:默认授权争议收场

    面对外界“你们是不是觉得用户读不懂条款”的尖锐质疑,Meta撤回了原定更新的商业条款——该条款原本要求Facebook页面所有者默认同意其关联内容被用于AI训练。这场短暂的博弈,再次把平台协议与数据授权之间的灰色地带推到台前。

    来源 AI 科技快讯
  18. LeRobot v0.7.0发布:训练机器人不再先下TB级数据

    LeRobot v0.7.0 更新让开发者能直接从云端流式传输 TB 级数据集进行训练,彻底告别本地存储瓶颈。新版支持自然语言交互控制机器人,引入 Cosmos 3、FLUX 3 Action 等四大世界动作模型,并优化了远程推理架构,让轻量级机器人也能运行大参数模型。此外,还增加了多款新硬件支持和更严谨的评估指标,是

    来源 AI 应用前沿
  19. WhatsApp 测试 AI 扩图:Meta AI 接入 iOS 版编辑器

    近日,WhatsApp 正式面向部分 iOS 测试版用户推出了由 Meta AI 驱动的全新照片扩展工具。该功能深度整合在应用内的绘图编辑器中,旨在通过生成式 AI 技术为移动端图像处理带来更多可能性。 在此次更新中,拥有 Apple Intelligence 功能的 iPhone 用户可以通过 WhatsApp 的全

    来源 AI 开发者社区
  20. Claude上线Personal Finance:接Plaid可查账单,AI助手伸向银行账户

    Anthropic旗下AI助手Claude正式推出Personal Finance个人理财工具,用户可通过金融数据平台Plaid连接银行与信用卡账户,直接以对话方式询问消费明细与财务状况。这意味着Claude正从通用对话助手向个人生活助手延伸,也标志着AI大模型与传统金融数据服务的进一步融合,但账户授权与隐私安全问题仍

    来源 AI 科技快讯
  21. 苏杰离职火山引擎汽车业务:已转个人贡献者,产品上线不受影响

    11月6日消息,近日,火山引擎汽车业务 研发负责人苏杰离职的消息引发外界关注。界面新闻援引接近火山引擎的人士透露,苏杰离职前数月已转为个人贡献者,不再带团队,也并非相关业务研发负责人。截至目前,其离职去向仍不清楚,但该岗位调整及人员变动不会影响火山引擎汽车业务相关产品的正常上线。这两款车型的技术方案均被指由苏杰确定。

    来源 TechWeb
  22. 苏杰离开火山引擎汽车业务,豆包座舱交付不受影响

    11月6日消息,近日,火山引擎汽车业务 研发负责人苏杰离职的消息引发外界关注。界面新闻援引接近火山引擎的人士透露,苏杰离职前数月已转为个人贡献者,不再带团队,也并非相关业务研发负责人。截至目前,其离职去向仍不清楚,但该岗位调整及人员变动不会影响火山引擎汽车业务相关产品的正常上线。这两款车型的技术方案均被指由苏杰确定。

    来源 TechWeb
  23. 火山引擎汽车业务苏杰离职,豆包座舱交付不受影响

    【TechWeb】11月6日消息,近日,火山引擎汽车业务(俗称“豆包汽车”)研发负责人苏杰离职的消息引发外界关注。 界面新闻援引接近火山引擎的人士透露,苏杰离职前数月已转为个人贡献者,不再带团队,也并非相关业务研发负责人。截至目前,其离职去向仍不清楚,但该岗位调整及人员变动不会影响火山引擎汽车业务相关产品的正常上线。

    来源 AI 行业观察
  24. Meta上线Spaces:Muse智能体新增协作空间

    Meta旗下Muse智能体再添新功能Spaces,旨在提供与AI助手协作的全新交互方式。本文基于TechCrunch报道,梳理Spaces的定位、Muse智能体的演进脉络,并分析AI代理协作空间对生产力工具市场的潜在影响。

    来源 AI 科技快讯
向下滚动自动加载更多