AI评测转向现实任务执行,OpenAI推出LifeVal衡量个人助理能力

资讯 AI 开发者社区 作者:编程导航 全文 2922 字 · 约 8 分钟读完 配图 1 张 分类OpenAI教育 AI

近日,OpenAI发布LifeVal基准测试,用于衡量AI在照护、健康、教育、家庭管理、个人财务及政府服务等日常生活场景中的表现。与侧重知识问答和单项能力的传统评测不同,LifeVal重点关注AI能否将任务推进至可执行、可交付的状态,评估其解决实际问题的能力。 该基准参考美国时间使用调查(American Time U

所属频道 大厂动态行业落地

近日,OpenAI发布LifeVal基准测试,用于衡量AI在照护、健康、教育、家庭管理、个人财务及政府服务等日常生活场景中的表现。与侧重知识问答和单项能力的传统评测不同,LifeVal重点关注AI能否将任务推进至可执行、可交付的状态,评估其解决实际问题的能力。

QQ20261103-155956.jpg

该基准参考美国时间使用调查(American Time Use Survey),并基于3995名受访者的调研构建。过去一年,OpenAI持续利用LifeVal追踪模型能力改进。公开测试案例显示,AI为孩子筛选幼儿园的任务得分达到93.1%,组织防洪志愿者得分为98.0%,为糖尿病患者制定膳食计划得分为90.4%。

OpenAI同时强调,LifeVal目前主要作为内部评估工具使用,尚未向外界完整开放任务集和评分代码,因此相关测试结果仍需谨慎解读。

此次推出LifeVal,反映出OpenAI正在将模型评估重点从信息理解和内容生成,进一步延伸至复杂现实任务的规划与执行,推动AI从对话工具向具备实际行动能力的个人助理演进。

1
B 站上 DeepSeek 闹鱼灾了,我发起《大肥鱼清除计划》!
450
2
Vibe Coding 实战:从零构建现代专业级 AI 搜索引擎
390
3
我的第一个出海产品!7 天 2 万
360
4
又一个国产版 Codex 神器,也来卷办公了!
360
5
day3-如何写出一个高质量的 Skill(组内分享) 高质量 Skill 不是“一个调得很顺的巨型 Prompt”,而是一个可验证、可回归、可维护的能力包。 先定义“什么算好”,再实现“怎么做好”。评估体系先于 Skill 本身成型。 下面用“故障诊断 Markdown 转 YAML”作为例子,但方法是通用的。 --- 一、先想清楚:Skill 到底是什么 一个 Skill 至少包含四部分: 部分 作用 接口 输入什么、输出什么、边界在哪 流程 分几步做,每步的产物是什么 规则 硬约束、经验规则、失败模式 降级策略 不确定时怎么办,而不是硬编一个看似合理的结果 高质量 Skill 的共同点:职责单一、接口清晰、规则可定位、输出可验证。 反例:把几十条经验全塞进一个主 Prompt,改一条规则要重调整个 Prompt,评估时也不知道是哪条规则退化。 --- 二、核心方法:先建评估,再写 Skill 不要先写转换器再补测试。正确顺序是: 1. 定义输出契约:什么算合法、什么算合格; 2. 建金标准集:一小批人工认可“可放行”的样本; 3. 先写评估 Skill:让它在金标准集上跑出基线; 4. 再迭代生成 Skill:每次修改跑同一套评估,无退化且目标维度提升才算正向。 这就是评估驱动开发:评估是 Skill 的单元测试,金标准集是回归锚点。 --- 三、评估 Skill:三层门禁,逐层递进 前一层不过,后一层不跑。每层留可追溯证据。 第 1 层:确定性硬门禁 用解析器、Schema、校验器完成,不消耗模型成本。 · 输出可解析; · 必填字段齐全,类型/枚举合法; · 引用目标存在,无悬空引用、无不可达节点; · 关键路径至少有一条能到达预期出口。 不通过直接打回。 第 2 层:语义断言 用脚本 + 结构遍历检查“逻辑对不对”,仍然保持确定性。 通用检查项: · 覆盖率:源材料里的关键步骤、分支、条件,输出里是否都有对应? · 完整性:每个判断节点是否都有明确出口?有没有死胡同? · 可达性:每条路径是否都能到达预期终点?有没有无出口循环? · 顺序与依赖:有先后依赖的操作,是否保留了顺序?有没有被拍平成无序列表? 例子:故障诊断转换中,检查“每个判断项是否有是/否/异常出口”“每条路径是否能到根因”。 第 3 层:LLM-as-Judge 只处理解析器表达不了的维度:忠实度、完整性、可执行性。 但 Judge 会漂移,不能单独放行,必须建立在第 1、2 层之上。Judge 的 Prompt、rubric、模型版本都要版本化,换模型必须用金标准集重新校准。 通用 Judge 维度: 维度 问什么 忠实度 输出是否忠实源材料意图?有没有自行发明内容? 完整性 关键步骤、条件、证据是否保留?隐式知识有没有被压成空话? 收敛性 输出是否仍指向原目标,而不是发散? 可执行性 下游不依赖源材料能否直接使用? --- 四、金标准集:回归测试的锚点 不需要一开始就标注几百份。用已认可的样本当种子,扩到 15~30 份,覆盖失败模式而非随机抽样: · 完整正例:典型流程; · 边界/异常分支:异常路径、循环、前置失败回退; · 已知易错模式:实际踩过的坑; · 留出集:不参与调优,只用于最终验收,防过拟合。 金标准不需要完美,只需要当前标准下认可可放行。 回归指标:关键路径用 pass^k(k 次全过),稳定性用 pass@k。 --- 五、工程约束:让批量产出可重放 · 幂等:同输入 + 同 Skill 版本 + 同规则 → 输出一致,否则无法判断变好是 Skill 改了还是随机波动; · 隔离不阻断:单份失败进隔离队列,记录失败层和原因,不阻塞其余; · 版本绑定:规则、rubric、金标准集进 Git;每份报告绑定“源版本 + 生成 Skill 版本 + 评估 Skill 版本 + Judge 模型版本”; · 抽样人工复核:Judge 临界样本 + 易错模式,人工抽检结果反过来校准 rubric。 --- 六、Skill 本身怎么写 · SKILL.md 控制篇幅,写清:输入约定、输出契约、分步流程、硬规则、降级策略; · 经验规则放 references/ 或 rules/,按失败模式分类,不要全塞进主 Prompt; · 不确定时标 needs_review: true,不要硬编看似合理的结果; · 迭代由评估报告驱动:报告告诉你哪层挂了、哪类失败模式,你改对应规则文件,而不是漫无目的调 Prompt。 --- 七、落地顺序(不要反过来) 1. 固化输出契约:Schema + 结构约束; 2. 建金标准集:从已认可的 + 最易出错的样本开始; 3. 先写评估 Skill:跑出基线报告; 4. 再迭代生成 Skill:每次修改对比逐项通过率,无退化且目标提升才算正向; 5. 批量运行 + 隔离回放:失败进队列,结束后人工抽检; 6. 评估 Skill 自身版本化:换 Judge 模型必须重新校准。 --- 八、给组员的三条硬要求 1. 不许凭感觉说“变好了”:每次修改必须附评估报告对比,逐项通过率说话。 2. 不许跳过确定性门禁直接看 Judge 分数:前两层挂了,Judge 分数没有意义。 3. 不许把规则堆进主 Prompt:规则按失败模式分文件,评估报告要能定位到具体文件。 --- 一句话收尾 生成 Skill 决定“能不能做”,评估 Skill 决定“敢不敢用”。 先让评估体系站稳,再让生成器迭代。这样交付的不是一堆“看起来还行”的产出,而是一套可证明、可回归、可交接的 Skill 质量体系。
330
本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 一份私密备忘录流出:OpenAI 想让 AI 成为 2028 大选的"必答题"

    据《商业内幕》11 月 2 日晚报道,OpenAI 首席全球事务官克里斯·莱汉,正私下向有意角逐 2028 年大选的人士吹风:AI 将左右下一届竞选的主轴。他在一份备忘录里提醒候选人,不能只围绕热点准备几套说辞,必须拿出一套完整的 AI 治理思路。他特别点名民主党:若反对 AI 基建,恐在政策辩论中落于下风。 莱汉判断

    来源 AI 开发者社区
  2. OpenAI与阿布扎比签4项协议:全球首个机器可读政府投入运行

    2026年11月2日,阿布扎比政府与OpenAI签署四项协议,启动全球首个AI原生机器可读政府倡议。首个试点已在农业和食品安全局运行,政策法规被转化为AI可处理格式,推理过程全部保留在阿联酋境内算力上。该倡议覆盖政府、能源、投资和教育领域,目标是在2027年前建成AI原生政府框架,首批应用聚焦食品进口合规评估。

    来源 AI 行业观察
  3. 阿布扎比联手OpenAI:全球首个机器可读政府启动,食品进口合规先行

    2026年11月2日,阿布扎比政府与OpenAI签署四项协议,启动全球首个AI原生机器可读政府倡议。首个试点已在农业和食品安全局运行,政策法规被转化为AI可处理格式,推理过程全部保留在阿联酋境内算力上。该倡议覆盖政府、能源、投资和教育领域,目标是在2027年前建成AI原生政府框架,首批应用聚焦食品进口合规评估。

    来源 AI 科技快讯
  4. 从"禁军用"到拿下五角大楼,OpenAI 请来前陆军部长当顾问

    OpenAI 11 月 3 日宣布,聘请今年 8 月刚辞去美国陆军部长一职的丹尼尔·德里斯科尔出任国家安全与现代化事务高级顾问,协助把 AI 推向国家安全与网络安全的实际应用。 当地时间 2 日,公司通过声明公布任命,称他将与政府、学界及产业界多方负责人协作,落实具体的现代化改革;德里斯科尔还将为公共与私营伙伴提供咨询

    来源 AI 开发者社区
  5. OpenAI重磅宣布:前美国陆军部长丹·德里斯科尔出任高级顾问

    11月3日消息,人工智能巨头 OpenAI 官方于本周一宣布了一项重要人事任命,正式聘请前美国陆军部长丹·德里斯科尔(Dan Driscoll)担任新设立的国家安全现代化高级顾问一职。 在这一全新的核心岗位上,德里斯科尔的主要职责将是为 OpenAI 领导层提供战略建议,并与外部各界合作伙伴紧密协作,共同探讨如何有效利

    来源 AI 开发者社区
  6. OpenAI CEO 奥尔特曼称个人电脑浪费内存遭全网声讨,马斯克也来补刀

    IT之家 11 月 2 日消息,萨姆 · 奥尔特曼近期关于内存的言论引发越来越多人反对,埃隆 · 马斯克也加入了这场声讨。 上周,这位 OpenAI 首席执行官的一番话在全网、尤其是玩家群体中引发强烈不满。他称,人们把内存装在个人电脑里,而不是放在数据中心,是一件“很糟糕”的事。 在和博主 Cheeky Pint 的访

    来源 AI 行业观察
  7. Google教育AI与搜索捆绑:学校不用AI就失去搜索服务

    Google宣布向学校提供教育版AI工具,声称这些工具不会直接给出答案,而是通过引导式提问帮助学生独立思考。但选择不使用AI工具的学校将同时失去Google搜索服务。这一捆绑策略引发争议,被视为Google巩固教育市场的举措,也让学校在采用AI与保留基础搜索服务之间面临两难选择。

    来源 AI 科技快讯
  8. 纽约市长Mamdani谈AI:数据中心的账,该由谁来付

    中期选举临近,纽约市长Zohran Mamdani接受WIRED专访,围绕数据中心扩张、AI进入校园以及民主党的科技议程展开讨论。他以“我们的风险,他们的回报”概括当前AI基础设施热潮中的利益失衡,质疑社区承担环境与生活成本、科技公司获取算力回报的现状,并呼吁地方政府在审批、能源披露和教育采购中为居民争取更多话语权。

    来源 AI 科技快讯
  9. Google给学校出选择题:禁AI就连搜索一起停

    TechCrunch报道,Google宣布学校可以禁用其AI工具,但如果选择全面限制AI,将连带失去Google Search的访问权限,因为AI功能已深度整合进搜索引擎。这一政策让希望规避AI风险的学校陷入两难:要么接受AI,要么放弃全球最常用的搜索工具。此举凸显科技巨头在AI时代对教育市场的争夺,也引发关于学校数字

    来源 AI 科技快讯
  10. “数据中心”名声臭了,OpenAI想给它改个名字

    数据中心现在的名声,可真不怎么样。 还是奥特曼脑子活泛。舆论问题一时解决不了,可以先把“数据中心”这个名字解决了。 据报道,OpenAI希望大家以后把AI数据中心叫作“compute campuses”,翻译过来,就是“算力园区”。公司发言人已经确认了这个想法。 OpenAI给出的理由是,新名字更能体现它所建设的AI基

    来源 AI 行业观察
  11. 研究者在《我的世界》测试 AI 智能体集群:协作容易官僚化,对战 GPT 胜率更高

    IT之家 11 月 2 日消息,Y Combinator 与 Olam Labs 的人工智能研究人员近期在游戏场景中测试了智能体集群。研究选用《我的世界》及其各类玩法作为试验沙盒,让上百个智能体在其中协作或者相互对抗。研究思路是,借助游戏内的协作与冲突,帮助人们理解现实世界里那些引发广泛关注的智能体事件。 IT之家注意

    来源 AI 行业观察
  12. AI面试官被戏耍:这群靠调侃AI走红的年轻人签了好莱坞经纪公司

    凤凰网科技讯 11月3日消息,据《WIRED》报道,一群通过戏弄AI面试官、揭露ChatGPT错误来制作喜剧视频的年轻创作者走红。美国喜剧创作者格雷厄姆·拉贝的《如何搞砸你的AI面试》系列在Instagram粉丝从5万增长至超10万,并获得Dulcedo Management签约;马特·哈斯克靠展示ChatGPT荒诞表

    来源 凤凰科技
  13. OpenAI计划合并ChatGPT聊天与工作模式,Codex仍保持独立

    11月3日,据The Verge援引TechCrunch报道,OpenAI将合并ChatGPT的Chat与Work标签页,让用户在同一界面完成日常对话和多步骤任务,可制作网站、演示文稿或执行网页操作;面向编程的Codex仍独立保留。相关负责人蒂博·索蒂奥称尚未正式推送,将逐步开放测试。自12月起,Plus、Pro和Bu

    来源 凤凰科技
  14. OpenAI:极端天气下旗下美国数据中心可削减用电负荷

    IT之家 11 月 3 日消息,OpenAI 当地时间周一发布公告称,将在佐治亚州埃芬厄姆县一座新建的数据中心试点推出“电网保护者计划”。该公司承诺,在极端天气或紧急状况下,最多可释放 1000 兆瓦电力,这一电量大约能够供给 70 万户家庭使用空调。 IT之家注意到,发布这份公告的背景是,美国各地对数据中心的反对声持

    来源 AI 行业观察
  15. OpenAI将停用旧版ChatGPT Classic应用,合并聊天和工作标签页

    OpenAI已通知用户,旧版ChatGPT Classic应用将于2027年1月30日正式停止服务,所有聊天记录将迁移至新版应用。同时,OpenAI计划在不久后开始测试将聊天(Chat)与工作(Work)整合为统一界面的新体验,该测试将先面向一小部分用户开放。此前因界面混乱和原生应用被Electron替代引发的争议,以

    来源 凤凰科技
  16. 继 Anthropic 之后,OpenAI 爆改 Git

    刚刚,OpenAI 在工程博客上发了一篇长文,讲他们给自家 monorepo 换了一个新的 Git 后端,名叫 Pando。 现在 OpenAI monorepo 里的全部开发,都已经跑在....

    来源 腾讯网
  17. OpenAI一次性公布700多份手稿,数学界为何坐不住了?

    自今年夏天以来,数学界正在经历一场从未有过的密集震荡,引发这场震荡的正是能力不断迭代的AI。这场震荡在10月达到了一个高潮。10月6日,OpenAI一次性批量公布700多份AI生成手稿,在几何、计算机科学、代数及其他学科的372个数学问题上取得进展,高等数学的前沿在一天之内被推进。就连刚刚获得菲尔兹奖的三维挂谷猜想问题

    来源 腾讯网
  18. 年学费最高 7.5 万美元,每天只学 2 小时,Alpha School 能否跑通 AI 学校模式?

    每天只学两小时,就能取得比传统学校更好的成绩? 在美国,一所名为Alpha School的私立学校,正在用AI尝试改变人们熟悉的教育方式。 这里没有传统意义上站在讲台前授课的老师。学生每天上午通过电脑完成数学、阅读等核心学科的学习,下午则参加体育、演讲、编程和各种实践活动。学校宣称,这种模式可以让学生以传统学校两倍的速

    来源 AI 行业观察
向下滚动自动加载更多