中国信通院张夕夜:智能体权限管理标准正研制,如何戴好“紧箍”?

资讯 腾讯网 作者:腾讯网 全文 2658 字 · 约 7 分钟读完 分类智能体政策监管

仿冒人设、过度情感诱导、越权……当智能体逐渐走进人们生活,也添了烦恼。今年5月,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,首次在专项政策层面明确“强化行业自律”的任务部署。11月,在世界互联网大会乌镇峰会上,中国信息通信研究院(以下简称“中国信通院”)联合...

所属频道 智能体与 Agent政策与风险

仿冒人设、情感诱导过头、越权操作,这些麻烦随着智能体走进日常生活一起冒了出来。

今年5月,国家网信办、国家发展改革委、工业和信息化部三部门联合印发《智能体规范应用与创新发展实施意见》,头一回在专项政策层面把“强化行业自律”的任务部署写清楚。到了11月,世界互联网大会乌镇峰会期间,中国信息通信研究院(下称“中国信通院”)与中国网络社会组织联合会组织下,同腾讯、蚂蚁、阿里、抖音、华为等20家生态主体一起发布了《智能体发展自律公约》(下称《自律公约》),把政策上的要求变成了行业里的共识。

智能体的“办事能力”蹿得快,自主执行任务、多个智能体协同作业,在跨平台调用和权限委托中一再越过单个企业的管控范围。越权操作、隐私泄露乃至行为失控,这些风险正从潜在隐患变成现实问题;借智能体搞算法压榨、做黑灰产的行为也开始露头。另一头,开发者、部署者、使用者之间的责任链条在连续的行动链里越来越接不上,“出了事谁来负责”被搁在了一边。

中国信通院知产创新中心产业发展与合规治理研究部主任张夕夜接受新京报贝壳财经记者专访时说,《自律公约》一头能补上现有规则的空白,给企业治理探索提供基础参照和方向指引;另一头,执行过程中可以总结实践经验,定期评估、适时修订,让时效性和适用性跟得上。她判断,今后直接关系到安全、公序良俗、用户权益的底线红线要求,更有可能转为强制性要求,比如防范智能体越权操作、抵制利用智能体实施算法压榨、保障用户在使用智能体过程中对重要事项的最终控制权等。

眼下中国信通院正围绕权限管理、行为边界、个人信息保护、内容安全等维度,研究智能体合规性评价的共性方法与框架,相关标准研制也在同步推进。

智能体生态牵扯全链条,只靠一类企业闭环不了

贝壳财经:为什么选在这个时候发布《自律公约》?

张夕夜:两个层面看。政策导向上,今年5月三部门发布的《智能体规范应用与创新发展实施意见》(简称《实施意见》)明确提出要“强化行业自律”;产业态势上,智能体自主任务执行和多智能体协同能力眼下提升明显,跨平台调用、权限委托、责任追溯这些新问题,早就超出了一家企业的能力边界。这个节点发布《自律公约》,既是落实《实施意见》的任务部署,也是想推动生态主体在关键问题上达成共识,给后面的标准、治理和产业实践垫块基石。

贝壳财经:从参与单位看,此次《自律公约》覆盖腾讯、蚂蚁、阿里、火山引擎、华为、

张夕夜:智能体生态本身就是全链条的,单靠一类企业没法闭环,产业发展本来就需要多方协作。在中国网络社会组织联合会等组织下,这回《自律公约》的共同发起单位比较全面地覆盖了科研机构、基础平台、终端厂商、运营商和安全企业等生态关键节点。我的看法是,多方一起参与,公约才有广泛的代表性和可执行性,这也是产业发展对多方协作的必然要求。

贝壳财经:共同起草《自律公约》时,各单位普遍关心的是什么?

张夕夜:主要聚在四个方面。一是智能体身份与权限,要明确智能体的身份、能力、由谁授权、权限多大;二是互操作边界,能力开放和接口适配的尺度怎么定;三是责任追溯与承担,出了问题得能定位到具体环节和责任主体;四是用户权益保护与黑灰产防范,让智能体在合理边界内使用。

贝壳财经:《自律公约》在智能体治理体系里实际起什么作用?

张夕夜:《自律公约》凝结的是眼下智能体产业的实践经验和行业共识,目的是推动构建良性秩序,促进生态协同与健康发展。监管规范的制定周期相对较长,所以《自律公约》一头能填补现有规则空白,为企业治理探索提供基础参照和方向指引;另一头,执行中也能总结实践经验,定期评估、适时修订,保证时效性与适用性。

抵制借智能体搞算法压榨、黑灰产,企业先得自我检视

贝壳财经:《自律公约》第三条提出提升智能体互操作水平,互操作和知识产权保护怎么平衡?

张夕夜:鼓励互操作、开放接口,不等于把知识产权权利让出去。关键的平衡点是“合理授权前提下的受控的互操作”——推动把互操作的范围、目的、期限和记录明确下来,事先约定好知识产权归属、商业利益分配,再配上分级授权、接口鉴权这类技术手段,两头就能兼顾。

贝壳财经:《自律公约》第五条提出积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规、公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为。中国信通院打算怎么做?

张夕夜:我们正围绕权限管理、行为边界、个人信息保护、内容安全等维度,研究智能体合规性评价的共性方法与框架,相关标准研制也在同步推进。同时鼓励各方在《自律公约》共识基础上,结合自己的应用实践,通过自测自查把合规要求嵌进开发部署流程,让风险早发现、早处置。

贝壳财经:抵制利用智能体实施算法压榨、黑灰产等行为,对企业提了哪些要求?

张夕夜:对内,企业先要做自我检视,把相关规则嵌进产品设计和运营流程,把行为追溯、异常拦截的能力健全起来;对外,主动和生态伙伴搭协作联动机制,共享风险情报和处置经验。

自律的边界怎么划,有几个重点:一是守住用户权益底线,对未成年人、老年人等弱势群体的保护尤其要加强;二是守住安全合规红线,不许借智能体伪装身份、刷量引流、规避审核监管或者搞诈骗,也不能把相关能力拿去生成、传播黑灰产工具链。

贝壳财经:8条具体公约里,你觉得哪些有可能变成强制性标准或监管要求?

张夕夜:直接关系到安全、公序良俗、用户权益的底线红线要求,更有可能转为强制性要求,比如防范智能体越权操作、抵制利用智能体实施算法压榨、保障用户在使用智能体过程中对重要事项的最终控制权等。至于互操作与能力共享的深度、普惠应用形态、生态协作模式这些,现阶段更适合交给市场在实践中摸索最优解。

贝壳财经问:智能体出了事该由谁担责,目前法律责任处于“悬空”状态,怎么看这个问题?《自律公约》能不能把“谁负责”进一步落到实处?

张夕夜表示,这确实是各方都在盯的焦点,也是智能体产业往前走绕不开的坎。产业规模越大,责任归谁的问题就越扎眼。

自主行为难追溯、责任主体难确认、责任边界难划定,这些智能体相关的责任难题,《自律公约》主要从两个方向发力:技术层面,推动建立智能体身份验证与管理、运行监测、行为管控等机制,帮助定位和追溯责任主体;规则层面,推动明确分级授权与行为边界、权利义务与责任划分等机制,力求把各方的责任边界理清楚。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 黄仁勋辞职,周鸿祎:美国对华芯片政策分歧才是关键

    【TechWeb】11月14日消息,英伟达创始人黄仁勋突然辞职后,360创始人周鸿祎接连发布多条视频表达观点。他认为,英伟达失去的不只是一位CEO,更是一位能提前十年判断技术方向的创始人,若处理不当恐重蹈苹果当年赶走乔布斯的覆辙;与此同时,黄仁勋的离开也折射出美国对华芯片政策背后的深层博弈,但中国AI的发展不会因外部.

    来源 腾讯网
  2. 金大华推OATs套件:给家居物品装上会撒娇的AI宠物

    IT之家 11 月 15 日消息,忘记给家里的植物浇水了?这一次,你看到的可能不是逐渐变黄的叶子,而是一只显示在小屏幕上的植物形状宠物。它看起来垂头丧气、一脸委屈,仿佛在提醒你赶紧拿起浇水壶。而当你把水浇进土壤后,屏幕上的小宠物又会立刻变得兴奋起来。这正是 OATs(Object Agent Twins,物体智能体双生

    来源 腾讯网
  3. 黄仁勋谋划回归英伟达:国会质询与Anthropic IPO本周登场

    英伟达董事会夹在两股方向相反的力量之间,独立调查仍在进行,而这场角力的走向,将直接定义这家市值数万亿美元芯片巨头的未来权力结构。另外,Anthropic代表的一种更隐蔽、更系统性的产业政策游说对此次黄仁勋下台事件的影响也被媒体曝光。另外,美国参议员Chris Coons在针对黄仁勋的指控出炉后迅速公开发难,而他今年七月

    来源 TechWeb
  4. 黄仁勋谋划回归英伟达:16万人联署,国会质询与万亿IPO同周登场

    英伟达董事会夹在两股方向相反的力量之间,独立调查仍在进行,而这场角力的走向,将直接定义这家市值数万亿美元芯片巨头的未来权力结构。另外,Anthropic代表的一种更隐蔽、更系统性的产业政策游说对此次黄仁勋下台事件的影响也被媒体曝光。另外,美国参议员Chris Coons在针对黄仁勋的指控出炉后迅速公开发难,而他今年七月

    来源 TechWeb
  5. 自研Agent两场实测均分超过GPT-6,NovaSilicon首提CDK,Fabless之后是Designless?

    机器之心发布1987 年成立的台积电只做代工。晶圆厂把制造工艺封装成 PDK(Process Design Kit,工艺设计套件)交给客户,PDK 是晶圆厂的核心技术,通过有限接口分享给芯片公司 ,保留核心的制造配方。通过使用 PDK,芯片公司可以把制造交出去,自己专心做设计,这类公司被叫作 Fabless。设计环节里

    来源 腾讯网
  6. AI 版拓麻歌子来了:日常物品秒变需要被照顾的虚拟宠物

    OATs 通过电子墨水屏与传感器,让植物、滑板、哑铃等物品拥有虚拟宠物形象,以情绪变化反馈使用状态。该技术由卡内基梅隆大学博士生金大华开发,硬件成本约 20 美元,目前续航仅 3 至 4 天。#AI智能体# #卡内基梅隆大学#

    来源 IT之家
  7. 华为云上线盘古2.1-Pro:Agent、代码、推理效率升级

    据华为云官微消息,华为云MaaS模型即服务平台正式上线开源盘古模型openPangu-2.1-Pro。相比上一代,新模型在Agent能力、代码能力和推理效率三个方向上做了系统性升级,在深度研究、鸿蒙系统操控、鸿蒙APP开发、昇腾算子生成及推理链路优化等场景实现增强。

    来源 TechWeb
  8. 李沐出任硅谷初创Aimotion联创兼CTO,主攻产业级世界模型

    作者|蒸蒸邮箱|zz@pingwest.com近日,总部位于硅谷的 Aimotion 宣布,知名 AI 科学家李沐出任公司联合创始人兼 CTO,主导下一代产业级 AI 技术体系建设。李沐将继续担任 Boson AI 联合创始人兼 CTO,双方将联合攻关产业级世界模型与商业 AI Agent 技术。在硅谷,顶尖 AI 科

    来源 腾讯网
  9. 白宫“超级智能工作组”呼吁放宽问责政策,鼓励 AI 企业报告网络安全事件

    IT之家 11 月 14 日消息,据彭博社报道,当地时间 13 日,美国政府新设的“超级智能工作组”在白宫开会,建议联邦机构放宽网络安全事件的问责政策,鼓励 AI 企业主动报告重大安全事件。 一名不愿具名的政府官员透露,工作组认为,过去处理网络安全事件时采用的监管处罚标准可能不再适用,甚至会让企业不敢分享重要的安全信息

    来源 AI 行业观察
  10. 微软致歉全球服务中断:网络容量升级所致,恢复时间未定

    【TechWeb】11月14日消息,当地时间11月13日,微软公司就一起导致数百万用户受影响的全球性服务中断事件公开致歉。微软表示,此次故障“与网络攻击或人工智能/智能体(AI agents)无关”,而是由早先一次“网络容量升级”引发。目前,公司尚无法预计服务何时能够完全恢复。 据央视新闻报道,微软在声明中对此次事件给

    来源 AI 行业观察
  11. 微软全球服务中断致歉:网络容量升级引发,涉74个国家和地区

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  12. 工业AI从概念验证走向价值兑现:中控、宝信、索辰、能科同台谈路径

    《科创板日报》11月15日讯, 2026年以来,工业AI投融资热度持续上行,产业从“概念验证期”进入价值兑现阶段,标杆案例密集涌现,流程工业自主工厂、钢铁/锂电产线AI智能体、工业CAE仿真AI等场景商业化提速。对产业竞争力而言,工业AI是制造业价值重构的杠杆;对技术演进而言,工业AI是AI从“数字世界”走向“物理世界

    来源 腾讯网
  13. 微软致歉全球服务中断:网络容量升级所致,与攻击和AI无关

    微软表示,此次故障“与网络攻击或人工智能/智能体无关”,而是由早先一次“网络容量升级”引发。据外媒报道,微软此次故障迅速外溢至公共服务和商业活动。微软表示已解决底层问题,正在为剩余客户和地区恢复服务,并将在事件解决后提供详细事后报告,但截至致歉声明发布时,尚无法给出完全恢复的明确时间表。对微软而言,这是其历史上持续时间

    来源 TechWeb
  14. 硅谷巨头与国内大厂争相布局个人智能体:竞争逻辑生变

    不知道你最近有没有一种强烈的感觉:AI行业打架的姿势,悄悄变了。 过去两年多,大家打开任何一家大厂的发布会,满屏都是熟悉的名词:MMLU跑分又涨了两个点、数学竞赛金牌水准、支持100万上下文、代码生成速度翻倍。 但到了最近这几个月,战火突然烧到了一个新词上——Personal Agent(个人智能体)。 Meta在 2

    来源 AI 行业观察
  15. 三星Galaxy AI新技能曝光:替用户打理每日重复事项

    IT之家 11 月 16 日消息,据科技媒体 Android Authority 昨天报道,三星似乎正在为 Galaxy AI 开发“Galaxy Claw”全新功能,有望让 AI 技术不再局限于回答问题和生成内容,而是代替用户处理每日重复的工作。据报道,三星 Personal Agent Core 应用出现了 Gal

    来源 腾讯网
  16. 黄仁勋或重返英伟达任CEO,硅谷盟友向董事会施压

    据英国《金融时报》报道,黄仁勋正考虑重返英伟达担任 CEO,硅谷多位盟友组建“作战室”游说董事会,马斯克等高管公开支持联名信。但华盛顿政策制定者可能反对,复职行动面临阻力。#黄仁勋# #英伟达#

    来源 IT之家
  17. 全国统一大市场下,地方政府做半导体招商还剩几张牌?

    ‍‍‍‍‍近几年,国内招商引资的环境正在发生变化。一些普惠型、全国统一的税收优惠政策依旧存在,但地方上与投资额、税收、产值相关的“补贴性”政策,正在逐步退场。长期来看这是好事,能有效打破市场分割,构建全国统一大市场,减少内耗。但从某种意义上讲,地方政府如今手上招商引资的“牌”就只剩下“投资”和“应用...

    来源 腾讯网
  18. Deepnote实测12款AI当同事:OpenAI包揽前二,Fable 5.2贵17倍反输

    花430倍的钱,只多11%的分数! 太夸张了。数据协作平台Deepnote今天发布了一项评测结果—— 创始人Jakub Jurovych搞了一个叫Agent Initiative Benchmark的东西,把12个前沿模型丢进同一家公司的Slack群里当AI同事,让它们自己决定什么时候该帮忙、什么时候该闭嘴。 跑完一看

    来源 AI 行业观察
  19. Perplexity Mac版上线Teammates:Max订阅用户可建AI团队

    IT之家 11 月 14 日消息,Perplexity 今天(11 月 14 日)发布公告,邀请付费 Max 订阅用户,在 Mac 平台版 Perplexity 应用上体验 AI 智能体功能“队友”(Teammates)。该功能此前仅支持 iOS 和网页端,如今进一步覆盖桌面办公场景。 Teammates 可以理解为一

    来源 AI 行业观察
  20. LG U+明年做AI Token业务:帮企业压低AI转型成本

    LG U+ 将自研 Agent 任务路径设计、智能路由与异构芯片组合三项技术用于 Token 优化,端侧模型体积缩至三分之一性能仍达云端 95% 以上,Token 生成速度翻倍。随着 LG U+ 入局,韩国三大运营商将全部进入 Token 经济。#AI Token# #LG U+#

    来源 IT之家
  21. 上海“AI+制造”指南第二期:18个场景,焊缝仿真从2小时缩到35分钟

    上海市经信委编了完这份《上海市“AI+制造”场景建设指南》第二期,210 页,收了 18 个场景。编制单位不是咨询公司,是上汽乘用车、中微公司、商飞智能、飒智智能这些真在车间里干活的人。每个场景都按同一套模板写:场景透视、智能体架构、技术要求、推广建议。AI 在车间里已经不满足于提建议,它开始自己按按钮。18 个场..

    来源 腾讯网
  22. 谷歌Teamwork多智能体系统:2.88万次调用形式化韦伊猜想

    IT之家 11 月 14 日消息,谷歌宣布进一步扩展旗下 Antigravity 多智能体系统,利用多个由 Gemini 模型驱动的专业智能体组成 Teamwork 系统,号称可解决“长期悬而未决的数学难题”、“验证复杂数学证明”,并优化各种软件系统性能。 例如,谷歌已成功对韦伊猜想(Weil conjectures)

    来源 AI 行业观察
  23. 黄仁勋离职背后:鲁比奥改备忘录,Anthropic被指递料

    英伟达创始人黄仁勋的离职,无疑是近期科技界最大的一场地震。在这场看似突如其来的人事巨震背后,却隐藏着一场精心策划的“猎杀行动”。究竟是谁在幕后扣动了扳机?随着更多细节的浮出水面,两股力量逐渐显露在聚光灯下:修改机密备忘录的美国国务卿鲁比奥,以及向媒体频频“递刀子”的AI竞争对手Anthropic。从政策层面看...

    来源 腾讯网
  24. 谷歌 Gemini4Carbon 入驻 WorkBuddy,百万 Token 上下文向 Pro 用户开放

    腾讯 WorkBuddy 国际版于11月15日宣布正式接入谷歌 Gemini4Carbon 大模型,面向复杂推理和长周期任务处理场景提供模型支持,目前仅向 Pro 计划用户开放。 Gemini4Carbon 是谷歌面向长周期智能体工作流推出的模型,适用于复杂知识工作、软件工程、网络安全及科学推理等任

    来源 AI 开发者社区
向下滚动自动加载更多