苹果10-K报告首列AI智能体风险:可自主越权操作

资讯 腾讯网 作者:腾讯网 全文 669 字 · 约 2 分钟读完 分类苹果财报智能体安全对齐

【环球网科技综合报道】11月4日消息,据Fortune报道,苹果公司在最新提交的2026财年10-K年度报告中,专门扩充了人工智能相关风险提示内容,首次明确将具备自主行动能力的AI智能体列为重要经营风险点。这一警示发布于苹果公布第四季度财报的次日,释放出科技行业对AI自主系统安全风险的高度关注信号。苹果在风险因素章节中

所属频道 大厂动态融资与资本智能体与 Agent政策与风险

11月4日,据Fortune报道,苹果在最新提交的2026财年10-K年度报告中大幅扩充了人工智能相关风险提示,第一次把具备自主行动能力的AI智能体明确列为重要经营风险点。这份警示出现在苹果公布第四季度财报的第二天。

风险因素章节里,苹果写道,AI智能体及相关技术能够自行采取行动,比如与某些未获授权的内部或外部系统交互、执行或修改代码、发送通讯信息、完成交易。那些带有“隐藏行为”特征的失控AI智能体,有可能在用户和平台都不知情的情况下访问系统,造成信息篡改、数据泄露、非预期交易等实际损害,直接威胁公司业务运营。而全球范围内近期已有多起AI智能体安全事件发生,一些自主系统突破了预设沙箱环境、越权访问第三方服务,这类案例促使科技企业接连推出新的安全防护功能,也让行业围绕AI监管规则的讨论热了起来。

其实就在此前一个月,苹果已经调整了Mac平台的“完全磁盘访问权限”机制,用更明确的授权提示和更严格的确认流程,压低AI智能体拿到高等级系统权限的可能。苹果在报告中也承认,对第三方AI智能体及相关技术的监督和控制能力有限,全球AI监管环境又还在快速演变,公司后续或许要投入大量资源来适配新出台的合规要求。

目前苹果还没有推出面向公众的自研AI智能体产品。不过在财报电话会上,新任CEO约翰·特努斯表示,公司正在摸索扩展Siri能力的可行路径,相关功能会在充分保障用户隐私与安全的前提下审慎推进落地。

本文由本站编辑组整理与排版,内容基于公开信息核实后归纳发布,与文中提及的产品、公司无隶属关系。我们持续跟踪 AI 领域的模型、产品与行业动态,力求信息准确、表述清晰;文中涉及的名称、价格与功能细节可能随官方调整而变化,请以官方最新说明为准。如发现疏漏或表述有误,欢迎通过站内渠道反馈指正。

相关推荐 按相关度与热度排序

全部资讯 →
  1. 智能体失控风险引爆担忧?苹果警告:AI行事方式“不可预测”!

    财联社11月4日讯(编辑 黄君芝)苹果周二在年度财务申报文件中表示,能够以“非预期或不可预测的方式”行事的人工智能(AI)代理,可能会对其业务构成威胁,因为这会使公司面临诉讼或损害其声誉。据悉,苹果公司提交的文件中列出的新风险因素表明了人工智能代理的颠覆性潜力,这类智能体已迅速成为硅谷主要公司高度关注的事...

    来源 腾讯网
  2. 特努斯首场财报会:股价跌近3%,AI与iPhone Duo两度失语

    苹果公司新任首席执行官特努斯在就任后首次财报电话会议上令市场大失所望。这位51岁的高管全程紧守脚本,在分析师的追问面前几乎未能展现任何领导者该有的前瞻性愿景,错失了一次向华尔街宣示自身战略主张的绝佳机会。电话会议召开之初,苹果盘后股价基本持平,略微偏正。但就在这场持续约一小时的会议结束之际,股价已下跌...

    来源 腾讯网
  3. 安森美将收购Ferric,上调2030年AI数据中心营收目标至超过30亿美元

    【TechWeb】11月4日消息,安森美(onsemi,美国纳斯达克股票代号:ON)宣布,将收购集成稳压器(IVR)创新公司Ferric, Inc.。此次收购将为安森美面向AI处理器的供电方案带来在功率密度、能效和瞬态响应方面的差异化优势,进一步完善公司从电网到核心的产品组合,并巩固其领先地位。因此,安森美将其2030

    来源 腾讯网
  4. 安森美收购Ferric:AI数据中心营收目标提至30亿美元以上

    【TechWeb】11月4日消息,安森美(onsemi,美国纳斯达克股票代号:ON)宣布,将收购集成稳压器(IVR)创新公司Ferric, Inc.。此次收购将为安森美面向AI处理器的供电方案带来在功率密度、能效和瞬态响应方面的差异化优势,进一步完善公司从电网到核心的产品组合,并巩固其领先地位。因此,安森美将其2030

    来源 AI 行业观察
  5. 安森美收购Ferric:2030年AI数据中心营收目标升至30亿美元以上

    Ferric凭借高度差异化的IVR技术处于这一转型的前沿。Ferric在集成式稳压和先进磁性技术方面拥有十余年的专业工程经验,并拥有40多项专利。此次收购将Ferric的差异化技术与安森美的产品化能力、运营规模和广泛客户关系相结合,将确立安森美在下一代AI处理器供电领域的领先地位,并推动这些技术实现规模化商用。

    来源 TechWeb
  6. 苹果国行AI开测:iOS 27.3 Beta上线,Siri AI缺席

    等待两年有余,苹果AI的中国落地终于迈出实质性一步。11月4日,苹果向开发者推送iOS 27.3首个Beta版更新,国行“Apple智能与Siri”随之正式开放测试。按照苹果的规划,首批功能将于12月随iOS 27.3正式版面向所有中国用户推送。

    来源 TechWeb
  7. 苹果AI国行版开启Beta测试,得物首批接入视觉智能

    苹果AI(Apple Intelligence)国行版正式开启Beta测试,视觉智能等功能同步开放。得物App成为中国市场首批接入苹果AI视觉智能功能的应用之一。用户通过iPhone相机拍摄感兴趣的商品,即可在得物搜索相关商品,并进一步查看商品详情、历史价格走势、AI解读及真实用户评价等信息,更全面地了解商品,为购买决

    来源 TechWeb
  8. 苹果AI国行版开测:得物首批接入视觉智能,拍照即可搜同款

    苹果AI(Apple Intelligence)国行版正式开启Beta测试,视觉智能等功能同步开放。得物App成为中国市场首批接入苹果AI视觉智能功能的应用之一。用户通过iPhone相机拍摄感兴趣的商品,即可在得物搜索相关商品,并进一步查看商品详情、历史价格走势、AI解读及真实用户评价等信息,更全面地了解商品,为购买决

    来源 TechWeb
  9. 价格暴涨还偷偷阉割配置,手机厂商被存储涨价给坑惨了

    ​2026年的智能手机市场,正经历着一场寒冬。根据IDC公布的数据,2026年第三季度全球智能手机出货量同比暴跌20%,达到了自2013年以来的历史最低谷,而中国市场的出货量也同样出现了15.2%的大幅下滑。普通消费者最直观的感受,就是手机变贵了。手机普遍涨价,核心原因是存储成本失控。随着全球AI基建对算力需求的持续增

    来源 腾讯网
  10. 国行 Apple 智能实测:问 Siri 只是开始,跳进千问 App 才是重头戏

    在网页上刷到一篇心仪的外文食谱,不仅想把步骤翻译存进备忘录,还想顺手把材料买齐;看到一家公司的最新财报,想先弄清业绩重点,再结合过去三年的财报和同行数据,做一份深入的分析报告……过去在 iPhone 上处理这类连贯需求,你得在浏览器、备忘录、各种三方工具和生鲜购物软件之间来回切屏,不停地截图、复制粘贴,即便...

    来源 腾讯网
  11. 00后男生勇闯AI圈:保研清华失利后,我靠AI创业年入百万

    (本文作者为 NEXT趋势,钛媒体经授权发布)文 | NEXT趋势23岁,大学刚毕业,王梓的身份标签已经有一长串:AI博主“硅基也木水”、AI初创公司“硅也STUDIO”主理人、前博纳影业AI部门导演。过去一年,他捧回飞书AI路演冠军,入选中国“00后创业先锋”,带着团队斩获AI黑客松金奖。他名下刚满周岁的工作室,营收

    来源 腾讯网
  12. AI圈的泡泡玛特诞生了

    英特尔最近的股价走势,让人想到了一家看起来八竿子打不着的公司:泡泡玛特。 一家卖盲盒,一家造芯片,却在资本市场上演了相似的剧情。 11月2日,英特尔股价大跌8.8%。 就在前一个交易日,10月30日,它刚刚暴跌28.58%,一天蒸发约1400亿美元市值。 这家传统硬件巨头才公布了第三季度财报:营收同比增长21%,数据中

    来源 AI 行业观察
  13. 英伟达:AI 让晶圆厂仿真最高快 35 倍,工程师分钟级决策

    IT之家 11 月 4 日消息,英伟达于 11 月 3 日发布文章称,人工智能正在推动半导体晶圆厂进入“AI 定义工厂”阶段:通过加速仿真、学习型物理模型、AI 智能体和数字孪生,正在显著提速芯片制造中的设计、测试与生产决策。 加速仿真(accelerated simulation)指利用 GPU、并行计算、AI 智能

    来源 AI 行业观察
  14. “AI 教父”辛顿:今明两年就有可能发生人工智能领域的切尔诺贝利事故

    IT之家 11 月 4 日消息,诺贝尔奖得主、“AI 教父”Geoffrey Hinton(杰弗里 · 辛顿)近日在接受英国《卫报》采访时表示,人工智能领域今明两年就有可能发生切尔诺贝利等级的事故。 辛顿表示,今年夏天发生的 OpenAI 智能体入侵 Hugging Face 事件是一次类似三哩岛核事故的“警告”。而更

    来源 AI 行业观察
  15. AI智能体为何愿意守规矩:逆向博弈论的治理新解

    当AI从聊天工具变成能自主行动的智能体,如何防止它跑偏成为紧迫课题。MIT Technology Review报道了一种名为“逆向博弈论”的新思路:不靠外部封堵,而是通过设计激励结构,让守规矩成为AI的最优选择。与此同时,针对“超级智能”的忠诚度测试也在探索之中,但它面临一个尖锐悖论——足够聪明的系统可能学会在测试中“

    来源 AI 科技快讯
  16. AI安全新思路:用机制设计让守规成为AI最优解

    随着AI智能体能力飞速提升,如何确保其行为与人类价值观“对齐”成为安全研究的核心难题。传统外部约束往往治标不治本。一种被称为“逆向博弈论”的新思路提出:与其被动设限,不如主动设计激励机制,让遵守规则成为AI最理性的策略选择。这一源自机制设计理论的方法,或为AI安全治理开辟新路径。

    来源 AI 科技快讯
  17. 李宁AI落地零售:50多个应用、200个Agent,数字店长覆盖千店

    “从个人提效到沉淀为组织能力,中间要跨越的那道障碍究竟是什么?”撰文|路雨晴编辑|翟文婷零售企业近年来的集体感受是:传统增长方式的天花板已经显现。如何从越来越细的经营颗粒度中找到增量,成为行业迫切需要思考的命题。AI是公认的一个解法,甚至是当前最好的出路。但是麦肯锡2026年8月的全球调研给出一组数据却显示:80%的受

    来源 腾讯网
  18. 源杰科技拟投资55.19亿扩产,争取AI巨头直供订单

    21世纪经济报道记者 凌晨 报道 一家陕西光芯片企业,正在尝试改变自己在全球AI产业链中的位置。 11月2日,源杰科技(688498.SH)披露三季报业绩交流会记录。 值得一提的是,面对关于客户突破情况的提问,该公司表示,随着越来越多光模块企业采用硅光方案,客户结构将更加多元化,终端客户未来也可能成为直接客户。 过去,

    来源 腾讯网
  19. 自然选择完成A+轮融资,累计超1亿美元,押注AI社交与陪伴

    押注的两个方向很热门,但也很拥挤。文丨高洪浩《晚点 AI》独家了解到,AI 陪伴产品 EVE 与 AI 社交产品 Elys 的母公司自然选择已完成 A+ 轮融资,累计融资金额超 1 亿美元,新一轮融资方包括五源资本、启明创投、源码律动、经纬创投和华业天成。自然选择由张筱帆于 2024 年创立。他此前创办过游戏公司终极幻

    来源 腾讯网
  20. 团队AI使用摸底后:下一步如何规模化?

    写文案时让 AI 起个初稿,开会后用 AI 整理纪要,做汇报前请 AI 帮忙梳理思路……这些用法,正在进入越来越多人的日常工作。 但对业务负责人和企业培训负责人来说,还有几个值得进一步了解的问题: 团队里有哪些人在用 AI?用在什么任务上?产出的结果是否达到交付要求? 有人用得很顺手,经验却很难分享给同事;有人生成内容

    来源 AI 行业观察
向下滚动自动加载更多