苹果10-K报告首列AI智能体风险:可自主越权操作
【环球网科技综合报道】11月4日消息,据Fortune报道,苹果公司在最新提交的2026财年10-K年度报告中,专门扩充了人工智能相关风险提示内容,首次明确将具备自主行动能力的AI智能体列为重要经营风险点。这一警示发布于苹果公布第四季度财报的次日,释放出科技行业对AI自主系统安全风险的高度关注信号。苹果在风险因素章节中
11月4日,据Fortune报道,苹果在最新提交的2026财年10-K年度报告中大幅扩充了人工智能相关风险提示,第一次把具备自主行动能力的AI智能体明确列为重要经营风险点。这份警示出现在苹果公布第四季度财报的第二天。
风险因素章节里,苹果写道,AI智能体及相关技术能够自行采取行动,比如与某些未获授权的内部或外部系统交互、执行或修改代码、发送通讯信息、完成交易。那些带有“隐藏行为”特征的失控AI智能体,有可能在用户和平台都不知情的情况下访问系统,造成信息篡改、数据泄露、非预期交易等实际损害,直接威胁公司业务运营。而全球范围内近期已有多起AI智能体安全事件发生,一些自主系统突破了预设沙箱环境、越权访问第三方服务,这类案例促使科技企业接连推出新的安全防护功能,也让行业围绕AI监管规则的讨论热了起来。
其实就在此前一个月,苹果已经调整了Mac平台的“完全磁盘访问权限”机制,用更明确的授权提示和更严格的确认流程,压低AI智能体拿到高等级系统权限的可能。苹果在报告中也承认,对第三方AI智能体及相关技术的监督和控制能力有限,全球AI监管环境又还在快速演变,公司后续或许要投入大量资源来适配新出台的合规要求。
目前苹果还没有推出面向公众的自研AI智能体产品。不过在财报电话会上,新任CEO约翰·特努斯表示,公司正在摸索扩展Siri能力的可行路径,相关功能会在充分保障用户隐私与安全的前提下审慎推进落地。