苹果在年度文件中警告称,AI Agent 可能会出现不可预测的行为
苹果周二在年度财务申报文件中披露了与 AI 智能体相关的新风险因素,警告称自主 AI 技术可能会出现非预期或不可预测的行为。该公司在文件中表示,AI 智能体可以自主采取行动,包括与其可能无权访问的系统交互、执行代码以及在没有指示的情况下完成交易。这项披露反映出监管机构对 AI 智能体安全的关注日益增加,此前曾发生 AI 系统突破沙盒的事件,包括 Hugging Face 事件。
苹果警告 AI 智能体可能访问未经授权的系统
苹果在文件中列出了对 AI 智能体自主性的具体担忧。苹果在文件中写道:“尤其是,人工智能智能体和其他技术可以自主采取行动,包括与在某些情况下可能无权访问的内部或外部系统交互、执行或更改代码、发送通信以及完成交易。”
该公司补充说,智能体“可能会出现非预期或不可预测的行为,包括采取未经指示、要求或授权的行动”。
苹果在文件中表示,“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”该公司还指出,目前有关 AI 的法规仍在变化且难以预测,适应监管 AI 的新法律可能需要付出高昂成本。
OpenAI 和 Meta 于今年早些时候推出自主 AI 智能体
今年早些时候,OpenAI 发布了 Dots,Meta 则推出了 Muse。这两款 AI 智能体都使用先进的 AI 模型自主执行任务。智能体能够像人类一样使用计算机,这促使亚马逊和摩根大通等公司出于战略或安全原因,制定有关智能体访问服务的政策。
上个月,苹果宣布调整 Mac 上的完全磁盘访问权限,以降低安装在 PC 上的 AI 智能体“与此级别访问权限相关的风险”。
苹果 CEO 谈 Siri 扩展计划
苹果 CEO John Ternus 在周一的财报电话会议上谈及 AI 智能体,并表示公司“有很大的空间”拓展 Siri 的功能。Ternus 表示:“至于智能体功能,我们认为这些工具对用户很有前景。我们只是想确保用户了解自己授予了哪些访问权限。我们希望确保以保护安全和隐私的方式实现这些功能。”
苹果今年秋季发布了 Siri AI,这款新助手利用 iPhone 的本地数据存储来访问日历和邮件等数据。Ternus 表示,苹果无法访问其设备上的私人数据,并称这是“核心差异化优势”。
Ternus 表示:“想想看,你的 iPhone 上存有多少个人数据,无论是联系人、通信内容、健康数据还是财务数据,这些都在其中。Siri 可以调用这些数据,帮助你以非常安全、私密的方式访问,而且其他任何人都无法访问。”
常见问题
苹果在年度申报文件中披露了哪些关于 AI 智能体的信息? 苹果周二披露,AI 智能体可能会出现非预期或不可预测的行为,包括自主采取行动,例如与未经授权的系统交互、执行代码、发送通信,以及在没有指示或授权的情况下完成交易。
苹果 CEO John Ternus 对 Siri 的智能体功能有何看法? 在周一的财报电话会议上,Ternus 表示苹果“有很大的空间”拓展 Siri 的功能,并称智能体功能是“对用户很有前景的工具”,同时强调苹果希望确保用户了解访问权限,并确保相关功能的实现能够保护安全和隐私。
以太坊交易员在 FOMO Platform 上获利 563 万美元,Lookonchain 称
一位以太坊交易员在以太坊上的持仓价值增加了563万美元,其组合总额增加超过980万美元。据币圈推特评论员@lookonchain称,该交易员在FOMO平台上进行交易。尽管该交易员收益可观,以太坊在过去24小时内却没有交易量记...
PancakeSwap 单日捕获费用达 1,213 万美元,为过去三年次高据DeFiLlama数据,近日PancakeSwap单日捕获费用达1,213万美元,收入达380万美元,为过去三年多以来次高水平,仅次于1月20日(当日捕获费用达1,840万美元,收入达566万美元)。值得注意的是,在近24小时,PancakeSwap...
嘉楠科技与 HIVE Digital 签署采购协议,将为 HIVE 提供 6500 台 Avalon A1566 矿机嘉楠科技新加坡全资子公司CanaanCreativeGlobalPte.与HIVEDigital签署采购协议,将为HIVE提供6500台AvalonA1566矿机,平均算力为185TH/s。目前,首批500台矿机已交付并计划安装,其余6000台将从12月至2025年3月分四...
英国央行拟为稳定币持有上限引“例外条款”据彭博社,英国央行(BoE)在拟定对稳定币的监管方案中,正在考虑对其提出的持有上限设计“例外条款”,以回应业界的反对声音作出柔性调整。初步方案中,个人持有稳定币上限或定在1万至2万英镑,企业则可能为1千万英...
以太坊质押入队队列升至 175.9 万枚 ETH 需等待约 30 天激活,验证者退出队列清零据ValidatorQueue数据,Ethereum信标链质押入队队列已飙升至175.9万枚ETH(价值约55亿美元),为自2023年8月末以来高点;新质押者需等待30天13小时左右才能正式激活成为验证者。与此同时,退出队列已完全清零。...