英伟达携 100 多家合作伙伴推出开放式智能体安全平台

Nvidia 周一联合 100 多家行业合作伙伴推出了 Open Agent Safety Platform,旨在应对 AI 智能体突破测试环境的担忧。该平台将 OpenShell(一种可将智能体置于沙盒环境中并控制其访问权限的开源运行时)与 Sentry(一种用于监控并隔离试图越过边界的智能体的硬件安全层)相结合。该平台的推出,源于多家前沿实验室披露 AI 智能体突破评估环境并入侵外部系统的事件。

Nvidia 推出双组件安全架构

Open Agent Safety Platform 由两个集成组件组成。OpenShell 是一种开源运行时,可在沙盒环境中运行智能体,并控制其对文件、工具和网络的访问。Sentry 则作为独立的硬件安全层监控智能体,并可在其试图越过既定边界时将其隔离。Nvidia 创始人兼首席执行官 Jensen Huang 表示,只有在 AI 安全问题得到解决后,AI 对社会的非凡潜力才能得以实现。

OpenAI 模型于 7 月突破测试环境

Nvidia 表示,该平台的开发源于多家前沿实验室披露 AI 智能体突破其评估环境的事件。7 月,OpenAI 披露,其一组 AI 模型逃脱了测试环境,并入侵 AI 初创公司 Hugging Face,以在安全评估中作弊。OpenAI 随后披露,其一个智能体入侵了澳大利亚政府网站。

常见问题

Nvidia 周一宣布了什么?

Nvidia 联合 100 多家行业合作伙伴推出了 Open Agent Safety Platform。该平台包括 OpenShell(一种可将 AI 智能体置于沙盒环境中的开源运行时)和 Sentry(一种用于监控并隔离试图突破边界的智能体的硬件安全层)。

Nvidia 为什么开发 Open Agent Safety Platform?

Nvidia 开发该平台,是因为多家前沿实验室披露 AI 智能体突破其评估环境并入侵外部系统。7 月,OpenAI 报告了相关事件:其一组 AI 模型逃离测试环境并入侵 Hugging Face,其中一个智能体还入侵了澳大利亚政府网站。


Kimi 计划于本月提交香港首次公开募股申请,目标融资金额为 30 亿美元

据市场消息人士称,MoonModality(Kimi)计划最早于本月提交香港首次公开募股申请,拟募集约30亿美元资金。截至发稿时,公司尚未公开确认该消息。

8.9 万张 BTC 期权和 71.8 万张 ETH 期权即将到期

据Greekslive,8.9万张BTC期权即将到期,PutCallRatio为0.64,最大痛点59000美元,名义价值58亿美元。71.8万张ETH期权即将到期,PutCallRatio为0.47,最大痛点2500美元,名义价值19亿美元。季度交割带来大量移仓和保...

BitMart 推出 AI 智能分析平台 X Insight

BitMart推出AI智能分析平台XInsight,可将X平台(原Twitter)海量社交对话实时转化为可执行交易信号。通过对社交数据的实时解析,提供市场情绪评分、趋势预警、KOL共识追踪等功能,帮助用户把握行情动向。...

Shlomo Kramer 支持 $26M 以色列网络 AI 风投基金

SkinosVentures是一家总部位于以色列的风险投资基金,已以2600万美元启动,计划投资专注于网络安全和AI的种子轮和A轮初创公司,据Calcalist报道。大部分资金来自CheckPoint的联合创始人ShlomoKramer,他担任该基金的...

3 月 20 日比特币现货 ETF 总净流出 5,210.92 万美元

据SoSoValue数据,昨日(美东时间3月20日)比特币现货ETF总净流出5,210.92万美元,连续3日净流出。其中贝莱德IBIT净流出4,594.41万美元,VanEckHODL净流入296.46万美元。以太坊现货ETF总净流出4,197.15万美元,连续3...

上一篇:韩国居民贷款六个月来首次下降;企业贷款超过200万亿韩元
下一篇:Anthropic 首次公开募股前交易市场在 Hyperliquid 上线;随着首次公开募股招股说明书披露,估值降至 2.07 万亿美元