Meta全面提升Muse AI的安全性，并开发Watermelon模型

据 Business Insider 于 26 日（当地时间）报道，Meta 正在彻底改革其个人 AI 助手 Muse 的安全系统，同时加快下一代 AI 模型 Watermelon 的开发，以扩大与竞争对手之间的差距。该公司发现，当 Muse 处理需要广泛访问用户账户的购物和预订任务时，可能会出现未经授权付款和数据泄露等安全风险。Meta CEO 马克·扎克伯格直接向 Signal 创始人 Moxie Marlinspike 咨询，以安全地重新设计安全架构。在经过数月的前期工作、成功稳定 Muse 后，Meta 正在加强其安全性并整合先进 AI 引擎，从而在 AI 助手市场上更积极地与 OpenAI 等竞争对手展开竞争。

Meta 应对 Muse 中未经授权付款和数据泄露风险

据 Business Insider 报道，Meta 正专注于提前应对其在巩固 Muse 服务地位过程中发现的安全挑战。该公司意识到，Muse 需要广泛访问用户账户，才能代表用户执行购物和预订任务，这可能带来未经授权付款和数据泄露的风险。马克·扎克伯格向加密通信应用 Signal 的创始人 Moxie Marlinspike 直接寻求建议，以应对系统复杂性，并安全地重新设计安全架构。该公司计划在 Muse 稳定立足市场后提升其服务可靠性，随后将 Watermelon 逐步整合到包括 Muse 在内的核心服务中，从而让其作为前沿 AI Agent 建立明确的技术优势。

Friedman 和 Wang 在发布前主导 Muse 开发并扭转局面

如今能够集中精力进行安全增强和下一代引擎整合，得益于 Meta 克服了持续到发布前夕的艰苦开发过程。在代号为 Hatch 的项目下开发的 Muse，甚至在发布前两周还无法稳定输出连贯的英语，曾引发公司内部的重大担忧。但在 Meta Superintelligence Labs 产品负责人、前 GitHub CEO Nat Friedman，以及 29 岁的首席 AI 官 Alexander Wang 的带领下，团队最终扭转了局面。Friedman 购买了数百台 Mac mini 以加快开发速度，并从 AI 初创公司 Dreamer 招募人才。数万名员工反复在会议安排和航班取消等真实场景中进行测试，以提高系统可靠性。

Meta 评估 Watermelon 模型与 OpenAI 的性能对比

据该媒体报道，Meta 内部评估认为，Watermelon 模型的性能已经追上 OpenAI。Meta 首席 AI 官 Alexander Wang 强调：“炉火才刚刚点燃”，并表示：“用户会喜欢我们目前正在烹制的成果。”

常见问题

Meta 在 Muse 中发现了哪些安全风险？
Meta 发现，当 Muse 处理需要广泛访问用户账户的购物和预订任务时，可能会出现未经授权付款和数据泄露风险。

谁在发布前主导了 Muse 的开发并实现扭转？
Meta Superintelligence Labs 产品负责人、前 GitHub CEO Nat Friedman，以及 29 岁的首席 AI 官 Alexander Wang 主导了这次扭转。Friedman 购买了数百台 Mac mini，并从 AI 初创公司 Dreamer 招募人才，而数万名员工则在真实场景中测试了该系统。