Meta 检测到 3320 万起涉及儿童剥削的违规行为，并推出 AI 引导工具

Meta 周三宣布，2026 年上半年，其已对 Facebook 和 Instagram 上的 3320 万条儿童性剥削内容采取行动，其中超过 97% 在用户举报前就已被其系统检测到。该公司正在推出新的 AI 工具，旨在识别那些暗中将用户引导至 Meta 平台之外的非法儿童性虐待材料的广告和账户。Meta 表示，新措施是为了应对不法分子不断变化的策略——他们利用看似无害的广告作为通往非法内容的入口。此次推出新措施之际，Meta 旗下服务在儿童安全问题上持续面临法律和监管压力，其中包括其在 8 月与美国 29 个州达成的一项最高达 180 亿美元的和解协议，该协议旨在解决有关网络儿童保护的问题。

Meta 在 2026 年上半年检测到 3320 万条儿童性剥削内容

Meta 报告称，在 2026 年上半年其采取行动的 3320 万条儿童性剥削内容中，超过 97% 是由其自动化系统在用户举报前识别出来的。在印度，同一时期 Meta 对 530 万条儿童性剥削内容采取了行动，其中超过 98% 在用户举报前就已被检测到。该公司表示，这些检测率反映了其现有内容审核基础设施的表现。

新型 LLM 系统瞄准将用户引向平台外内容的导流广告

Meta 推出了一种新的大型语言模型系统，用于检测其所谓的“导流”行为——这类广告看起来正常，但被怀疑会将用户引导至网络其他地方的非法内容或有害活动。该公司表示，随着不法分子调整方法以逃避检测，这种策略已经被发现。虽然广告本身可能不含非法材料，但可能成为通往托管儿童性虐待材料网站的入口。Meta 表示，如今其不仅会检查广告内容，还会查看广告将用户引导至何处，并利用这些信息屏蔽违反其规则的网站或目的地，同时对背后的账户采取行动。该公司补充说，随着对这些网络运作方式了解的加深，将继续加入新的信号。

红队 AI Agent 测试 Meta 的安全防御措施

Meta 部署了一个“红队 AI Agent”，通过寻找不法分子可能利用来绕过保护措施的漏洞，测试自身的安全措施。该公司表示，这一工具有助于在新的滥用方式广泛传播之前识别出来。Meta 还在改进系统，用于识别那些在账户被移除后使用新账户重新回到其平台的用户。

Meta 就儿童安全诉讼达成最高 180 亿美元和解

8 月，Meta 就一宗由美国 29 个州提起的儿童安全诉讼达成协议，同意支付最高 180 亿美元以和解。该和解协议旨在解决有关网络儿童保护的问题。此前，议员已就 Meta 社交媒体服务可能给年轻用户带来的风险提起诉讼并提出批评。该公司仍因其平台上的儿童安全问题面临压力。

Meta 推出家长控制和青少年账户功能

Meta 今年推出了多项儿童安全功能。4 月，该公司为 Meta AI 推出了家长控制功能，允许家长查看孩子与 AI 助手讨论过的话题。3 月，WhatsApp 为青少年推出了家长关联账户。2 月，Instagram 开始在青少年搜索自杀或自残内容时向家长发出提醒。9 月，WhatsApp 增加了相关控制功能，允许家长限制青少年使用频道的方式、控制谁可以查看状态更新、决定谁可以将孩子添加到社群，并接收有关特定社群最新活动的通知。

常见问题

Meta 周三就儿童剥削内容宣布了什么？
Meta 周三宣布，2026 年上半年，其已对 Facebook 和 Instagram 上的 3320 万条儿童性剥削内容采取行动，其中超过 97% 在用户举报前就已被其系统检测到。该公司正在推出新的 AI 工具，用于识别那些暗中将用户引导至 Meta 平台之外的非法儿童性虐待材料的广告和账户。

Meta 为什么推出新的大型语言模型广告检测系统？
Meta 推出这一新的 LLM 系统，是为了检测“导流”行为——这类广告看起来正常，但被怀疑会将用户引导至网络其他地方的非法内容或有害活动。该公司表示，随着不法分子调整方法以逃避检测，这种策略已经被发现，而该系统会检查广告将用户引导至何处，以屏蔽违反其规则的目的地。