OpenAI 承包商审查 Project Lily 项目中的 ChatGPT 用户对话

据 404 Media 报道，OpenAI 已聘用数百名承包商，在一个名为 Project Lily 的内部项目中审查真实 ChatGPT 用户的对话。承包商按照 1 至 7 分的标准对聊天机器人输出进行评级，以减少过度奉承和过于拟人化的回复。该计划引发了人们对 ChatGPT 超过 9 亿名用户隐私的担忧，其中许多人原本以为，他们的对话只会保留在自己与 AI 模型之间。

承包商每小时收入超过 50 美元，用于评估 ChatGPT 输出

OpenAI 通过名为 Crossing Hurdles 和 Mercor 的平台招募承包商。据报道，审查人员每小时收入超过 50 美元。他们按照七分制评估模型输出并提供反馈，这些反馈会被纳入模型训练流程。该计划旨在遏制聊天机器人过度奉承和过于拟人化的倾向。

隐私筛选模型被承认存在漏洞

用户提示会先经过隐私筛选模型，然后才会被承包商看到。该筛选器旨在删除个人身份信息。据报道所引用的内部文件承认，敏感的个人细节仍可能被筛选器放过，因为隐私筛选模型无法捕捉所有内容。一些用户提示明确表达了对隐私的担忧，这引发了人们对用户是否知情、是否知道真人会审查其交流内容的疑问。

退出设置不适用于过去的对话

OpenAI 允许用户选择不将其对话用于模型训练。用户可以在账户偏好设置中切换相关选项，或使用临时聊天功能；该功能不会将对话记录用于训练。相关控制仅适用于未来的对话。在选择退出之前的所有历史交流仍可供审查。默认设置允许 OpenAI 使用聊天数据，这意味着任何没有主动调整账户设置的人，其聊天数据都可能已被纳入使用范围。

意大利因隐私违规于 2023 年封禁 ChatGPT

多年前，苹果、亚马逊和谷歌被曝出让真人审听语音助手录音后，均面临强烈反弹。意大利曾于 2023 年因隐私担忧暂时封禁 ChatGPT，之后 OpenAI 作出调整以遵守 GDPR 要求。欧盟及其他地区的监管机构一直在审查 OpenAI 的数据处理做法。ChatGPT 的用户规模已超过 9 亿，这使该事件有别于早期的语音助手争议。

常见问题

如何退出将我的 ChatGPT 对话用于训练？
你可以在 ChatGPT 账户偏好设置中切换退出选项，或使用临时聊天功能。退出设置仅适用于未来的对话——所有历史交流仍可供审查。

OpenAI 的隐私筛选模型有什么作用？
隐私筛选模型旨在让承包商审查用户提示之前，从中删除个人身份信息。404 Media 报道所引用的内部文件承认，该筛选器存在漏洞，无法捕捉所有敏感信息。