OpenAI 因 ChatGPT 隐私披露面临集体诉讼

本月，两名加州 ChatGPT 用户在美国加利福尼亚州北区联邦地区法院对 OpenAI 提起拟议集体诉讼，指控该公司允许外部承包商阅读真实用户对话，却未进行适当披露。OpenAI 于 9 月 2 日收到诉讼送达。该诉讼围绕 Project Lily 展开。这是 OpenAI 的一项内部计划，承包商通过人员配备公司受聘后，会总结用户提示，并按照 1 至 7 分的标准为聊天机器人回复评分。诉状称，OpenAI 的隐私政策未明确披露数据标注或人工评估供应商可以访问用户对话。ChatGPT 每周用户超过 9 亿，这些用户输入的内容涉及健康症状、关系问题和法律问题。

OpenAI 的 Project Lily 将 ChatGPT 对话暴露给承包商

媒体 404 Media 于 9 月 14 日首次披露了 Project Lily。据诉状称，通过第三方人员配备公司受聘担任“AI 数据审核员”和“聊天机器人评估员”等职位的承包商，会阅读真实的 ChatGPT 提示和完整对话，总结用户试图完成的事情，然后按照 1 至 7 分的标准，对四种不同的模型回复进行评分和批评。这一过程属于基于人类反馈的强化学习（RLHF），是业内用于训练聊天机器人的一种技术。

404 Media 发现，审核员使用的仪表板包含“用户记忆摘要”——对某人过往聊天内容的概述。即使用户名已被删除，这些摘要仍可能透露用户的大致位置、职业或个人生活等细节。OpenAI 会在人工查看对话之前，先通过自动化系统处理这些对话。诉状称，该筛选器并不总能捕捉到所有内容，这意味着个人细节有时仍会触达承包商。

OpenAI 表示，这些审核旨在减少两种特定行为：聊天机器人表现得过于像人，以及聊天机器人过于迎合用户。研究人员将后一种特征称为谄媚，即 AI 告诉用户它认为用户想听的话，而不是提供准确的信息。

隐私政策未披露人工审核员

诉讼称，OpenAI 的隐私政策列出了一些能够访问用户数据的外部方类别，但从未明确将数据标注或人工评估供应商列为其中一类。诉状称，用户从未被明确告知，阅读其聊天内容的可能不只是机器，也可能是人。

人们会将健康症状、分手短信、税务问题和法律困境输入 ChatGPT。诉状提出了普通法上的主张，包括侵扰隐私。这是一种隐私侵权，涵盖以合理人会认为冒犯的方式窥探他人私密事务。

原告针对 OpenAI 提出八项法律主张

诉状提出了八项不同的法律主张，包括违反加州《不正当竞争法》、加州《消费者隐私法》以及普通法上的隐私侵权。原告要求赔偿损失、返还不当得利及惩罚性赔偿。

在禁令救济方面，原告希望法院责令 OpenAI，在将任何对话发送给外部审核员之前取得用户主动选择加入的同意，将“为所有人改进模型”设置为默认关闭而非默认开启，在聊天窗口内添加明确警告，并可能删除与被审核对话相关的工作成果，同时重新训练任何使用过这些成果的模型。

OpenAI 应于 10 月 13 日作出回应

OpenAI 应于 10 月 13 日作出回应。该案件已在加利福尼亚州北区提起。

常见问题

两名加州用户在针对 OpenAI 的诉讼中提出了什么指控？

两名加州 ChatGPT 用户指控，OpenAI 通过名为 Project Lily 的内部计划，在未进行适当披露的情况下允许外部承包商阅读真实用户对话；在该计划中，承包商会总结用户提示，并按照 1 至 7 分的标准为聊天机器人回复评分。

OpenAI 何时必须回应这起诉讼？

OpenAI 应于 10 月 13 日作出回应。该公司于 9 月 2 日收到诉讼送达。