OpenAI因人工审阅ChatGPT对话遭集体诉讼 被指侵犯隐私

本月，OpenAI在美国加利福尼亚州北区联邦地区法院被提起拟议集体诉讼，指控该公司在未妥善告知用户的情况下，将真实的ChatGPT对话路由给外部承包商审阅。OpenAI已于9月2日收到诉讼。

诉讼针对OpenAI名为“Project Lily”的内部计划。据404 Media于9月14日首次曝光，通过第三方人力公司聘用的承包商担任“AI数据审查员”和“聊天机器人评估员”等职务，他们阅读真实的ChatGPT提示与完整对话，总结用户意图，并对四种不同的模型回复进行一至七分的评分与批评。这一过程本质上是聊天机器人如ChatGPT变聪明的基础方式——人类反馈强化学习（RLHF）。

诉讼抱怨用户从未被明确告知可能有真人而非仅机器阅读其聊天。OpenAI确实在人工审阅前用自动系统过滤对话，但诉状称过滤器并非总能捕捉一切，导致个人细节有时仍抵达承包商。404 Media发现评审员通过一个包含“用户记忆摘要”的仪表板工作，该摘要可揭示用户大致位置、职业或个人生活，尽管用户名被剥离。

OpenAI表示审阅旨在减少两种特定行为：聊天机器人表现得太像人，以及太过顺从（研究人员称为“谄媚”，即AI告诉用户他们认为想听的话而非准确信息）。

ChatGPT每周拥有超9亿用户，许多人将其当作日记、治疗师或仅自己可见的搜索引擎，输入健康症状、分手短信、税务问题、法律麻烦。诉讼主张OpenAI隐私政策虽列明获取用户数据的外部方类别，却从未具体标注数据标注或人工评估供应商。

诉状包含八项独立法律索赔，包括违反加州不正当竞争法、消费者隐私法，以及普通法上的侵犯隐私（intrusion upon seclusion）等。原告寻求损害赔偿、返还利益及惩罚性赔偿。禁令方面，原告要求OpenAI在将任何对话送交外部审阅前需获选择同意，将“为所有人改进模型”设置默认关闭而非开启，在聊天窗口内添加明确警告，并可能删除审阅对话相关的工作产物同时重新训练使用过这些数据的模型。

OpenAI的回应截止日期为10月13日。

Myriad：哪家公司下次IPO？点击做出你的预测。