快科技 9 月 16 日消息，据报道，OpenAI 内部存在一个名为 Project Lily 的项目，雇佣数百名合同工人工审阅 ChatGPT 用户的聊天记录，以此来改进模型回复质量。
这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估 ChatGPT 回复的质量，判断是否真正回答了问题，是否存在 AI 腔调、居高临下的语气、表情符号滥用或阿谀奉承。
审核标准明确禁止拟人化表达和编造个人经历，如 ChatGPT 可以说 「我找到了一些信息」，但不能说 「作为一名厨师，我喜欢……」 或 「我知道那是什么感觉」。
一位审核员形容工作非常机械，虽然时薪超过 50 美元，但审核指南经常变动且自相矛盾。
令人担忧的是，许多用户会把 ChatGPT 当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。
虽然聊天记录经过匿名化处理且审核员看不到用户名，但 OpenAI 向 404 Media 承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。
此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。
这一项目也戳破了 AI 公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。
而且大多数聊天机器人会默认启用 「允许使用你的对话改进产品」 选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。
OpenAI 最初对 404 Media 的询问没有回应，后来提供了一条 FAQ 链接，该页面至少存在两年，报道发表后 OpenAI 更新了帮助页面，但文中未提及人工审核。
Google Gemini 在隐私中心则明确表示 「人工可能会审阅部分已保存的聊天」，Anthropic 也有类似页面，Perplexity 的态度则不明确。
快科技 9 月 16 日消息，据报道，OpenAI 内部存在一个名为 Project Lily 的项目，雇佣数百名合同工人工审阅 ChatGPT 用户的聊天记录，以此来改进模型回复质量。
这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估 ChatGPT 回复的质量，判断是否真正回答了问题，是否存在 AI 腔调、居高临下的语气、表情符号滥用或阿谀奉承。
审核标准明确禁止拟人化表达和编造个人经历，如 ChatGPT 可以说 「我找到了一些信息」，但不能说 「作为一名厨师，我喜欢……」 或 「我知道那是什么感觉」。
一位审核员形容工作非常机械，虽然时薪超过 50 美元，但审核指南经常变动且自相矛盾。
令人担忧的是，许多用户会把 ChatGPT 当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。
虽然聊天记录经过匿名化处理且审核员看不到用户名，但 OpenAI 向 404 Media 承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。
此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。
这一项目也戳破了 AI 公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。
而且大多数聊天机器人会默认启用 「允许使用你的对话改进产品」 选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。
OpenAI 最初对 404 Media 的询问没有回应，后来提供了一条 FAQ 链接，该页面至少存在两年，报道发表后 OpenAI 更新了帮助页面，但文中未提及人工审核。
Google Gemini 在隐私中心则明确表示 「人工可能会审阅部分已保存的聊天」，Anthropic 也有类似页面，Perplexity 的态度则不明确。
快科技 9 月 16 日消息，据报道，OpenAI 内部存在一个名为 Project Lily 的项目，雇佣数百名合同工人工审阅 ChatGPT 用户的聊天记录，以此来改进模型回复质量。
这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估 ChatGPT 回复的质量，判断是否真正回答了问题，是否存在 AI 腔调、居高临下的语气、表情符号滥用或阿谀奉承。
审核标准明确禁止拟人化表达和编造个人经历，如 ChatGPT 可以说 「我找到了一些信息」，但不能说 「作为一名厨师，我喜欢……」 或 「我知道那是什么感觉」。
一位审核员形容工作非常机械，虽然时薪超过 50 美元，但审核指南经常变动且自相矛盾。
令人担忧的是，许多用户会把 ChatGPT 当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。
虽然聊天记录经过匿名化处理且审核员看不到用户名，但 OpenAI 向 404 Media 承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。
此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。
这一项目也戳破了 AI 公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。
而且大多数聊天机器人会默认启用 「允许使用你的对话改进产品」 选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。
OpenAI 最初对 404 Media 的询问没有回应，后来提供了一条 FAQ 链接，该页面至少存在两年，报道发表后 OpenAI 更新了帮助页面，但文中未提及人工审核。
Google Gemini 在隐私中心则明确表示 「人工可能会审阅部分已保存的聊天」，Anthropic 也有类似页面，Perplexity 的态度则不明确。
快科技 9 月 16 日消息，据报道，OpenAI 内部存在一个名为 Project Lily 的项目，雇佣数百名合同工人工审阅 ChatGPT 用户的聊天记录，以此来改进模型回复质量。
这些合同工被称为提示词审核员，工作内容是查看匿名后的真实聊天，评估 ChatGPT 回复的质量，判断是否真正回答了问题，是否存在 AI 腔调、居高临下的语气、表情符号滥用或阿谀奉承。
审核标准明确禁止拟人化表达和编造个人经历，如 ChatGPT 可以说 「我找到了一些信息」，但不能说 「作为一名厨师，我喜欢……」 或 「我知道那是什么感觉」。
一位审核员形容工作非常机械，虽然时薪超过 50 美元，但审核指南经常变动且自相矛盾。
令人担忧的是，许多用户会把 ChatGPT 当作临时朋友或心理咨询师，从而在对话中倾吐深层秘密。审核员表示，大多数用户并不知情自己的聊天正在被他人阅读。
虽然聊天记录经过匿名化处理且审核员看不到用户名，但 OpenAI 向 404 Media 承认，这种处理有可能会遗漏掉部分个人信息，短对话尤其容易遗漏。
此外交给审核员的版本还包含一份用户记忆摘要，汇总了用户的提问兴趣、上下文甚至可能的位置信息。
这一项目也戳破了 AI 公司的技术形象：模型并非仅靠技术进步和更好的训练数据提升，仍然需要大量人工介入。
而且大多数聊天机器人会默认启用 「允许使用你的对话改进产品」 选项，包括许多付费计划。已存入数据库的聊天除非用户主动删除否则仍会保留，但即便删除，聊天可能已被采集和匿名化，存在于某个数据集中。
OpenAI 最初对 404 Media 的询问没有回应，后来提供了一条 FAQ 链接，该页面至少存在两年，报道发表后 OpenAI 更新了帮助页面，但文中未提及人工审核。
Google Gemini 在隐私中心则明确表示 「人工可能会审阅部分已保存的聊天」，Anthropic 也有类似页面，Perplexity 的态度则不明确。
