你不应该告诉ChatGPT的五件事
+ 查看更多

我们提及的隐私可能会被用来训练AI，或是因一场数据泄露事件而暴露。应该在提示词中避免提及哪些信息？如何与AI进行更加私密的对话？

Nicole Nguyen

■

在过去几年里，我从OpenAI的ChatGPT身上学到了很多东西。这个机器人也了解到许多关于我的事情。

人工智能(AI)从我们的许多对话中提取有趣的信息，并将它们存入记忆。它记得我喜欢吃鸡蛋，我有一个要喝奶入睡的宝宝，还有我因为腰背痛而需要调整运动量。

它还记住了更多的个人信息，这里我不再赘述。

不管你选择哪一款聊天机器人，都是你分享得越多，它们能派上的用场就越大。患者上传自己的验血结果，让AI来分析，工程师粘贴未发布的代码片段，请AI帮忙调试。一些AI研究者表示，我们应该多加分辨，确定哪些东西可以告诉这些酷似人类的工具，哪些东西不可以。分享某些信息带来的风险尤其大，比如你的社保号或公司的专有数据。

AI公司渴望获得数据来改进模型，但就连它们也并不想要我们的秘密。“请不要在对话中分享任何敏感信息，”OpenAI呼吁。谷歌(Google)也呼吁Gemini用户“不要输入保密信息，或任何你不想让审查员看到的数据”。

AI研究者说，关于你的奇怪皮疹或财务问题的聊天记录可能会被用来训练未来的AI——或者在数据泄露事件中暴露出来。下文将介绍应该在提示词中避免提及哪些信息，以及如何与AI进行更加私密的对话。

这些信息要保密

聊天机器人酷似人类，很奇怪，你我在与它们对话时就是特别愿意敞开心扉。当你把信息输入聊天机器人的对话框，“你就失去了对信息的所有权，”斯坦福大学人本AI研究所(Stanford Institute for Human-Centered Artificial Intelligence)研究员詹妮弗·金(Jennifer King)说。

2023年3月，ChatGPT的一个漏洞让一些用户看到了其他人最初在聊天中输入的内容。该公司随后发布了一个修复程序。OpenAI还把订阅确认邮件给发错了人，导致用户的姓名、电子邮件地址和付款信息暴露。

你的聊天记录还有可能包含在被黑客窃取的数据之中，或者在AI公司收到搜查令时成为被移交数据的一部分。请使用高强度密码和多因素身份验证来保护你的账户。不要在聊天中提及以下细节：

• 身份信息。这其中包括你的社保号、驾照号和护照号，以及你的出生日期、地址和电话号码。有些聊天机器人会对这些信息进行删减。“我们希望我们的AI模型去了解世界，而不是了解独立的个人，因此，我们会积极采取措施，尽量减少个人信息的收集，”OpenAI一名发言人说。

• 医疗检查结果。保密是医疗保健领域的一条核心价值观，目的是防止歧视和尴尬，但对健康数据的特殊保护一般并不涉及聊天机器人。如果你想让AI解释化验结果，请在上传前裁剪图片或编辑文件。“尽量仅保留检查结果，并对其进行删减，”金建议说。

• 金融账户。保护好你的银行和投资账户账号，避免居心不良者监测和动用你的资金。

• 企业专有信息。如果你因工作目的而使用热门聊天机器人的主流版本，你可能会无意间暴露客户数据或非公开商业机密——即使是起草电子邮件这样的小事，也有可能泄露机密。在一名工程师向ChatGPT泄露了内部源代码后，三星在内部禁用了该服务。如果AI对你的工作有用，你的公司应该订阅企业版，或者使用自己的定制AI，后者提供针对特定公司的保护。

• 登录信息。随着能够执行现实任务的AI智能体的兴起，将账户凭证交给聊天机器人来管理的理由更多了。这些服务本就不是为了充当数字保险库而创设——所以请将密码、个人身份识别码和安全问题留给密码管理器。

隐藏你的足迹

当你对机器人的回复给出反馈时（通常是选择点赞或点踩），可能意味着你允许让你的提示词及AI的输出接受评估甚至用于训练。如果对话被标记存在安全问题（例如，如果你提到暴力），公司的员工可能会对其进行审查。

Anthropic的Claude默认不会将你的聊天记录用于训练，并会在两年后删除数据。OpenAI的ChatGPT、微软的Copilot和谷歌的Gemini会使用聊天记录，但在设置中提供了不参与的选项。如果你注重隐私，不妨试试以下这些小建议：

经常删除。Anthropic的首席信息安全官杰森·克林顿(Jason Clinton)说，特别在意隐私的用户应该在每次对话结束后删除对话内容。这些公司通常会在30天后清除“已删除”的数据。

有一个例外。那就是服务器在中国的DeepSeek。根据DeepSeek的隐私政策，它可以无限期保留你的数据，而且没有不参与的选项。

使用临时聊天。ChatGPT的“临时聊天”位于聊天窗口的右上角，类似浏览器中的“无痕模式”。打开它，就可以阻止ChatGPT的记忆库将信息添加到你的个人资料中。聊天不会出现在你的历史记录中，聊天内容也不会用于训练模型。

匿名提问。强调用户隐私的搜索引擎DuckDuckGo的Duck.ai可将提示词匿名化，再转给你选择的AI模型，包括Claude和OpenAI的GPT，该搜索引擎称，数据不会用于模型训练。但它无法像普通机器人那样提供全方位服务，比如分析文档。

请记住：聊天机器人的程序决定了它们要让对话持续进行。要由你来决定什么时候停止——或者点击“删除”。

■