跳转到内容

什么能发给 AI,什么不能:安全与隐私底线

📍 从这里开始

一个拿着盾牌的可爱机器人守在一个信箱前,把一些信件挡回去,放另一些通过

你或者你同事,有没有做过这些事:

  • 把合同原文贴给 AI:“帮我看看有什么坑”
  • 把客户名单表格传给 AI:“帮我整理一下”
  • 把体检报告拍照发给 AI:“帮我看看这些指标”

如果有,你不是一个人。这些是最常见的 AI 使用场景,也是最常见的隐私事故现场。

先说清楚:这一篇不是劝你别用 AI(那是因噎废食),而是给你一张红绿灯清单:什么放心发、什么处理后发、什么坚决不发。

简单说:你发给 AI 的每句话,都会上传到服务商的服务器处理。之后的去向,取决于平台政策:

  • 多数平台会保存对话记录(你自己能看到历史,说明它存着)
  • 不少平台默认会用你的对话改进模型,你的内容可能变成训练数据(常用的几家都能关,见下表)
  • 平台自身也可能被攻击、出事故,存在那里的东西就有暴露的可能

下面几家都能在设置里关掉,按 2026-09-26 各家的官方说明核对:

助手在设置里找关掉以后
豆包「隐私与权限」里的「帮助模型改进效果」文字、图片和文件、语音等分成几个开关,可以分别关,也可以全关;整个账号同步生效。你主动点的反馈、举报除外
DeepSeek「数据管理」里的「数据用于优化体验」你的输入和它的回答不再用于训练
ChatGPT(海外读者)「数据控制」里的「Improve the model for everyone」(为所有人改进模型)之后的新对话不再用于训练

千问、元宝、Kimi 的开关位置和申请方式各不相同,见选一个国产 AI 助手,在手机上用起来的隐私开关一节。出处:豆包说明、DeepSeek 隐私政策、OpenAI 说明。

关掉开关,内容照样会上传、保存,只是不再拿去训练。所以结论不是“AI 不可信”,而是一条朴素原则:

凡是你不愿贴到网上论坛的内容,也不要原样发给 AI。

红绿灯样式的三栏清单示意,绿灯放行,黄灯处理后通过,红灯禁止

  • 公开信息(新闻、公开资料、网上查得到的)
  • 一般性问题(“怎么做红烧肉”“帮我讲讲这个概念”)
  • 不含隐私的创作和学习(写文案、改作文、学语言)
  • 虚构或已脱敏的内容

工作和生活里的真实材料,先做“脱敏”(把敏感信息抹掉或替换):

原始内容脱敏后发
带公司名和金额的合同把公司名换成“甲方/乙方”,金额换成“X 万元”
客户名单删掉姓名电话,只留你要分析的列
邮件往来隐去人名、公司名再让 AI 润色
体检报告只输入指标名和数值,不传整页照片

脱敏的口诀:AI 需要的是“问题的结构”,不是“当事人的身份”。 把身份抹掉,问题照样问得清。想练习把文件、照片交给 AI,顺便学会拍照、截图前遮掉无关信息,看把文件、图片、语音交给聊天 AI。

  • 证件类:身份证、护照、银行卡照片(任何“帮我看看这个证件”的冲动都忍住)
  • 密码类:任何账号密码、验证码、支付密码。没有任何 AI 功能需要你的密码
  • 公司机密:未公开财务数据、核心代码、客户完整资料。很多公司已明令禁止,别拿职业冒险
  • 他人隐私:别人的照片、聊天记录、私事。你无权替别人做这个决定

AI 让老骗术升级了。三种最常见的,识别方法都很简单:

1. 语音克隆:“儿子”打电话来借钱

Section titled “1. 语音克隆:“儿子”打电话来借钱”

现在的技术,拿到你几秒钟的语音(短视频、语音消息),就能合成你的声音说任何话。骗子用“你家人”的声音打电话:出事了、急用钱。

破解:约一个只有家人知道的暗号(比如“小时候养的第一只猫叫什么”)。任何涉及转账的电话,必问暗号,或挂断后拨打本人常用号码回拨确认。声音≠本人,从今天起是常识。

2. 换脸视频:视频通话也可能是假的

Section titled “2. 换脸视频:视频通话也可能是假的”

AI 换脸已经能做到实时视频通话。“眼见为实”在视频里不再成立。

破解:同上,暗号 + 回拨。另外可以让对方用手在脸前挥一挥或转头,当前的实时换脸在遮挡和大角度下常会露馅(闪烁、变形)。但别依赖技术识别,核心永远是另开渠道确认。

“你的会员即将扣费,点此取消”、山寨的 AI 工具网站骗你输入账号密码。

破解:凡是主动找上门的“客服”,一律从官方 App / 官网重新进入处理,不点对方给的链接。

总原则一句话:凡是涉及钱和密码,换一个官方渠道再确认一次。 这条能挡住大多数冒充熟人、冒充客服的骗局,把它设成家庭规矩。

拿不准时,找谁问(中国大陆)

Section titled “拿不准时,找谁问(中国大陆)”
  • 先问官方反诈工具:把遇到的情况原原本本描述给「国家反诈AI」App(公安部刑侦局指导,2026 年 9 月上线,应用商店、微信和支付宝小程序都能用),别只丢一个电话号码,它会帮你分析是不是诈骗、是哪种骗法。公安部刑侦局的「国家反诈中心」App 也值得给家人装一个:能对疑似诈骗的来电、短信预警,也能直接举报、提交报案信息。
  • 打 96110 咨询:这是全国统一的反诈预警劝阻专线,遇到疑似诈骗可以打过去问。反过来,接到 96110 打来的电话一定要接,这说明你或家人可能正在被骗。
  • 已经转了钱,马上打 110 报警,保存好聊天记录和转账凭证。

出处:新华网报道、国家反诈中心 App 介绍、武汉市公安局说明。海外读者请联系当地警方。

家里有孩子用 AI 写作业、聊天的,三条建议:

  1. 告诉孩子 AI 会一本正经地出错(幻觉那一篇的内容,用孩子能懂的话讲:“它像个爱面子的同学,不会也要装会”)
  2. 不发照片、真名、学校、住址,跟网络安全教育同一套标准
  3. AI 是学习工具不是代写工具:让孩子用“给我讲懂这道题”代替“给我答案”,一字之差,天壤之别

除了发出去的内容,已经登录的账号也会被盯上。有一类“信息窃取”木马,常藏在盗版软件、破解游戏和来路不明的下载里,一旦装上,会把浏览器里所有网站的登录状态整个偷走,AI 账号只是其中之一。这种偷法不用猜密码,也不用绕过验证码,所以光改密码拦不住:木马不清掉,下次登录照样会被偷。

一个真实的例子:2026 年 8 月底,Anthropic 发邮件通知一批 Claude 用户,他们的登录状态被这类木马偷走,被人拿去消耗额度。官方已把受影响的账号强制下线,并删掉了账号里保存的付款方式,来龙去脉见三巨头同周上新那篇。

防的办法很朴素:别装盗版软件、破解游戏,软件只从官网或正规应用商店下载。 如果发现账号额度刚恢复就莫名其妙用光,按这个顺序做:先杀毒 → 改注册邮箱的密码、登出其他设备并开启两步验证 → 换掉浏览器里存过的敏感密码 → 确认电脑干净后,再把付款方式加回去。

用 AI 的安全感,来自清楚的边界,而不是模糊的恐惧。

红绿灯清单贴在心里:绿灯放心用、黄灯脱敏用、红灯绝不碰;涉及钱和密码,永远换官方渠道二次确认。边界立好之后,放心大胆地用,因噎废食才是最大的浪费。

今晚的家庭作业:跟家人约好那个“转账暗号”。五分钟的事,可能挡住一场大祸。