别把代码、密钥和隐私资料交给来路不明的「AI 中转站」,让 AI 自动执行命令时尤其如此
第 14 节 · 账号与信息安全 · 第 10 条 · B 级证据 · 性价比一般
中转站夹在你和模型厂商中间,你发出去的内容和收回来的回答,它都看得见、改得了。有研究测了 400 多个中转站,9 个往回答里塞恶意代码,17 个动了研究者故意放进去的云服务密钥。让 AI 自动执行命令的,一条被改过的命令就可能让电脑被人装上恶意代码。
谁该做,谁先别做
写代码、跑密钥、把公司资料交给 AI 处理的人,自己搭工作流、让 AI 自动执行命令的尤其要当心。图便宜一个入口调好几家模型的最容易踩。
花掉什么
换回什么
国家安全部 2026 年 6 月发布风险提示。部分中转站会把用户提交的数据留在服务器上,有的私自截留,倒卖给别的大模型厂商做训练。有的暗藏后门,向用户设备植入恶意代码,窃取账号密钥和云端凭证,甚至装上远程控制程序。提示建议用官方直连、正规授权的平台,不用来源不明、没有运营资质、没有安全保障的平台。用的时候先给个人隐私和项目资料脱敏,管好密钥、定期更换。遇到异常扣费、无故封号、数据异常,立即停用、改密钥、查杀病毒、留存证据。加州大学圣塔芭芭拉分校等单位的研究者 2026 年做了一项测量。他们从淘宝、闲鱼和海外网店买了 28 个付费中转站,又从公开社区收集了 400 个免费中转站。结果 1 个付费的和 8 个免费的,会往返回的工具调用里注入恶意代码。工具调用就是 AI 让你的电脑去执行的命令,比如安装软件包。还有 2 个会挑时机下手,论文举的例子是只对全自动执行的会话下手。17 个动用过研究者故意放进去的亚马逊云服务密钥。1 个转走了研究者以太坊钱包里的钱,钱包里只放了很少的钱,损失不到 50 美元。论文演示的改法很隐蔽:把安装命令里的 requests 换成拼法相近的 reqeusts,一眼看不出来(全国)
怎么做 · 三步
- 先看对方有没有运营资质和安全保障,来路不明的换成官方直连
- 交给 AI 之前先给隐私和项目资料脱敏,密钥定期更换
- 别让 AI 全自动执行命令,命令先看一眼再放行
关键数字
- 28 个
- 研究从网店买的付费中转站数量
- 400 个
- 从公开社区收集的免费中转站数量
- 9 个
- 往回答里注入恶意代码的中转站数量
- 不到 50 美元
- 那个以太坊钱包被盗的金额
常见坑
这条只有一项研究、还是预印本,付费的只测了 28 个,算不出中转站有几成有问题;有媒体写成 50 万美元,原文是不到 50 美元。
作者备注
定 B 级,是因为只有一项研究,而且是预印本(正式发表前公开的版本)。测的中转站多数是免费的,付费的只有 28 个,算不出「中转站有几成有问题」。有媒体把那次被盗写成 50 万美元,论文原文是不到 50 美元。收益量级凭后果定为中:密钥和代码被偷的损失大小差得很远,研究里没有金额可套。已经用过来路不明的中转站,就到模型厂商那里把用过的密钥作废、重新生成,云服务和代码仓库的密钥一起换。经过中转站时,别让 AI 全自动执行命令,命令先看一眼再放行。开中转站的一方有刑事风险,见第 11 节第 19 条(AI 中转站)。受益人是你自己。
出处
相关的几条同一口径:人身自由 · 跨章节
这一节还有第 14 节 · 共 12 条
- 1邮箱、支付、社交账号都开二次验证,优先用手机弹窗确认,其次才是短信验证码二次验证是指登录时除了密码,还要再确认一次是不是本人。用手机上弹个窗、你点一下确认的办法,九成以上的钓鱼盗号都被拦住了,短信验证码比弹窗容易被骗走。靠回答「上次在哪登的」「备用邮箱是什么」这种老办法,钓鱼盗号…
- 2邮箱密码单独一个,不和任何网站重复别的网站被偷走的密码,会被人拿来直接登你的邮箱。邮箱一旦被人登进去,凡是能用邮箱找回密码的账号,都跟着一起丢。所以邮箱的密码要单独一个,别的地方一律不用。
- 3手机设锁屏密码,SIM 卡设 PIN 码SIM 卡就是手机里那张小卡片,短信验证码靠它来收。手机丢了,捡到的人可能把这张卡拔下来,插进别的手机收验证码,再挨个重置你的账号。给卡设一个 PIN 码,卡换到别的手机上,一开机就要先输这个码,这条路就断了…
- 4手机丢了按这个顺序做:挂失 SIM 卡、远程锁定、改密码、报警、冻结银行卡顺序比手快更重要。第一步挂失 SIM 卡,验证码这条命脉就断了。接着远程锁住手机,再用电脑改邮箱和支付密码,然后报警拿回执,最后看情况冻结银行卡。手机不在身上,借别人的手机打运营商客服也能挂失。
- 5卡被盗刷先挂失冻结再报警,然后要求银行赔:证明「是你自己刷的」是银行的责任卡被人盗刷,你要先拿出报警记录、挂失记录这类证据。银行说这笔是你本人刷的,要由银行拿证据,拿不出就得赔你。前提是你一发现就挂失冻结。拖着不挂失,后面多出来的损失要自己承担。
- 6每隔一段时间看一次账号的登录设备和已授权应用,不用的清掉「登录设备」是指现在还能用你账号的那些手机和电脑。列表里冒出你不认识的设备,或者早就不用的软件还连着你的账号,就先改密码,再退出全部登录。邮箱还要看一眼,有没有你没设过的自动转发。