一些现象的观察

2025-07-27

来谈一谈我最近使用 ChatGPT 时观察到的一些现象，也可能是所有生成式语言大模型共有的。

一个事实是：这些大模型在使用时会潜在地收集你的信息并上传到服务器。中国人使用 ChatGPT 时也一定会被收集信息，尤其是上传个人敏感信息的时候，ChatGPT 会默默记录下来，并可能在以后的回答中使用。这有极高的国家安全风险，尤其是涉及到一些保密材料的时候。

中国政府采取的保密措施是很严格的，比如"涉密信息不上网"这个制度。在操作系统无法控制的情况下，中国用最原始的土方法来应对情报战争——断网。

这种方法不论好坏，我觉得有效，不然国家安全部门不会这么大张旗鼓地推广。

在怀柔某研究所参观的时候，我发现电脑上有黄色标语，十分醒目：联网电脑不涉密。