大模型安全不只是防止用户做坏事，还有一个被忽视的方向：模型可能泄露训练数据。

一、数据泄露怎么发生

如果训练数据中包含个人信息或商业秘密，攻击者可能通过特定prompt诱导模型回忆这些内容。学术研究已经证明了这种攻击的可行性。

二、怎么防护

防护措施：训练前数据去标识化、输出层敏感信息过滤、限制模型输出范围。更根本的是：不要把绝对不能泄露的数据放进训练集。

三、API模式的风险

用第三方API时，服务商侧也在防护。但如果你自己部署开源模型，这些防护需要自己做。安全是系统工程，不是单一措施能解决的。