大模型隐私攻击技术

击者可能仅通过模型的API查询接口（即“黑盒”访问），就能推断出某条数据是否被用于训练（成员推断攻击），甚至直接提取训练数据中的具体内容（数据提取攻击）。这些攻击技术的快速发展揭示了一个严峻的事实：大模型的强大功能与其隐私风险之间存在深刻的矛盾