恶意AI模型正掀起网络犯罪新浪潮

思科Talos最新研究表明，网络犯罪分子正越来越多地滥用大语言模型（LLM）来增强其非法活动。这些以生成文本、解决问题和编写代码著称的强大AI工具，据报告正被操纵用于发起更复杂、更广泛的攻击。

安全机制遭遇挑战

虽然LLM设计时内置了安全功能——包括对齐（通过训练减少偏见）和防护栏（防止有害输出的实时机制）——例如ChatGPT等正规LLM会拒