本文讲述了人工智能初创公司Anthropic发现的大语言模型的新安全漏洞Many-shotJailbreaking，该技术利用上下文窗口的增长引发潜在风险。作者介绍了攻击原理、影响以及提出的缓解方法，强调了模型安全性...

浏览 54 次 标签： 大语言模型（LLM）漏洞爆发    AI模型无一幸免