极性盲点：语言模型安全的新挑战
研究背景：在自然语言处理（NLP）任务和多模态任务中，否定（Negation）一直是语言模型面临的持久挑战。研究表明，这种弱点可能会破坏大型语言模型（LLM）的安全护栏，其根源在于一种被称为“极性盲点”（polarity blindness）的结构性漏洞。
所谓极性盲点，指的是模型在经过改变极性的语言转换后，无法识别其中的有害意图。
研究方法
研究者探讨了两种形式的极性反转，并使用同义词替换作为极性保持的对照：
- 极性反转形式：语法否定（grammatical negation）、反义词替换（antonym replacement）
- 对照条件：同义词替换（synonym replacement，保持极性不变）
- 测试变量：对抗性文本包装（adversarial textual wrapper）是否放大了这些失效
实验设置与结果
实验规模：使用包含260个提示的基准测试，覆盖3个语种和10个最先进的LLM：
- 模型数量：10个最先进的大型语言模型（LLM）
- 测试语言：英语、西班牙语、捷克语（共3种语言）
- 分层标准：按潜在有害程度分层（stratified by harmfulness potential）
- 评估方法：在经过验证的0-5分危害量表上进行评估
关键发现：极性盲点影响了大多数被评估的模型。在最脆弱的模型中，平均危害分数达到了4.12。
结论与意义
这种效应在类型学上不同的否定系统中持续存在，这表明极性盲点反映了语义鲁棒性（semantic robustness）的更广泛局限，而非特定语言或语法特有的失败。