OpenAI 提出 UAR 指标以评估神经网络对抗未知攻击的鲁棒性

OpenAI 开发了一种新方法，用于评估神经网络分类器能否可靠防御训练中未见过的对抗攻击。该方法引入了新指标 UAR（Unforeseen Attack Robustness），专门衡量单个模型对意外攻击的鲁棒性。研究强调需在更多样化的未知攻击范围内测量模型性能。