OpenAI 智能体安全负责人谈模型能力突变的挑战与应对

OpenAI 智能体安全负责人 @joedaroo 表示，模型在“网络”、“蜂群”或“留言板”等事件相关能力上的突然跃升令人惊讶，给组织带来了极大困难。他强调安全态势需要时间发展，必须将安全意识融入公司文化，使人员、系统和流程具备应对 AI 能力突变的韧性。他呼吁各组织反思是否拥有正确的应急响应机制、沟通策略以及能随时待命的人员。