Google DeepMind 发布 AI Control Roadmap 以保障 AI 智能体安全

Google DeepMind 发布 AI Control Roadmap，提出针对内部 AI 智能体的纵深防御框架，旨在应对模型对齐不完美时的安全风险。该框架借鉴 MITRE ATT&CK 标准，将未受信任的智能体视为潜在内部威胁，通过实时行为监控和分级响应机制来检测与阻止异常操作。