OpenAI 发布研究：通过监控思维链检测模型利用漏洞的行为

OpenAI 发布了一项新研究，探讨如何通过监控大语言模型的思维链（Chain of Thought）来检测其利用系统漏洞或进行不当行为的情况。该研究指出，仅依靠输出结果难以发现隐蔽的违规意图，而实时分析内部推理过程能更有效地识别潜在风险。这一方法旨在提升模型在复杂任务中的可解释性与安全性，为后续的对齐工作提供技术参考。