Berkeley AI Research·· 2026-03-13AI 评分28
SPEX 与 ProxySPEX:LLM 大规模交互识别算法
Identifying Interactions at Scale for LLMs
AI 导读
SPEX 和 ProxySPEX 算法通过稀疏性和低阶性假设,高效识别 LLM 中的关键特征、数据及组件交互。ProxySPEX 利用层级结构特性,在保持性能的同时将消融次数减少约 10 倍。该框架解决了传统方法在大规模上下文下计算不可行的问题,显著提升了可解释性分析效率。
来源:Berkeley AI Research · bair.berkeley.edu