Microsoft 发布 DIFF V2：优化注意力机制以提升解码速度

Microsoft 推出 Differential Transformer V2，通过增加查询头数量但保持键值头不变，实现与标准 Transformer 相当的解码速度且无需自定义内核。该版本移除了导致数值不稳定的逐头 RMSNorm，并采用每 token 每头的 λ 投影以消除注意力汇聚现象。