Arm 与 ExecuTorch 0.7 发布：通过 KleidiAI 将生成式 AI 普及至大众设备

Arm 宣布即将发布的 ExecuTorch 0.7 beta 将默认启用 KleidiAI，旨在为基于 Arm CPU 的设备提供自动加速。该版本利用自 2015 年起广泛支持的 SDOT 指令优化 Int4 矩阵乘法，使 Llama 3.2 等大语言模型能在包括 Raspberry Pi 5 和旧款 Android 手机在内的约 30 亿台设备上高效运行。