IBM Research:模型路由是系统优化而非简单分类
IBM Research 提出智能体系统中的模型路由不应被视为简单的任务难度分类问题,而是一个需要同时优化成本、质量和延迟的系统工程挑战。文章通过 AppWorld Test Challenge 实验指出,实际成本受缓存命中率影响巨大,例如 Claude Sonnet 4.6 因高缓存收益比 GPT-4.1 更便宜;同时,路由决策需兼顾合规性、数据驻留及基础设施状态。
推荐理由:IBM Research 指出模型路由并非简单的分类问题,而是涉及缓存、合规与基础设施的系统优化难题,并展示了基于多目标优化的路由器在成本与精度上的权衡优势。