Hugging Face Blog·· 2024-10-29AI 评分57
Intel Labs 与 Hugging Face 推出 Universal Assisted Generation：支持任意助手模型的快速解码
Universal Assisted Generation: Faster Decoding with Any Assistant Model
AI 导读
Intel Labs 和 Hugging Face 共同开发了 Universal Assisted Generation (UAG)，该方法扩展了辅助生成技术，使其能够使用来自任何模型家族的小型语言模型作为助手。
来源：Hugging Face Blog · huggingface.co