Mistral AI·· 2023-12-11精选AI 评分89
Mistral AI 发布开源混合专家模型 Mixtral 8x7B
Mixtral of experts
AI 导读
Mistral AI 发布高质量稀疏混合专家模型(SMoE)Mixtral 8x7B,采用 Apache 2.0 许可开放权重。该模型在大多数基准测试中超越 Llama 2 70B,推理速度提升 6 倍,并在标准基准上匹配或超过 GPT3.5。
推荐理由
官方详细披露了 Mixtral 8x7B 的稀疏专家架构、性能基准及多语言能力,为开发者评估其成本效益和部署可行性提供了核心依据。
来源:Mistral AI · mistral.ai