跳到正文
原文
Mistral AI·· 2023-12-11精选AI 评分89

Mistral AI 发布开源混合专家模型 Mixtral 8x7B

Mixtral of experts

AI 导读

Mistral AI 发布高质量稀疏混合专家模型(SMoE)Mixtral 8x7B,采用 Apache 2.0 许可开放权重。该模型在大多数基准测试中超越 Llama 2 70B,推理速度提升 6 倍,并在标准基准上匹配或超过 GPT3.5。

推荐理由

官方详细披露了 Mixtral 8x7B 的稀疏专家架构、性能基准及多语言能力,为开发者评估其成本效益和部署可行性提供了核心依据。

来源:Mistral AI · mistral.ai