Mistral AI·· 2023-09-27精选AI 评分86
Mistral AI 发布 Mistral 7B 开源模型
Mistral 7B
AI 导读
Mistral AI 发布 Mistral 7B，这是一个拥有 7.3B 参数的语言模型，采用 Apache 2.0 许可证完全开源。该模型在所有基准测试中均优于 Llama 2 13B，在许多基准上超过 Llama 1 34B，并使用分组查询注意力（GQA）和滑动窗口注意力（SWA）以加速推理和处理长序列。
推荐理由
原文给出了 Mistral 7B 在多项基准上超越 Llama 2 13B 的实测数据及 Apache 2.0 开源许可，读者可据此评估小参数模型的性价比与部署可行性。
来源：Mistral AI · mistral.ai