Hugging Face Blog·· 2025-09-09AI 评分47
mmBERT:基于 ModernBERT 架构的多语言编码器模型发布
mmBERT: ModernBERT goes Multilingual
AI 导读
Hugging Face 推出 mmBERT,这是首个在性能上超越 XLM-R 的多语言编码器模型。该模型基于 ModernBERT 架构,使用超过 3T tokens 和 1800+ 种语言数据训练,包含 110M 参数的 base 版本。mmBERT 通过三阶段渐进式训练策略,显著提升了低资源语言的学习效率与多语言理解能力。
来源:Hugging Face Blog · huggingface.co