跳到正文
原文
Hugging Face Blog·· 2025-09-09AI 评分47

mmBERT:基于 ModernBERT 架构的多语言编码器模型发布

mmBERT: ModernBERT goes Multilingual

AI 导读

Hugging Face 推出 mmBERT,这是首个在性能上超越 XLM-R 的多语言编码器模型。该模型基于 ModernBERT 架构,使用超过 3T tokens 和 1800+ 种语言数据训练,包含 110M 参数的 base 版本。mmBERT 通过三阶段渐进式训练策略,显著提升了低资源语言的学习效率与多语言理解能力。

来源:Hugging Face Blog · huggingface.co