Hugging Face 社区周项目：使用 10 亿训练对与 TPU v3-8 训练 SOTA 句子嵌入模型

Hugging Face 在“用 10 亿训练对训练最佳句子嵌入模型”项目中开发了 state-of-the-art 句子嵌入模型。该项目利用 7 个 TPU v3-8 和 JAX/Flax 框架，采用对比学习及 Multiple Negative Ranking Loss 进行训练。通过优化批次大小、引入 hard negatives 及使用缩放余弦相似度，显著提升了模型性能。