BigCode 发布 StarCoder2 系列开源代码大模型及 The Stack v2 数据集

BigCode 团队发布新一代开源代码大模型 StarCoder2 及其训练数据集 The Stack v2，并开放所有模型权重、数据处理和训练代码。StarCoder2 包含 3B、7B 和 15B 三种参数规模，其中旗舰版 StarCoder2-15B 基于 600 多种编程语言和超过 4 万亿 token 训练，性能在同类尺寸中领先并可媲美 33B+ 模型。