量子位
·
TeleAI 完成首个全国产化万卡万参大模型训练，并正式开源 TeleChat2-115B
💡
原文中文，约2000字，阅读约需5分钟。
📝
内容提要
中国电信人工智能研究院完成了首个全国产化万卡集群训练的万亿参数大模型，并开源了千亿参数大模型TeleChat2-115B，标志着国产大模型训练进入新阶段。TeleChat2-115B在多个评测中表现优异，提升了通用能力和训练效率。通过小模型验证和数据优化，TeleAI在多项赛事中获第一名，推动了大模型技术进步和应用。
🎯
关键要点
- 中国电信人工智能研究院成功完成国内首个全国产化万卡集群训练的万亿参数大模型。
- 开源了千亿参数大模型TeleChat2-115B，标志着国产大模型训练进入新阶段。
- TeleChat2-115B在多个评测中表现优异，提升了通用能力和训练效率。
- 通过小模型验证和数据优化，TeleAI在多项赛事中获第一名，推动了大模型技术进步和应用。
- TeleChat2-115B在OpenCampass测试榜单中排名第一，逻辑推理能力突出。
- TeleAI采用小模型进行Scaling，提升大参数模型训练效率。
- 在后训练阶段，TeleAI合成大量问答数据用于模型训练，提升答案质量。
- TeleAI在CCL2024大会中获得两项冠军，展示了其在中文语义理解方面的实力。
- TeleChat2-115B的开源推动了大模型技术的进步，促进技术创新与产业落地。
🏷️
标签
➡️
