又可以 GPU 炼丹了?全球首个通过分布式算力进行训练的 320 亿参数大模型 INTELLECT-2 发布

又可以 GPU 炼丹了?全球首个通过分布式算力进行训练的 320 亿参数大模型 INTELLECT-2 发布

💡 原文中文,约300字,阅读约需1分钟。
📝

内容提要

INTELLECT-2 是首个通过分布式算力训练的 320 亿参数大模型,采用 PRIME-RL 框架以确保训练的稳定性和效率,已开源模型、代码和数据。用户可通过提供算力获得收益,H100 每小时 20 元,RTX4090 每小时 2.3 元。

🎯

关键要点

  • INTELLECT-2 是首个通过分布式算力训练的 320 亿参数大模型。
  • 采用 PRIME-RL 框架以确保训练的稳定性和效率。
  • 已开源模型、代码和数据。
  • 用户可通过提供算力获得收益。
  • 算力售价:H100 每小时 20 元,RTX4090 每小时 2.3 元。
  • 提供基准测试供感兴趣的用户尝试。
➡️

继续阅读