本文介绍了处理较长序列时现代大型语言模型(LLMs)的上下文长度外推方法,通过测试发现线性标度是最佳方法,并且使用更长的标度在评估时可以获得进一步的收益。同时,发布了三个新的13B参数长上下文模型和相应的代码。
正在访问的资源需要验证您是否真人。
或在微信中搜索公众号“小红花技术领袖”并关注
第二步:在公众号对话中发送验证码: