本文介绍了支持高达32,768个令牌的长上下文LLMs，通过预训练和调整过程，在语言模型和合成上下文探索任务中取得了改进。模型在长上下文任务中超过了gpt-3.5-turbo-16k。对模型的各个组成部分进行了深入分析。
Polly 是一个通过电影、美剧和书籍学习英语的网站，专注于优化跟读和复述功能。由于版权原因，项目不开放且不商业化。目前正在开发 Polly V2，V1 已关闭入口，最新消息将在博客更新。
Polly 是一个通过电影、美剧和书籍学习英语的网站，优化了跟读和复述功能。因版权原因不打算开放项目或商业化，目前正在开发 Polly V2，V1 的入口已关闭，最新消息会在博客更新。
完成下面两步后，将自动完成登录并继续当前操作。
