Qwen1.5-110B是首个超过1000亿参数的开源模型，其性能与Meta-Llama3-70B相当，尤其在Chat评估中表现优异。该模型采用高效的Transformer架构，支持多种语言，具有32K tokens的上下文长度。与72B模型相比，110B在多个基准测试中显著提升，显示出模型规模扩展的潜力。