西班牙公司Multiverse Computing发布4380亿参数模型Quasar 438B,专为编码和企业代理设计,输出速度约183 tokens/秒,上下文窗口达100万tokens,支持英语和西班牙语。其压缩技术可减少模型内存和计算需求,但未披露细节。Quasar在基准测试中表现优于部分欧洲模型,但落后于顶尖系统,目前仅通过API提供。
机器之心数据服务现已上线,提供高效稳定的数据获取,简化数据爬取流程。
研究表明,Transformer-XL模型在预测未来话语时性能逐渐降低。为此,提出动态语言建模,通过更新知识来改善性能。新模型Multiverse生成多个未来路径,并通过3D模拟器进行测试。研究发现,参数共享能提高模型性能,多路径结构在机器翻译中表现优异。通过优化参数剪枝,模型大小可显著减少而不影响性能。
完成下面两步后,将自动完成登录并继续当前操作。