内容提要
OpenAI发布了开源模型GPT-OSS,包含20B和120B两种参数,采用混合专家模型,支持128K的上下文。这一举措加剧了中美AI竞争,展示了不同的开源策略。中国的开源模型如千问和DeepSeek直接开放最新版本,与美国的“开小闭大”策略形成对比。两国在AI领域的博弈将持续,未来发展值得关注。
关键要点
-
OpenAI发布了开源模型GPT-OSS,包含20B和120B两种参数,采用混合专家模型,支持128K的上下文。
-
中美在AI领域的竞争加剧,展示了不同的开源策略。
-
中国的开源模型如千问和DeepSeek直接开放最新版本,与美国的“开小闭大”策略形成对比。
-
GPT-OSS使用MXFP4量化技术,训练时采用4位指针,节省空间且速度快。
-
GPT-OSS是从头开始原生训练的模型,使用数万亿TOKEN的纯文本进行训练。
-
模型的知识截止到2024年6月,具备强大的搜索和工具调用能力。
-
20B模型的效能相当于GPT-3 mini,120B模型相当于GPT-4 mini。
-
中国的开源模型在本地处理敏感数据方面具有优势,但需要申请合规牌照。
-
OpenAI开源的原因是为了满足对本地模型的需求,避免数据泄露。
-
中美之间的开源策略存在四种模式,包括混沌模式、开旧闭新模式、开小闭大模式和中国的全开模式。
-
中国的开源策略是“应开全开”,直接开放最新的、最大的模型。
-
中美博弈中,中国通过“田忌赛马”的策略在某些领域占优。
-
美国的策略旨在保障巨头地位,而中国的策略可能培养出颠覆市场的竞争者。
-
AI领域的未来可能受到中国民族性烙印的影响,研发人员中有一半以上是中国人。
延伸解读
中美AI开源策略的对比
OpenAI与中国的开源策略存在显著差异。OpenAI采取的是“开小闭大”的策略,推出小型开源模型以满足本地需求,而中国则是“应开全开”,直接开放最新、最大的模型。这种策略的不同反映了两国在AI领域的竞争态势,可能影响未来市场格局。
GPT-OSS的技术优势
GPT-OSS采用了MXFP4量化技术,使用4位指针进行训练,显著提高了模型的速度和效率。这一创新使得模型在本地运行时能够节省空间并提升性能,尤其适合处理敏感数据的需求。用户在选择模型时应关注其技术特点,以便更好地满足实际应用需求。
合规与市场准入的挑战
中国的开源模型在市场准入方面面临合规挑战,任何提供服务的单位都需申请牌照。这一过程可能导致新模型的推广速度滞后于国外,影响市场竞争力。因此,企业在选择开源模型时需考虑合规成本和时间,以确保顺利上线。
延伸问答
GPT-OSS模型的参数有哪些?
GPT-OSS模型包含20B和120B两种参数。
OpenAI开源GPT-OSS的原因是什么?
OpenAI开源GPT-OSS是为了满足对本地模型的需求,避免数据泄露。
中美AI开源策略有什么不同?
中国的开源策略是“应开全开”,直接开放最新的、最大的模型,而美国则采用“开小闭大”的策略。
GPT-OSS使用了什么技术来提高模型性能?
GPT-OSS使用了MXFP4量化技术,采用4位指针进行训练,节省空间且速度快。
中国的开源模型在处理敏感数据方面有什么优势?
中国的开源模型在本地处理敏感数据方面具有优势,但需要申请合规牌照。
GPT-OSS的知识截止到什么时候?
GPT-OSS的知识截止到2024年6月。