对话面壁智能首席科学家刘知远：大模型将有新的「摩尔定律」，AGI 时代的智能终端未必是手机
内容提要
面壁智能首席科学家刘知远表示，大模型时代将有新的“摩尔定律”，未来高效大模型的关键是知识密度。面壁智能的端侧模型MiniCPM在2024年发布，能超过Llama2-13b。刘知远认为，大模型时代的智能终端可能不是手机，而是更自然的交互方式。面壁智能与华为合作，未来会与更多厂商合作，目标是实现AGI时代的智能终端。刘知远认为，超级应用的定义尚未确定，但重要的是掌握最前沿的技术和有足够的敏感性。他预测在未来两年内，80%以上的需求可以在端侧完成。他认为智能体的发展方向是互联网智能体，即由互联网代理组成的智联网。他认为AGI并不遥远，技术路线已经通畅，只需解决数据、架构和成长方式等问题。
延伸解读
知识密度：端侧模型竞争的关键指标
刘知远提出知识密度=模型能力/推理算力消耗，并预测其每8个月翻倍。这一指标将模型能力与算力消耗直接挂钩，为端侧模型设定了更严苛的制程要求。面壁智能的MiniCPM 2.4B模型能超越Llama2-13b，正是高知识密度的体现。对行业而言，这意味着未来竞争焦点可能从参数规模转向制程效率，尤其是在算力、内存和能耗受限的端侧场景。
端侧与云端协同：未来智能终端的路径
面壁智能与华为云合作，成为其首个端侧大模型合作方，并计划未来2-3年与更多厂商合作。刘知远认为，AGI时代的智能终端未必是手机，而是更自然的交互方式，甚至可能无需App。他预测未来两年内，80%以上的需求可在端侧完成，这依赖于端侧芯片知识密度的提升。这种端云协同模式，既发挥云端算力优势，又利用端侧实时性和隐私性，可能成为智能终端的主流架构。
AGI实现路径：技术路线已通畅，数据与架构待解
刘知远认为AGI并不遥远，技术路线已经通畅，只需解决数据、架构和成长方式三个问题。他以常识学习为例，指出ChatGPT出现后，模型通过数据驱动即可获得常识，而此前这被视为难点。他预测OpenAI六年后成为超级智能公司的目标可行。这一乐观判断基于大模型科学化的进展，如可预测扩展和模型风洞技术，但具体实现仍取决于数据质量、架构创新和持续学习机制。
Q&A
刘知远对大模型时代的摩尔定律有什么看法？
刘知远认为大模型时代将会有新的摩尔定律，未来高效大模型的关键是知识密度。
面壁智能的MiniCPM模型有什么特点？
MiniCPM将在2024年发布，预计能超过Llama2-13b，并且具有更低的能耗和更快的推理速度。
刘知远认为未来的智能终端会是什么样的？
刘知远认为未来的智能终端可能不是手机，而是更自然的交互方式，如自然语言交互或脑机接口。
面壁智能与华为的合作有什么计划？
面壁智能计划在未来与更多厂商合作，目标是实现AGI时代的智能终端。
刘知远对AGI的实现持什么态度？
刘知远对AGI的实现持乐观态度，认为技术路线已经通畅，只需解决数据、架构和成长方式等问题。
知识密度的概念是什么？
知识密度是指模型能力与推理算力消耗的比值，强调在完成任务时所需的神经元数量越少，说明智商越高。
