港大马毅：大模型长期没有理论就像盲人摸象；大佬齐聚谈AI下一步
内容提要
在2024国际基础科学大会“基础科学与人工智能论坛”上，AI专家讨论了人工智能的发展方向，包括大模型的抽象能力、主观价值和情感知识，商业应用的超级产品，模型泛化性和互动性的思考，智能体的能力边界，模型的幻觉问题和落地挑战。
延伸解读
理论缺失：大模型发展的隐忧
马毅教授指出，当前大模型发展缺乏理论支撑，如同盲人摸象。过去十几年学术突破有限，产业和工程的快速发展影响了学术节奏。没有理论，我们只能经验性地设计网络，代价大、周期长、结果难控。长期如此，将导致模型不可解释，甚至引发公众恐慌。因此，回归理论基石，探寻智能本质，是下一步的关键。
商业落地：超级产品缺失与幻觉挑战
何晓冬认为，大模型发展进入平台期，商业应用落后于模型规模增长，缺乏超级产品体现投入价值。同时，幻觉问题制约产业应用，基础模型错误率高，难以叠加商业应用。在幻觉限制下，需扩大模型泛化性和互动性，多模态是必然选择。严肃产业应用必须解决幻觉，否则难以构建AI产业大厦。
智能体：能力边界与混合框架
芮勇从工业界视角强调，大模型落地需发展智能体，并明确其能力边界。当前大模型不知自己知道什么、不知道什么，导致幻觉。第一步是让智能体知道能力边界。此外，落地需混合框架，云上公有大模型需私有化，结合数据与知识驱动，小模型和面向个人的模型也很重要，形成端边云结合的混合大模型。
Q&A
大模型的发展面临哪些主要挑战？
大模型的发展面临缺乏抽象能力、主观价值和情感知识的挑战，同时商业应用落后于模型规模增长，缺乏能够体现投入价值的超级产品。
马毅教授对人工智能的未来有什么看法？
马毅教授认为人工智能技术发展需要理论支持，当前缺乏突破，强调智能的本质在于自我改进和知识的增加。
如何解决大模型的幻觉问题？
解决大模型的幻觉问题需要扩大模型的泛化性和互动性，多模态是一个必然的选择，同时要提高基础大模型的准确性。
大模型的能力边界为何重要？
大模型的能力边界重要，因为它决定了模型能否正确理解和处理信息，避免出现幻觉和错误信息。
未来人工智能研究的方向是什么？
未来人工智能研究需将人类语言中的人性和信息能量归类到模型中，推动模型的范式变化。
商业应用如何跟上大模型的发展？
商业应用需开发超级产品，能够真正体现投入的价值，并解决基础大模型的幻觉问题，以支持大规模应用。
