量子位
·
港大马毅：大模型长期没有理论就像盲人摸象；大佬齐聚谈AI下一步
💡
原文中文，约5500字，阅读约需13分钟。
📝
内容提要
在2024国际基础科学大会“基础科学与人工智能论坛”上，AI专家讨论了人工智能的发展方向，包括大模型的抽象能力、主观价值和情感知识，商业应用的超级产品，模型泛化性和互动性的思考，智能体的能力边界，模型的幻觉问题和落地挑战。
🎯
关键要点
- 大模型发展需突破缺乏抽象能力、主观价值和情感知识的搜索范式。
- 商业应用落后于模型规模增长，缺乏能够体现投入价值的超级产品。
- 在幻觉限制下，需思考如何扩大模型的泛化性和互动性，多模态是一个选择。
- 智能体需明确自身能力边界，这是一个重要问题。
- 人工智能技术发展需要理论支持，当前缺乏突破。
- 马毅教授强调智能的本质在于自我改进和知识的增加。
- 大模型的进化路径应从自我学习到间接知识、价值观和常识。
- 未来研究需将人类语言中的人性和信息能量归类到模型中。
- 大模型发展需有范式变化，幻觉问题在创造性任务中并非障碍。
- 大模型面临平台期，商业应用需跟上模型规模的增长。
- 缺乏超级应用和产品，需解决基础大模型的幻觉问题。
- 大模型需认知自身能力边界，避免出现幻觉和错误信息。
❓
延伸问答
大模型的发展面临哪些主要挑战？
大模型的发展面临缺乏抽象能力、主观价值和情感知识的挑战，同时商业应用落后于模型规模增长，缺乏能够体现投入价值的超级产品。
马毅教授对人工智能的未来有什么看法？
马毅教授认为人工智能技术发展需要理论支持，当前缺乏突破，强调智能的本质在于自我改进和知识的增加。
如何解决大模型的幻觉问题？
解决大模型的幻觉问题需要扩大模型的泛化性和互动性，多模态是一个必然的选择，同时要提高基础大模型的准确性。
大模型的能力边界为何重要？
大模型的能力边界重要，因为它决定了模型能否正确理解和处理信息，避免出现幻觉和错误信息。
未来人工智能研究的方向是什么？
未来人工智能研究需将人类语言中的人性和信息能量归类到模型中，推动模型的范式变化。
商业应用如何跟上大模型的发展？
商业应用需开发超级产品，能够真正体现投入的价值，并解决基础大模型的幻觉问题，以支持大规模应用。
➡️
