量子位
·
港大马毅：大模型长期没有理论就像盲人摸象；大佬齐聚谈AI下一步
💡
原文中文，约5500字，阅读约需13分钟。
📝
内容提要
在2024国际基础科学大会“基础科学与人工智能论坛”上，AI专家讨论了人工智能的发展方向，包括大模型的抽象能力、主观价值和情感知识，商业应用的超级产品，模型泛化性和互动性的思考，智能体的能力边界，模型的幻觉问题和落地挑战。
🎯
关键要点
-
大模型发展需突破缺乏抽象能力、主观价值和情感知识的搜索范式。
-
商业应用落后于模型规模增长，缺乏能够体现投入价值的超级产品。
-
在幻觉限制下，需思考如何扩大模型的泛化性和互动性，多模态是一个选择。
-
智能体需明确自身能力边界，这是一个重要问题。
-
人工智能技术发展需要理论支持，当前缺乏突破。
-
马毅教授强调智能的本质在于自我改进和知识的增加。
-
大模型的进化路径应从自我学习到间接知识、价值观和常识。
-
未来研究需将人类语言中的人性和信息能量归类到模型中。
-
大模型发展需有范式变化，幻觉问题在创造性任务中并非障碍。
-
大模型面临平台期，商业应用需跟上模型规模的增长。
-
缺乏超级应用和产品，需解决基础大模型的幻觉问题。
-
大模型需认知自身能力边界，避免出现幻觉和错误信息。
➡️
