安全的本质:大模型能否被严谨解释为符号逻辑?|知乎先行者沙龙分享
原文中文,约3200字,阅读约需8分钟。发表于: 。各位知乎的朋友们大家好,我是张拳石,我来自上海交通大学。今天的主题是:安全的本质,大模型能否被严谨解释为符号逻辑?我是2007、2008年大三的时候第一次接触人工智能研究,当时还没有深度学习,人工智能领域还是以及基于手工设计的特征的图模型为主导的。2012年的深度学习算是一次变革,到了2023年的大模型,我认为很可能是另一个变革。但是,跟大部分人的思考并不相同,我认为新的变革并不会沿袭旧的深...
本文讨论了大模型能否被严谨解释为符号逻辑的问题,传统的深度学习发展路径已经走到了终点,需要重新定义大模型的泛化性和鲁棒性。作者呼吁对神经网络符号化解释进行数学证明,并强调对真理和严谨性的追问的重要性。