硕鼠的博客站
·
90 分钟专访揭秘：Ilya 为何抛弃 OpenAI 路线，创办 SSI 公司半年估值从 50 亿飙到 320 亿？｜Safe Superintelligence、Superintelligence
内容提要
伊利尔·苏斯克维在访谈中讨论了AI的未来，强调科学研究与工程研发的转化。他指出当前大模型如“小镇做题家”在复杂任务中表现不佳，需重新设计架构以增强情感判断能力。他创立的公司专注于“安全超级智能”，并在融资中取得成功，未来AI的落地仍需关注。
关键要点
-
伊利尔·苏斯克维强调科学研究与工程研发的转化。
-
当前大模型在复杂任务中表现不佳，需要重新设计架构以增强情感判断能力。
-
科学研究与工程研发是两个不同的概念，科学研究关注发现方向，工程研发则是应用资金和技术进行测试。
-
大语言模型被比作“小镇做题家”，在复杂环境中表现不佳。
-
人类学习与大模型学习存在巨大差异，模型需要大量样本，而人类只需少量样本即可学习。
-
伊利尔提倡开发具备情感判断能力的新架构，而非继续依赖现有的Transformer架构。
-
伊利尔创立的公司专注于“安全超级智能”，并在融资中取得成功。
-
未来AI的落地仍需关注，科学家们在当前经济环境中积极寻求资金支持。
延伸解读
科学研究与工程研发的区别
伊利尔·苏斯克维在访谈中强调科学研究与工程研发的转化，指出两者的本质差异。科学研究关注发现新方向，而工程研发则是将这些方向应用于实际，进行测试和优化。这一观点提醒我们，AI的发展不仅需要技术的积累，更需要科学探索的支持。
大模型的局限性
伊利尔将当前的大语言模型比作“小镇做题家”，指出其在复杂任务中的表现不佳。这一比喻揭示了大模型在实际应用中的局限性，尤其是在面对简单问题时的无能为力。读者应关注AI模型的实际应用效果，而不仅仅是其在训练中的高分表现。
情感判断能力的重要性
伊利尔提到，现有大模型缺乏情感判断能力，导致其在复杂决策中表现不佳。他主张开发具备情感判断的新架构，这一观点提示我们，未来AI的发展需要更加注重人类情感与判断的结合，以提升模型的实用性和安全性。
延伸问答
伊利尔·苏斯克维为何离开OpenAI？
伊利尔·苏斯克维在参与对山姆·奥特曼的逼宫后离开OpenAI，随后专注于自己的研究和新公司SSI的创立。
伊利尔在访谈中提到的大模型问题是什么？
他指出当前的大模型在复杂任务中表现不佳，像是“小镇做题家”，需要重新设计架构以增强情感判断能力。
伊利尔提倡的AI新架构有什么特点？
他提倡开发具备情感判断能力的新架构，而不是继续依赖现有的Transformer架构。
伊利尔创立的SSI公司专注于什么？
SSI公司专注于“安全超级智能”，致力于开发安全的AI技术。
伊利尔认为科学研究与工程研发之间有什么区别？
科学研究关注发现方向，而工程研发则是应用资金和技术进行测试，是两个不同的概念。
伊利尔对未来AI的落地有什么看法？
他认为未来AI的落地仍需关注，科学家们在当前经济环境中积极寻求资金支持。
