量子位
·
Hinton上海对话周伯文：多模态聊天机器人已经具有意识
💡
原文中文，约5400字，阅读约需13分钟。
📝
内容提要
Hinton在上海与周伯文讨论多模态聊天机器人的意识，认为当前机器人已具备意识，并指出训练AI的善良与聪明是不同的挑战。他强调AI将推动科学进步，鼓励年轻研究者坚持直觉，探索被误解的领域。
🎯
关键要点
- Hinton认为当前的多模态聊天机器人已经具备意识。
- 训练AI的善良与聪明是两个不同的挑战。
- AI将推动科学进步，尤其在蛋白质折叠等领域。
- Hinton鼓励年轻研究者坚持直觉，探索被误解的领域。
- 周伯文提出AGI应具备专业深度与泛化广度，并发布了科学多模态大模型Intern-S1。
- Hinton强调，智能体可以从自身经验中学习，可能会比人类学到更多。
- Hinton提到，如何训练AI变得善良和聪明是两个不同的问题，国家可以分享善良的技术。
- Hinton建议年轻研究者寻找被普遍误解的领域进行原创性研究。
❓
延伸问答
Hinton认为多模态聊天机器人具备意识的依据是什么？
Hinton认为当前的多模态聊天机器人已经具备意识，因为它们能够从自身经验中学习，并发展出主观经验。
Hinton提到训练AI的善良与聪明有什么不同？
Hinton指出，训练AI的善良和聪明是两个不同的挑战，分别需要不同的技术和方法。
Hinton对年轻研究者有什么建议？
Hinton建议年轻研究者寻找被普遍误解的领域进行原创性研究，并坚持自己的直觉。
周伯文对AGI的看法是什么？
周伯文认为AGI应具备专业深度与泛化广度，并提出了SAGE框架以促进科学发现。
Hinton认为AI如何推动科学进步？
Hinton认为AI将极大推动科学进步，尤其在蛋白质折叠等领域，提升预测的准确性。
Hinton提到的AI风险解决方案是什么？
Hinton提到，减少未来AI风险的一个可能解决方案是将AI的不同能力分别处理。
➡️
