极道
·
基于语境上下文学习推理是AI下一步大事情
💡
原文中文，约1000字，阅读约需3分钟。
📝
内容提要
本文讨论了超级人工智能（ASI）和类人人工智能（AHI）的看法，认为应该构建一个从最初开始学习和适应周围世界的系统，而不是使用大模型来压缩和检索文本数据。掌握上下文是关键，可以通过上下文语境来设置保护装置，防止超级智能体改变人类系统。主动学习基于语言的主动式RL学习系统是重要方向。使用语言进行推理是下一件大事。
🎯
关键要点
- 超级人工智能（ASI）和类人人工智能（AHI）的目标是让AI从基础开始学习和适应世界。
- 不应使用大模型压缩和检索文本数据，而应构建从头开始的学习系统。
- 掌握上下文是关键，可以通过上下文设置保护装置，防止超级智能体改变人类系统。
- 主动学习基于语言的主动式RL学习系统是重要方向。
- 使用语言进行推理是未来发展的重要趋势。
➡️
