Ilya Sutskever在NeurIPS 2024大会上指出,AI领域的数据接近枯竭,未来将迫使行业改变模型训练方式。他预测下一代AI将具备自主性和推理能力,表现出不可预测性,类似于高级国际象棋AI。他强调,现有的预训练方法将结束,AI需在有限数据下进行创新。
AI发展面临数据枯竭危机,预计到2028年高质量文本数据将耗尽。版权问题日益严重,各大平台限制数据使用。应对策略包括提高数据质量、使用合成数据和优化训练方法。未来需寻找新数据源或开发不依赖数据的新架构,以维持AI进步。
完成下面两步后,将自动完成登录并继续当前操作。