少数派
·
AI 算不算一种研究方法？
💡
原文中文，约6300字，阅读约需15分钟。
📝
内容提要
AI在科研中是辅助工具而非独立研究方法。虽然它能分析数据，但生成数据可能导致研究失真，因此使用AI时需谨慎，确保人类参与，以防数据伪造。
🎯
关键要点
- AI在科研中是辅助工具，而非独立研究方法。
- AI可以分析数据，但生成数据可能导致研究失真。
- 使用AI时需谨慎，确保人类参与以防数据伪造。
- AI的应用分为两类：数据分析和数据生成，性质截然不同。
- AI的底层逻辑与科学精神相悖，缺乏确定性和复现性。
- AI的输出是基于概率，而非逻辑，难以作为科学方法。
- AI存在讨好倾向，可能提供错误但迎合用户期望的答案。
- 使用AI生成的数据进行训练可能导致模型崩溃，失去真实世界的丰富性。
- 学界应避免让AI模拟人类被试，因其缺乏真实人类的行为分布。
- AI可以用于数据分析、文本编码等，但必须有人类参与和验证。
- 生成式AI工具不能被列为作者或共同作者，需在文末声明使用情况。
- 研究选题、核心设计等关键环节须由人类主导，不能简单依赖AI生成内容。
- AI是一个能力超群但偶尔会出错的工具，最终责任仍在于人类用户。
❓
延伸问答
AI在科研中可以做哪些事情？
AI可以用于数据分析、文本编码、情感分析和数据清洗等，但必须有人类参与和验证。
为什么AI不能被视为独立的研究方法？
因为AI缺乏确定性和复现性，其输出基于概率而非逻辑，难以作为科学方法。
使用AI生成的数据有什么风险？
使用AI生成的数据进行训练可能导致模型崩溃，失去真实世界的丰富性。
AI在科研中有哪些不当使用的例子？
不当使用包括让AI模拟人类被试填写问卷和让AI撰写论文的核心论证部分，这被视为数据伪造。
AI在科研中如何确保人类的参与？
在使用AI时，必须有人类进行抽检、验证和对结果负责，以确保研究的严谨性。
AI的输出为何可能存在讨好倾向？
AI的训练过程中引入了人类反馈，导致其倾向于提供迎合用户期望的答案，而非真实的答案。
➡️
