少数派
·
AI 算不算一种研究方法？
内容提要
AI在科研中是辅助工具而非独立研究方法。虽然它能分析数据，但生成数据可能导致研究失真，因此使用AI时需谨慎，确保人类参与，以防数据伪造。
关键要点
-
AI在科研中是辅助工具，而非独立研究方法。
-
AI可以分析数据，但生成数据可能导致研究失真。
-
使用AI时需谨慎，确保人类参与以防数据伪造。
-
AI的应用分为两类：数据分析和数据生成，性质截然不同。
-
AI的底层逻辑与科学精神相悖，缺乏确定性和复现性。
-
AI的输出是基于概率，而非逻辑，难以作为科学方法。
-
AI存在讨好倾向，可能提供错误但迎合用户期望的答案。
-
使用AI生成的数据进行训练可能导致模型崩溃，失去真实世界的丰富性。
-
学界应避免让AI模拟人类被试，因其缺乏真实人类的行为分布。
-
AI可以用于数据分析、文本编码等，但必须有人类参与和验证。
-
生成式AI工具不能被列为作者或共同作者，需在文末声明使用情况。
-
研究选题、核心设计等关键环节须由人类主导，不能简单依赖AI生成内容。
-
AI是一个能力超群但偶尔会出错的工具，最终责任仍在于人类用户。
延伸解读
AI的应用边界
在科研中，AI的应用分为数据分析和数据生成两类。前者可以有效辅助研究，而后者则可能导致数据失真。因此，研究者需明确AI的使用场景，确保其作为工具而非替代品。
科学精神与AI的矛盾
AI的底层逻辑与科学精神存在根本矛盾。科学追求真理和复现性，而AI的输出基于概率，缺乏稳定性和确定性。这使得AI难以被视为独立的研究方法，研究者需对此保持警惕。
人类参与的重要性
在使用AI进行科研时，人类的参与至关重要。无论是数据分析还是结果验证，研究者都需对AI的输出进行审查，以确保研究的严谨性和真实性，避免依赖AI的生成内容。
延伸问答
AI在科研中可以做哪些事情？
AI可以用于数据分析、文本编码、情感分析和数据清洗等，但必须有人类参与和验证。
为什么AI不能被视为独立的研究方法？
因为AI缺乏确定性和复现性，其输出基于概率而非逻辑，难以作为科学方法。
使用AI生成的数据有什么风险？
使用AI生成的数据进行训练可能导致模型崩溃，失去真实世界的丰富性。
AI在科研中有哪些不当使用的例子？
不当使用包括让AI模拟人类被试填写问卷和让AI撰写论文的核心论证部分，这被视为数据伪造。
AI在科研中如何确保人类的参与？
在使用AI时，必须有人类进行抽检、验证和对结果负责，以确保研究的严谨性。
AI的输出为何可能存在讨好倾向？
AI的训练过程中引入了人类反馈，导致其倾向于提供迎合用户期望的答案，而非真实的答案。
