科技部出手！科研人员的 AIGC 使用手册来了，学术界开始防范 AI 枪手
内容提要
科技部发布《负责任研究行为规范指引（2023）》，明确学术不端行为的红线，特别关注人工智能和大模型技术的学术造假问题。指引规定了合理使用生成式人工智能的边界，国内外知名期刊也对AI在论文写作中的应用进行规范。科研人员需要审查观点和数据，避免虚假和杜撰的结论。科研与AI的发展需要携手并进。
延伸解读
《指引》为AI使用划清边界
科技部发布的《指引》从研究实施、数据管理、成果署名、文献引用等方面明确了生成式人工智能的使用边界。例如，不得直接生成申报材料，使用AI生成内容需明确标注，且不得直接引用未经核实的AI生成参考文献。这些规定旨在防止不负责任地使用AI，保护科研可信度。
期刊界对AI作者资格的共识
国内外知名期刊已达成共识：人工智能不具有作者资格。国内多家期刊声明，若论文主要内容由AI生成，将以学术不端处理；国外顶级期刊如Nature、Cell等也要求使用AI的研究人员应在稿件中说明。这反映了学术界对AI生成内容的审慎态度。
AIGC检测的技术挑战
针对AI生成论文，传统文本相似度工具可能失效，因此需要专门检测工具。其原理包括构建分类器或使用水印算法，但面临技术难点：模型参数量越大越接近人类创作，越难区分；检测准确率还受文本长度限制。目前国内外仍在探索有效的检测方案。
合理使用AI助力科研创新
AI for Science能帮助科研人员从文本、数据处理中解放出来，专注于研究本身，提升效率。例如，AI可辅助构建预测模型、优化实验设计。但科研人员必须审查AI生成的观点和数据，避免虚假和杜撰的结论。AI与科研携手并进，才能创造更普适的工具与方法。
Q&A
科技部发布的《负责任研究行为规范指引（2023）》主要针对哪些问题？
该指引针对社会关注的人工智能、重大成果发布等热点问题，旗帜鲜明地划定了红线，特别关注人工智能和大模型技术的学术造假问题。
科研人员在使用生成式人工智能时，需要遵守哪些具体规范？
指引规定：申报材料不得使用生成式人工智能直接生成；应依规合理使用生成式人工智能处理文字、数据或学术图像，防范伪造、篡改数据等风险；使用生成式人工智能生成的内容，特别是涉及事实和观点等关键内容的，应明确标注并说明其生成过程，确保真实准确和尊重他人知识产权；不得直接使用未经核实的由生成式人工智能生成的参考文献。
国内外知名期刊对AI生成论文有哪些规定？
国内多家期刊如《暨南学报》《文献与数据学报》《中国科技期刊研究》等发表声明称，如果论文主要内容是利用AI工具生成，一旦发现，以学术不端行为处理。国外顶级期刊如Nature、Cell、The Lancet、JAMA等均发表声明称，人工智能不具有作者资格，使用人工智能的研究人员应在稿件中进行说明。
AIGC检测工具是如何识别AI生成内容的？
AIGC检测工具通过构建包含真实内容和AI生成内容的训练数据集，训练分类器来区分两者。具体而言，利用水印算法将语言模型词汇随机分为绿名单和红名单，提示模型选择绿名单上的词，绿名单词越多越可能是机器生成。检测技术还依托海量文本和数据样本，识别人类和AIGC工具在平均句子长度、词汇多样性和文本长度等方面的不同点。
在科研中合理使用AI有哪些好处？
合理使用AI可以提升科研效率，将科研人员从文本、数据的处理工作中解放出来，使其更专注于研究本身，加快科研进度。AI还能帮助快速构建预测模型、生成和优化实验方案，减少实验消耗。
过度依赖AIGC可能带来哪些风险？
过度依赖AIGC可能导致产生毫无价值的学术泡沫，产生不可靠的研究成果，使科学研究的可信度大打折扣。此外，如果研究人员将AIGC生成的文本当作自己的创作，可能涉及学术不端。
