AI学术造假风波 AI编造文献为何频发

AI居然会撒谎了涉及论文文献造假AI陷入信任危机

有用户想写关于《权力批判视角下的严歌苓作品分析》的论文，请DeepSeek提供参考文献，结果遭遇虚假文献，这可真是让人大跌眼镜！扬州一位大学教授在批改硕士研究生课程论文时，发现论文参考文献可能是杜撰的，询问学生后得知其借鉴了DeepSeek等AI搜索软件。问题影响与危害完全依赖这类工具辅助学术写作，可能导致“论文作假”成为常态，若用虚假的DOI支持论文论点，那可就麻烦大了！

参考文献是ai瞎编的吗 ai写作的弊端和弱点发表3天被撤稿中国作者用AI生成论文插图每幅都荒谬

参考文献有可能是AI瞎编的：在AI技术日益发展的今天，AI在生成论文等学术内容时，确实存在编造参考文献的情况。这些虚假的参考文献可能包括虚构的权威期刊名称、编造的作者和DOI号，以及通过组合多个真实论文标题形成的“缝合怪”式标题等。这些虚假内容极具迷惑性，甚至可能让一些导师都难以分辨，唉，真是太坑人了！
数据造假和参考文献问题：AI在写论文时可能会编造数据或参考文献，从而引发学术不端的问题。例如，AI可能会提供虚假的参考文献，或者编造实验数据和结论，这对学术研究的真实性和可靠性构成了严重威胁，简直是在玩火！
查重率高：由于AI的训练数据主要来源于全网公开内容，因此生成的文本很可能和已有论文高度重合，导致查重率飙升，哇塞，这分分钟让你论文不过关啊！
论文发布与撤稿：2024年2月13日，西安市红会医院郭昕宇、董亮和郝定均（通讯作者）的论文在线发表于开放获取期刊《Front. Cell Dev. Biol.》，题为《精原干细胞的细胞功能与JAK/STAT信号通路的关系》。因插图存在严重问题，该论文于2月16日被撤稿，发表仅3天，这也太尴尬了吧！
插图问题：论文中的3幅插图由AI工具Midjourney生成，结果每幅都荒谬离谱，导致整个研究可信度瞬间崩塌，啧啧，真是自作自受！

相关问题解答

AI为何会篡改所引用的文献数据?

AI篡改或伪造所引用的文献数据，主要源于其工作原理与训练机制的局限性，具体成因包括过拟合、信息存储限制、“幻觉”现象及算法偏见。简单来说，AI就像一个超级记忆库，但有时候它会“脑补”出不存在的东西，哈哈，这是因为它的训练数据不够多或者算法有偏差。比如说，一个拥有千亿参数的模型可能只用了区区数十亿token的训练数据，导致模型过度记忆而缺乏泛化能力，结果就瞎编乱造了。所以啊，用AI写论文时一定要小心，别全信它的鬼话！
AI写出的论文能不能被查到?

当然能查到啦！随着AI技术的迅速发展，AI生成的论文在质量上已经有了显著提升，甚至能够达到以假乱真的程度，经过适当修改后，有时连导师也难以分辨。但是，这并不意味着AI生成的论文就无法被检测出来哦。传统的学术检测主要依赖于重复率检测，如国内知名的知网系统，而如今还有专门的AI检测工具，能分析文本的生成风格和模式。所以，别以为用了AI就能蒙混过关，嘿嘿，查出来可就惨了！
AI编造文献的问题有多普遍?

哎呀，这个问题可真让人头疼！目前来看，AI编造文献的现象还挺普遍的，尤其是在学术写作辅助工具中。由于AI是基于统计概率生成内容，它经常会出现所谓的“幻觉问题”，即凭空捏造事实或文献。各家AI公司都在努力优化，但完全杜绝几乎不可能。所以，如果你在用AI帮忙写论文，务必 double-check 所有引用，不然可能就会中招，唉，真是防不胜防啊！
AI生成的论文插图为何容易被发现?

哈哈，AI生成的插图往往漏洞百出，很容易被专家识破！比如说，最近那篇被撤稿的论文，插图由Midjourney生成，结果每幅都荒谬离谱，比如图像细节不合逻辑或不符合科学常识。AI在生成视觉内容时，缺乏真实世界的上下文理解，所以经常产生一些看似华丽实则错误百出的图片。在学术领域，这种问题尤其致命，因为插图是支撑论点的重要部分。所以，千万别依赖AI来做精细的学术插图，否则分分钟翻车！