开栏语：
AI技术正以前所未有的速度重塑世界，也在现实中投射出重重乱象。几天前，“slop”（AI批量产出的劣质内容）被评为年度热词。过去这一年，我们见证了AI“一键脱衣”打开潘多拉，捏个“假偶像”直播捞金；赛博算命、智商税学习机屡屡上新，学术圈和诈骗团伙也都在狂刷AI副本……上游新闻特别推出“年度AI乱象调查”专题，盘点六大AI“翻车”现场，带你看透乱象背后的深层逻辑和监管难点，探讨AI乱象综合整治之道。
技术无善恶，道德有底线。这场AI安全保卫战，没有局外人和旁观者。
近年来，随着人工智能技术的不断发展，AI给人们的生活带来越来越多的便利。在网络上，人们随处可见AI生成的图片、文字乃至视频，在高校，学生利用AI工具完成作业、撰写论文的情况也越发普遍。眼下，不少高校为了防止AI代写毕业论文，在原有查重检测的基础上，增加了AIGC检测（人工智能生成内容检测）的要求，国内多所高校都为师生AI使用制定了规范。于是，部分学生购买AI工具，试图“用魔法打败魔法”，却发现“虽然AI率下来了，读起来却像白开水，被导师批评逻辑不通，退回重改。”
学术圈的AI“斗法”愈演愈烈，AI时代的学术研究路在何方？
第三方机构：近六成高校师生频繁使用生成式AI
以ChatGPT为代表的生成式人工智能技术(AIGC)横空出世，似乎为人们写论文提供了新帮手。从提供选题到文稿润色、从统计分析到图表制作……其功能之强大，几乎覆盖了学术论文写作过程的方方面面。
据大皖新闻此前报道，小程是一名汉语言文学专业的学生，在平时的学习中，他需要交不少的文字作业。以前他都会在阅读完作品后，再去网上查阅一些关于作品的评论，通过自己的思考和他人的评论结合去创作作文，“现在我发现通过AI生成文章更加便利，只要给出清晰的描述，AI便能根据你的要求生成文字，然后我再选用其中适合自己的部分，能节约不少时间。”
与小程有着同样想法的人不在少数。据第三方机构“麦可思”对超3000名高校师生的问卷结果显示，近六成高校师生每天或者每周多次使用生成式AI。而大学生在使用生成式AI时，有近三成主要用于写论文或作业。
麦可思数据报告。北青网
据央视新闻报道，浙江大学教育学院黄亚婷团队从2024年初开始，分3次对国内大学生使用AI工具的情况进行了调研，调研发现有部分学生表示“习惯于借助AI完成任务”，对AI产生了依赖。
2023年《自然》杂志对全球博士后的一项调查发现，约有三分之一的受访者使用人工智能聊天机器人来优化文本、生成或编辑代码、整理文献。
AI真的能生成一篇完整的“优质”论文吗？科技日报记者按照教程开始了尝试：“请提出与民族志纪录片有关的论文选题。”几乎无需等待，几个看起来很“靠谱”的选题就出现在对话框里。
“请就某一选题生成写作大纲。”几秒后，7个像模像样的章节全部生成完毕。
“请就提纲中某项内容，详细描述2000字。”重复几次操作后，一篇几万字的“论文”很快就完成了。
但浏览生成的“论文”可以发现，其生成的段落中，存在大部分重复且言之无物的内容。除了说“车轱辘”话，某985高校人工智能专业硕士研究生温睿还发现了此类论文的行文特点：“一般是先写一句话，然后进行分条论述。当老师看到这样套路化的内容就会猜测，这类文章很大程度上是人工智能写的。”
不少期刊编辑、审稿人也发现了同样的问题。某人文社科期刊审稿人徐彬向透露，用AI写论文的关键在于提示词。如果提示词选用的不恰当，就极有可能得到一篇套路化的文章，“这些文章的共同特点就是非常水。虽然它生成的语言连贯性不错，但是缺乏深度，创新性也不强。”对此，徐彬略显无奈，“综述类文章是使用AI的重灾区，但目前期刊还缺乏相关的评价标准和处理机制。”
学者担忧：知识界的批判性思维或将集体退化
“用AIGC（人工智能生成内容）技术辅助学位论文写作，可能会导致学生产生一种‘人工智能依赖’，会削弱学习自主性，并在不同程度上影响人才评价的公正性。”广西师范大学法学院副教授李志锴接受中青报采访时认为，甚至可能会有涉嫌抄袭、剽窃等风险。同时，大部分学生很难判断AI生成的内容是否来源于受知识产权保护的材料或是否掺杂虚假信息，这使得学生在使用AI辅助甚至代写论文时，稍不注意便会将虚假的信息写入学位论文中。
一位网友毕业论文的AI检测报告。北青网
李志锴介绍，学生若在论文中引用了AI生成的侵犯他人知识产权的文本，那么学生本人也同样将面临侵权的民事风险，甚至因此可能被学校认定为论文作假从而影响到学位获取。
研究发现，在训练数据的影响下，AIGC所生成的输出内容容易带有反映文化和政治偏见的刻板回答，回归到学位论文写作过程中，李志锴认为，AIGC可能将一些带有偏见的内容作为回答提供给学生并影响学生的情感认知、态度和行为等。
中文核心期刊《社会科学辑刊》李学成透露，从2024年底，他便发现投稿论文中有使用AI创作的苗头。此后，这类情况越来越多。其中的投稿者，不仅有学生，还包括有职称的高校教师。
在他看来，随着AI创作的论文比例越来越高，这不仅增加了期刊编辑部的检测工作量，更关键的是，文章将缺乏学术创新，“没有灵魂”，还可能让写作者变得越来越慵懒，不去读原著原文，尤其会阻碍青年人才独立思考和写作能力的培养。
更让李学成担忧的是，与核心期刊面临的状况相比，普通期刊才是AI创作的“重灾区”。李学成向一些普刊编辑部了解到，由于接收了大量硕士生、博士生的投稿，普刊中AI创作的论文占比已经“很高了”。
斯坦福大学一项研究显示，超过半数的研究生承认用AI撰写“非核心”论文章节。有学者担忧：当学生用AI写作业、审稿人用AI生成报告，知识界的批判性思维或将集体退化。甚至有人认为，证明自己是人类而非AI，或将成为一门新的大学生“必修课”。
某985高校一位从事AI方向研究的博士生坦言，课题组的同学在研究和写作中，使用AI的频率高达100%。“从选题思路、完成初稿到后期语言润色，我们都在使用AI，可以说已渗入论文生成的每个环节。”
不过，也有大学生在使用过程中遭遇“AI幻觉”。“AI会编出不存在的学者、论文，如果不是我特意去搜索，根本不会发现，这里面隐藏这么多坑。”在校大学生伊一（化名）就曾多次遭遇“AI幻觉”陷阱。近期，一项面向全国各地大学生的问卷调查显示，97.%受访大学遇到过AI提供错误或虚假信息的情况。
AIGC检测：带来误伤但已比较成熟
眼下，不少高校为了防止AI代写毕业论文，在原有查重检测的基础上，增加了AIGC检测（人工智能生成内容检测）的要求。于是，部分学生购买AI工具，试图用魔法打败魔法，却发现“虽然AI率下来了，读起来却像白开水，被导师批评逻辑不通，退回重改。”也有学生“吐槽”说，他的一篇论文经导师指点修改后，AI率不减反增，从10%飙升到80%。
要知道，AIGC检测也挺费钱。以知网为例，AIGC检测单价为2元/千字符，维普的检测价格按篇计算，每篇20到38元不等。受访学生直言，一篇文章往往在多个平台检测比对数据才能放心，为此花上几百元并不出奇。
不仅学生为此苦恼，大学教授也对AI审稿表达不满。日前，资深环境科学家、韩国忠南大学教授洪成进在《泰晤士高等教育》撰文吐槽，其团队论文疑因AI工具生成的评审意见被拒稿。
那么，AIGC检测结果权威吗？有网友将朱自清的《荷塘月色》、刘慈欣的《流浪地球》上传到检测平台，意外发现这些文章也被“盖章”为AI生成，疑似度分别高达62.88%和52.88%。那么，这是否意味着AIGC检测翻车了？
“大模型的运作思路和人脑类似，就是将知识存储起来，再根据已有知识做出推测和判断。”上海财经大学计算机与人工智能学院副教授崔万云直言，目前大模型在一些答题场景的准确率和反应时间方面已领先人类，但模型无法和真实世界完全对齐，要确保大模型答案永不出错并不现实，“合理的‘出错’也是大模型能力的一部分。”
华东师范大学计算机科学与技术学院青年研究员周杰分析，当前市面上的许多大模型在设计之初就以更好地服务人类为目标，旨在快速提供能够满足大多数用户需求的答案。因此，当面对超出其理解或处理能力的问题时，大模型可能会基于已有知识的概率分布“冒险”作答，而这恰恰也体现了模型在一定程度上的创造力。由此谈及被大学生们口诛笔伐的AIGC检测，崔万云和周杰两位学者均认为，尽管大模型的准确率、AIGC检测有一定误差，但目前相关工具已比较成熟。
据知网官方解释，AIGC检测基于预训练大语言模型算法逻辑，从语言模式和语义逻辑两条链路，用AI对抗AIGC；维普AIGC率检测系统则是通过对文本的词汇、语法、语义等多方面特征进行分析，构建复杂的模型来识别AI生成的内容。
“目前市面上主流的AIGC检测工具大概率是根据数据库中已有的文章，做分类模型，将检测文章输入，进而根据语言风格、写作习惯区分AI生成和人为写作。”崔万云举例，机器写作中经常用到首先、其次、再次，还会大量使用排比和比喻。如果文中出现了上述表达，很可能被判定为AI写作。
他直言，虽然有学生被“误伤”，但大部分显示超标的论文，确实因为过度使用AI生成而被发现。
高校应对：多所大学为此立了规矩
据橙柿互动报道，为了应对生成式人工智能对学术论文写作带来的冲击，国内很多大学，都为师生AI使用制定了规范。
浙江工商大学今年10月发布了《关于在本科毕业论文（设计）中使用AI工具的指导意见（试行）》，明确了人工智能允许使用范围和禁止使用范围。要求不得使用AI工具直接生成毕业论文（设计）的内容。禁止直接使用AI工具生成本科毕业论文（设计）正文、开题报告及相关附件材料。AI工具可以在学生学习如何撰写毕业论文（设计）阶段中辅助写作，但不能代替最终独立创作。
今年1月，复旦大学发布《关于在本科毕业论文（设计）中使用AI工具的规定（试行）》。作为国内高校首个专门针对AI工具在本科毕业论文（设计）中使用的规范化管理文件，《规定》的发布填补了这一领域的政策空白。复旦大学允许AI使用的范围包括文献检索、代码调试和统计分析等辅助性工作，但要求经过学生的审核和指导教师的同意，确保AI生成内容的真实性和可靠性。如果出现严重违规者，论文成绩将被认定不合格，影响学生取得学位。学生要签字并声明，是否在写作的过程中使用过AI，是不是触及了相应的边界和底线。
复旦大学关于学生毕业论文使用AI的要求。网页截图
北京师范大学新闻传播学院、华东师范大学联合发布《生成式人工智能（AIGC）学生使用指南》，共六大方面，涉及遵守相关法规、符合学术道德规范、使用时应进行标注、对生成内容进行必要自查、遵循学科相关使用规定，以及遵守教师课程要求。学生在使用生成式人工智能完成作业时，需标红相关内容，且直接生成的内容不能超过全文的20%。
北京邮电大学、中国传媒大学、华北电力大学、湖北大学、福州大学、南京工业大学等不少高校，都在试行或出台相关规定或办法，对学生借助AI完成作业，进行论文写作等行为进行规范。
新闻多一点>>
当知识触手可得，人类为何还要寒窗苦读？
2026年毕业生将是全球第一代“AI原生代”，他们的大学生涯与ChatGPT等AI工具的兴起同步。复旦大学新闻学院教授、博士生导师张力奋援引数据指出，中国生成式AI用户已达5.11亿，专利数是美国的6倍。“相比之下，中国大学对AI的战略思考和制度应对，已明显落后于牛津、剑桥、斯坦福等欧美高校。”
“大学的存在价值依然不可替代，但是，形态必须革新。”复旦大学特聘教授王晓阳强调，AI进入校园已经不是未来时而是进行时，固守传统教学模式无异于掩耳盗铃。在他看来，教育范式必须从单纯的知识囤积转向深度的认知构建。“未来教育要培养的是设计架构的建筑师，而非只负责砌砖的工程师。大学必须引导学生构建比AI更宏伟的世界模型。”
央视网也指出，今天学者们忧虑的、高度依赖AI生成的论文，在20年前可能是高度依赖“Ctrl+C/Ctrl+V”的论文，在10年前可能是高度依赖“降重神器”的论文，性质上没有差别。原创意识是一种珍贵的自觉，甚至是一种自信，它需要建立在对专业神圣性的深度信任之上。
今天的学术评判标准，整体上都在朝向高效率、高功绩标准，所有行内人都在不断寻找，什么手段能高度压缩时间、什么办法能带来最高性价比的投入产出。否则，拿什么来跑过“非升即走”的倒计时，拿什么来达到论文、项目的订单量，拿什么来紧紧卡住年龄申请各类“基金”“人才”？
“从过往经验看，技术手段与技术治理手段一定会在一定时间内达到均衡，所以更精准化的AI检测工具早晚会出现。需要想一想的事情是，上述那些问题，比如缺乏原创性、批判性与人文主义，会不会随着工具的升级而消失。”
上游新闻综合自 新华网、央视网、科技日报、中青网、上观新闻、大皖新闻、橙柿互动、新民晚报等
思考资本提示：文章来自网络，不代表本站观点。
