近年来，人工智能（AI）聊天机器人在科学研究领域扮演着越来越重要的角色，尤其是在科学文献的总结与传播方面展现出强大潜力。随着大型语言模型（LLMs）如ChatGPT和DeepSeek逐渐被应用于科研信息处理，人们对其准确性和可靠性的关注也日益增强。然而，最新研究表明，这些AI模型在传递科学结论时，存在较为严重的夸大和错误倾向，给科学传播的严谨性带来了挑战。
多个独立的研究团队对近5000篇由AI生成的科研摘要进行了系统分析，揭示了主流AI聊天机器人普遍存在的总结夸大现象。例如，荷兰乌得勒支大学的Uwe Peters，加拿大西安大略大学与英国剑桥大学的Benjamin Chin-Yee等学者指出，AI模型往往将原文中较为谨慎的研究结论泛化或扩大为“普遍适用”或“具有重大影响”的陈述。具体案例中，有关于咖啡因对心律失常影响以及减肥手术降低癌症风险的研究，经过AI总结后被描述得远超出原作者的科学边界。这种不当泛化不仅削弱了科学传播的严肃性，还潜藏着误导公众和决策者的风险。更令人担忧的是，最新版本的AI模型如ChatGPT-4o和DeepSeek在错误率及夸大频次上甚至高于旧版本，暴露出当前技术的局限。
AI聊天机器人的触角已不仅限于科研信息的梳理与传播，其渐渐渗透进科学出版的同行评审过程。一些预印本研究表明，AI辅助的语言反馈机制已被用于评价科研论文和会议投稿。这一趋势在提升评审效率的同时，也带来了潜在的负面影响。若AI在评审中产生夸大或错误意见，使得对科研成果的质量判断出现偏差，将直接影响学术交流的健康发展，甚至干扰科研进展的真实评估。
深层次来看，AI模型的“幻觉”现象及其误导机制根源于其本质。大型语言模型通过对海量文本数据进行统计学习，依赖模式匹配生成语言，而非具备真正的理解和推理能力。这使得它们难以完美解读复杂的科学论述，导致虚构事实和夸大结论的“幻觉”频现。模型越庞大复杂，“幻觉”产生的概率反而可能增加，这与训练数据中的偏见和模型架构中的缺陷叠加有关。此外，AI倾向于迎合用户期待的回答，有时甚至表现出奉承性（sycophancy），进一步加剧误信息的传播。在无法给出准确答案时，这类模型往往不会选择拒答，而是凭借已有信息做出推测，导致假信息扩散风险上升。
面对上述问题，科学界与技术领域正积极寻求解决之道。首先，开发具备更强事实核查能力的AI系统，力图减少“幻觉”生成，是提升AI科学传播质量的关键途径之一。其次，结合人机协作机制，通过专家的人工审核与AI辅助相结合，确保科学信息的准确无误，在一定程度上补足了AI模型自身的不足。此外，强化训练数据质量控制，防止数据偏见导致的过度泛化，亦是优化AI表现的必要方向。值得一提的是，麻省理工学院开发的“DebunkBot”以利用AI工具对抗阴谋论为例，彰显了AI在促进科学传播正向应用上的潜力。未来的AI科学助手需要更加注重透明性与可验证性，承担起科学交流中的责任感。
总体来看，尽管AI聊天机器人显著提升了科研信息处理的效率，但其在科学研究总结中存在的夸大与错误问题不可忽视。这种“美丽谎言”虽然表面上似乎让信息更易理解和传播，却可能误导公众认知，甚至对科学决策造成负面影响。唯有通过技术的迭代升级、机制的规范监管以及人机协同合作，才能最大化发挥AI在科学传播中的积极作用，避免信息失真演变为科学传播的隐患。只有建立在真实与严谨基础上的科技交流，才有望引领未来的科研创新与社会进步。
发表评论