“幻觉”治理与个人IP构建：智能体与知识库协同在媒体内容生产中的应用研究

【目的】大模型在新闻领域的应用价值凸显，但在生成文本时出现事实差错、逻辑不一致等“幻觉”现象，对新闻真实性与媒体公信力构成威胁。

【方法】通过分析大模型“幻觉”的典型案例与产生原因，阐述智能体与知识库的协同机制如何缓解大模型“幻觉”。以《每日经济新闻》构建20+“超级个体”IP的实践为例，阐述智能体、知识库在媒体中的应用价值。

【结果】智能体通过知识整合、上下文管理和多模型协作等机制，可有效监督和纠正大模型输出，提升生成内容的准确性、合理性和时效性。

【结论】实践表明，基于智能体与知识库的协同机制，不仅强化了大模型输出的可靠性，也产生了个人IP打造的新范式，为媒体智能化转型提供了新思路。

肖勇（1977—），男，经济学硕士，中级编辑，每日经济新闻编委；

岳琦（1990—），男，新闻学本科，每经科技首席产品官；

王嘉琦（1989—），男，英语语言文学硕士，助理编辑，每日经济新闻国际新闻部副主任。

1. 大模型幻觉在媒体中的表现与危害

随着人工智能技术的飞速发展，大模型已逐渐渗透到新闻媒体领域，在新闻摘要、采访提纲、脚本创作、海量资料整理等方面展现出巨大的应用潜力。然而，大模型在带来便利的同时，也潜藏着幻觉问题，即大模型生成看似合理实则虚假或错误的信息，这种幻觉现象对新闻媒体构成了严峻挑战。

1.1 幻觉的典型表现

大模型幻觉在新闻生产领域的表现形式多样，且往往具有较强的迷惑性。根据《每日经济新闻》在2024年6月、9月、11月发布的三期“大模型评测报告”及新闻实践中的观察，总结出以下几个典型表现。

1.1.1 虚构事实或数据

大模型是基于概率统计进行文本生成，缺乏对真实世界的直接感知和核查能力，因此可能编造出不存在的新闻事件，虚构采访内容或捏造、篡改数据。

例如，在2024年11月《每日经济新闻大模型年度评测报告》中，评测小组发现多款大模型在基于给定素材撰写新闻报道时，出现凭空增添不实信息，导致在时间、地点等细节上出现事实差错。

比如在一条“星巴克咖啡公司今天宣布调整其中国领导层结构。自 9月30日起，刘文娟由星巴克中国联席首席执行官改任星巴克中国首席执行官”的新闻报道，评测小组发现，有大模型将“今天”与“9 月30日”的时间点混为一谈，生成“9月30日起，星巴克中国宣布调整其领导层结构”的错误表述。

再如在一条采访报道中，大模型把文章中“比亚迪等汽车主机厂要求供应商降价10%”的新闻事件，莫名平添到采访对象的表达中，导致虚构采访内容。

1.1.2 逻辑矛盾或不一致

大模型在面对较复杂的新闻事件逻辑推理时，经常出现前后矛盾、逻辑链缺失等问题。若将其直接应用于新闻报道，同一篇稿件内可能出现相互冲突的论断，或者在分析与推断方面因为缺乏严密的逻辑性，导致严重的事实差错。

例如，2024年12月18日，深圳市南粤财物评估鉴定有限公司因超出资质认定范围提供具有证明效力的数据与结果而被行政处罚。然而，有大模型在生成新闻摘要时，却错误地将此次事件与7月广州发生的问界M7交通事故相联系，生成了“此事与问界M7交通事故有关”的错误逻辑表达。

1.1.3 违背常识或伦理

对于大模型而言，其输出内容往往映射的是训练数据的内在关联，而不是动态、丰富、全面的生活世界，数据集的选取依据，以及其对核心概念的界定都影响着生成结果，可能存在可靠性问题。

同时，大模型可以通过数据实现折射出真实世界的“镜像”，拥有解释事物复杂逻辑关系的能力，然而也将真实世界中存在的歧视与偏见等伦理问题一同映射出来，甚至放大，这将对人格尊严、自由、公平等伦理价值观造成冲击。

大模型生成的含有歧视、偏见或违背公序良俗的内容，一旦未经审核，通过媒体发布，那就会在社会层面引起强烈的负面影响或冲突。

1.2 幻觉产生的成因

大模型“幻觉”问题并非偶然，其背后涉及多个层面的诱因。

1.2.1 数据层面

训练大模型所需的语料规模庞大，但其中常含有偏差、噪声或错误信息。数据分布的不均衡、过度或不足的主题表达，都会在训练中被模型“继承”下来， 导致后续输出出现虚假或不准确的内容。

1.2.2 模型层面

由于目前所采用的基于Transformer的生成式模型依赖训练语料，可解释性较为缺乏，对于控制大模型安全性的理论研究和方法研究也会变得十分重要，现有方法无法保证一定不会生成不安全内容，而且也没有理论可以确切解释什么样的方法可以严格保证模型安全性。

当模型错误地使用了知识或使用了错误的知识，输出了语言层面流畅的回复，如果这时缺乏相应的机制对信息的准确性进行检验和修正，那么模型的语言能力越强大，用户则愈发难以甄别其中的信息准确性风险。

1.2.3 知识与常识缺乏

大模型主要依赖统计模式进行文本生成，难以有效地调用外部知识或常识来进行事实核验与常识判断。由此带来的后果包括在财经、医疗、法律等细分专业领域容易出现重大事实性错误；在社会常识与伦理层面，则可能输出违背基本人伦与科学常识的结果。

1.3 大模型幻觉对新闻传播的危害

大模型幻觉在新闻媒体领域的泛滥势必带来严重后果，主要体现在以下几方面。

（1）损害新闻真实性与客观性：新闻赖以生存的基础在于真实性与客观性。幻觉导致的虚假内容和逻辑错漏，严重侵蚀了媒体的专业形象。

（2）降低媒体公信力与权威性：媒体公信力与权威性的长期建立，依赖严谨的事实核查与专业操守。如果大模型频繁出现幻觉，难免会侵蚀公众对媒体的信任。

（3）误导公众舆论和社会认知：媒体作为信息传递的主要渠道，一旦发布带有错误信息的内容，极易引导公众错误认知，甚至引发社会恐慌或矛盾。此外， 国际上占有较大市场份额的人工智能大模型公司基于西方文化与价值观，可能在训练数据中内嵌其历史偏见与文化优越性。

（4）放大虚假信息与谣言传播：大模型幻觉的高生成性与高迷惑性，让虚假信息在网络空间的传播愈发迅速且广泛，加剧了信息环境的混乱，对社会稳定与网络安全构成严重威胁。一方面，人工智能生成的错误信息比人类创建的虚假内容更有说服力。另一方面，生成式人工智能系统还可能循环利用开放网络上发现的阴谋论和其他错误信息。根据NewsGuard的报告，GPT-4相较于其前身 GPT-3.5，更有可能传播错误信息，更擅长以更有说服力的方式通过各种形式呈现错误叙述，包括新闻文章、Twitter信息流、健康谣言以及广为人知的阴谋论。

由此可见，大模型幻觉的风险对媒体和新闻传播生态都产生了负面影响。如何在数据、模型、应用和伦理等各方面采取有效措施，已成为当前AI研究与媒体实践领域的共同课题。

2. 智能体与知识库：

缓解大模型幻觉的有效途径

近年来，基于智能体和知识库的技术路线，因其能够为大模型提供外部知识约束和事实核查机制，被认为是缓解大模型幻觉的有效途径。以下将深入探讨智能体与知识库在缓解大模型幻觉中的作用机制、构建方法及其协同工作模式。

2.1 智能体在缓解大模型幻觉中的作用

智能体是一个系统或程序，通过设计工作流程和利用可用工具，能够自主地代表用户或其他系统执行任务。除了自然语言处理，智能体具备决策制定、问题解决、与外部环境交互和执行动作等广泛功能。

智能体可以被部署在各种应用中，以解决不同环境中的复杂任务，从软件设计和IT自动化到代码生成工具和会话助手。

智能体的核心是大型语言模型。但是，传统的大模型根据用于训练它们的数据产生响应，并受到知识和推理限制的约束。相比之下，智能体可以调用最新信息，优化工作流程，并自主创建子任务以实现复杂目标。

在这个过程中，智能体会随着时间的推移适应用户的需求，能够将过去的人机互动内容存储在记忆中，并规划未来的行动。这种工具调用可以在没有人类干预的情况下实现，并扩大这些AI系统在现实世界应用的可能性。

2.2 知识库在缓解大模型幻觉中的作用

在人工智能领域，知识库是一个集中存储、组织和管理信息的系统，它利用人工智能技术来增强与用户的互动。传统的知识库只包含内容，而人工智能驱动的系统则更进一步，它们使用机器学习、自然语言处理和其他人工智能技术来理解用户查询，检索相关信息，并改进它们提供的知识。人工智能知识库不仅仅存储静态的文章或文档，还从用户行为和反馈中学习。它可以分析数据中的模式，预测用户可能在寻找什么，甚至可以根据现有信息中的空白建议新内容。这使得体验更加动态和个性化。

根据知识类型的不同，可以构建不同类型的知识库，主要如下。

事实知识库：存储实体之间的关系、属性值等客观事实和数据，这些知识可以用于事实核查，包括验证新闻报道中的实体关系是否正确。

常识性知识库：存储例如“鸟会飞”“水往低处流”等可用于常识性判断的知识，检测大模型生成的内容是否违背常识。

细分垂类行业知识库：存储专业领域的知识，例如财经知识、医学知识、法律知识等。在财经媒体应用中，可以构建各个细分垂类行业的知识库，新闻事件、人物关系、背景知识等信息，用于相关领域的幻觉检测。

多模态知识库：随着包含图片、视频、音频等多种形式信息的增多，多模态大模型的发展，构建多模态知识库也变得越来越重要。多模态知识库可以提供更全面的信息，帮助智能体进行跨模态的幻觉检测和纠正。

2.3 智能体与知识库的协同机制

AI智能体与知识库之间具有不可分割的关系。从定义上讲，具备知识和拥有决策能力是AI智能体两项基本特征。

此外，AI智能体只能从他们拥有的知识库中学习。对于更加规范化的知识，他们成功学习的机会更高。近年的研究发现，通过学习一个多样化的知识集（库），AI智能体可以更灵活地查询和学习。而且，外部知识库和数据库的整合可用于缓解人工智能的幻觉问题。

智能体和知识库的相互协作，缓解大模型幻觉，可以体现在以下几个方面。

首先，智能体通过知识库集成和验证机制，为大语言模型的输出提供权威数据支持，从根本上解决大模型因知识更新滞后和数据来源不可靠而产生的幻觉问题。

在新闻传播中，信息的准确性至关重要，而传统大模型通常依赖于静态训练数据，无法满足实时更新的需求。通过接入动态知识库，智能体能够整合政策文件、行业数据和权威报道，将这些高质量的数据作为模型生成内容的依据。例如，在财经新闻中，智能体可以实时从数据库中提取最新的经济数据或政策细节，并将其与模型生成的内容进行交叉验证，从而确保输出的准确性和一致性。此外，智能体还支持多源交叉验证机制，通过对生成内容进行多维度的比对与分析，识别可能存在的错误，并标注提示编辑或记者核实，从而降低误报或虚假信息的传播风险。

其次，智能体具备上下文管理和多任务串联能力，有效缓解大语言模型在处理复杂新闻任务时因逻辑错误和内容不连贯引发的幻觉问题。

在新闻专题报道中，记者通常需要整合多方视角，并生成覆盖背景分析、数据解读和趋势预测的内容，这对逻辑性和一致性提出了较高要求。智能体通过任务拆分，将复杂的新闻问题解构为若干子任务，例如依次生成事件背景、核心观点和支持性数据分析。

再次，智能体的动态反馈与实时更新功能显著提升了大模型的时效性，这是解决新闻传播中突发事件报道问题的重要手段。在传统大模型中，由于训练数据的滞后性，生成内容往往无法反映最新的动态。而智能体能够通过接入实时数据接口，从新闻源、政府数据库或权威行业报告中抓取最新信息，并将其快速整合到模型生成的内容中。

例如，在新能源汽车行业发生政策调整时，智能体可以在数分钟内生成包含最新政策解读和市场影响分析的报道初稿，同时智能体还可具备标注功能，对于动态更新的信息会进行明确标记，提醒记者或编辑进行二次核查，确保内容发布的可靠性与权威性。

最后，智能体通过多模型协作机制进一步提升内容生成的准确性和可靠性，特别是在专业性要求较高的细分领域（如财经、医疗或科技）。单一的大语言模型可能因知识覆盖有限或推理能力不足，无法生成完全准确的答案，而智能体可以同时调用多个大模型进行协作，比较输出结果，并综合选取最优。

例如，在财经领域，智能体可以结合不同大模型生成的市场数据解读，与实时经济指标或行业分析工具交叉验证，从而生成更精确的报道内容。这种多模型协作不仅降低了单一大模型因知识局限导致幻觉的可能性，也为新闻传播中的复杂任务提供了更全面的解决方案。

综上，智能体通过知识库集成、上下文管理、动态更新和多模型协作等功能，可以解决大语言模型幻觉问题，提高内容生成的逻辑性和时效性。它的引入不仅为新闻传播领域提供了新的技术支持，还为大语言模型的实际应用开辟了更加可靠和高效的路径。

智能体和知识库能够显著提升效率、优化决策并推动产业变革，已经成为企业和个人快速驾驭生成式AI能力的“新入口”。2024年，从字节跳动的扣子（Coze）到百度的“文心智能体平台”，从智谱智能体AutoGLM到腾讯的“AI智库”工具，国内大模型企业纷纷推出自己的智能体平台，掀起了一场AI智能体创新竞赛。

字节跳动于2024年2月1日推出一站式AI Bot开发平台——“扣子”，用户不需有编程基础即可快速创建智能体，并将其发布到多个社交平台和通信软件中。该平台支持无代码生成AI Bot，集成了多种插件，覆盖了新闻阅读、旅行规划等多个领域。此外，“扣子”还与阿里通义、月之暗面等合作，进一步丰富了其大模型生态。

百度则在4月6日通过其“文心智能体平台”和“文心一言”等产品，致力于降低开发门槛，让开发者能够快速构建智能体。

智谱在2024年10月推出了名为AutoGLM的智能体，该智能体能够通过语音指令理解用户意图，并模拟人类行为，自动完成如点外卖、订机票和酒店等操作。智谱不仅推出了智能体，还提供了强大的知识库功能。用户可以通过上传文件或URL等方式构建个人或企业级知识库，并将其集成到智能体中使用。例如，智谱清言平台允许用户上传多达1000个文件，总字数可达1亿字。此外，智谱清流平台支持无限存储和RAG检索增强，可以接入所有常见文档内容，并允许自定义分类和智能预处理。

阿里于9月25日推出了智能体平台“ 芝士饼AI”（后改名为“百宝箱”）。此外，阿里还推出了其他与智能体相关的平台和框架如 AgentScope和Mobile-Agent，这些平台和框架进一步丰富了阿里巴巴在智能体领域的布局。

腾讯发布推出的名为“AI智库”的工具，允许用户创建智能体并管理知识库，通过输入个人简介和公众号文章等资料，建立线上知识库和工作流程。这个智能体可以24小时在线回答问题，并可以绑定到公众号上，同时调用外部插件，拥有比用户更丰富的知识。

国内大模型企业在智能体领域的竞争日益激烈，各具特色的智能体平台正在加速生成式AI技术的普及和应用。智能体和知识库正在成为AI技术落地的重要方向，推动了各细分行业和垂类领域的智能化发展。

4. 智能体与知识库赋能：

《每日经济新闻》打造个人IP的实践

随着数字媒体的蓬勃发展，个人IP的价值日益凸显，成为媒体竞争的新焦点。然而，传统的内容创作和运营模式高度依赖人工，存在成本高昂、效率低下、难以规模化和精细化运营等诸多弊端，已无法适应新媒体时代的竞争格局。《每日经济新闻》在2024年通过构建基于大模型的智能体和知识库，重塑个人IP打造的范式。

2024年10月8日，每经发布20+财经智媒“超级个体”，在全员IP和媒体智能化转型道路上再次迈出了重要一步。这些专注于国际时政、地产、公司、投资、光伏等20余个财经细分领域的个人IP，借助智能体、知识库以及“雨燕智宣”AI短视频自动生成平台、智能媒资库等AI产品，实现了一个人完成从脚本创作到视频制作，再到多平台分发的全流程工作，展现了以大模型为底座的智能体、知识库等AI产品的强大效能。

4.3 未来展望：智能中台赋能“超级个体”

每经的实践表明，基于智能体的人机协同模式，每个普通记者、编辑都有可能成为“超级个体”。通过构建融合垂类内容能力和AI应用能力的智能中台，每个采编人员都可以配备多个AI助手，形成专属的智能体矩阵。在这种模式下，采编人员主要负责账号运营、商业变现和矩阵传播等战略性工作；而选题策划、素材挖掘、观点激发、文本加工、知识积累、竞品学习、声画播报、垂类媒资管理、生成分发等战术性任务则由智能体矩阵协同完成。这将极大地提高采编人员的工作效率，使其在智能中台的支撑下，真正成为具备全流程内容生产和运营能力的“超级个体”。

4.4 技术路径：开源与商业平台的权衡

智能体的构建需要稳定可靠的技术平台支撑。每经目前主要是利用如Coze等商业平台进行快速原型开发和测试，同时也在积极评估各类开源平台的可行性，以寻求长期稳定可控的解决方案。

每经未来的技术路径包括：构建支持AI助手相互调用的业务工作流，结合成规模知识库、集成网络爬虫插件以及接入国内各家优秀大模型等，不断提升智能体的能力和应用范围。

本文聚焦大语言模型在媒体领域的应用研究，特别是“幻觉”现象对新闻真实性与公信力的挑战，提出并论证了以智能体与知识库为核心的解决方案，特别是通过对每经构建 20 +“超级个体”IP 智能化体系的实践案例分析，得出以下结论。

5.1 构建“反幻觉”的智能体系

智能体与知识库的深度融合，为解决大模型的“幻觉”问题提供了切实有效的技术路径。知识库为大模型注入了事实与常识，外部工具和实时验证机制赋予大模型感知现实、修正偏差，多模型协作实现了优势互补，而动态更新则确保了知识的时效性和智能体的持续进化，从而保障了生成内容的真实性、准确性和可靠性。通过知识约束、实时验证、多模型协作和动态更新，共同构建起“反幻觉”屏障。

5.2 智能体推动个人 IP 打造范式的革新

智能体技术不仅解决了大模型的“幻觉”难题，更推动了个人IP打造范式的革新。通过系统级提示词、知识库、外部工具、记忆模块和工作流的协同，智能体实现了内容生产与运营的自动化、智能化和个性化，一个人就可以完成传统IP的全流程工作，完成了内容生产效率和效能的全链条跃升，让个人IP在智能体的赋能下向“超级个体”迈进。

5.3 专业知识库构建细分垂直壁垒

每经针对20余个细分行业构建的专属知识库，是智能体发挥效能的关键支撑。这些知识库不仅涵盖了行业内的企业信息、财务数据、深度报告、新闻报道等，还集成了第三方数据和竞品分析，构筑了深厚的垂类知识壁垒。这为智能体在特定领域的深度内容创作提供了坚实的数据基础和专业支撑，确保了生成内容的准确性、专业性和权威性。

5.4  AI 助手群构建智能生态

每经基于不同应用场景开发AI助手群，通过精细化的提示词工程、小规模知识库和搜索增强插件，实现了特定任务的自动化。这些由人设定的问答助手、找题助手、挖料助手、文稿助手、鬼点助手、学优助手等，不仅各司其职，还能相互协同，形成了一个高效的智能生态。未来，通过构建更完善的工作流，实现AI助手间的深度协同和知识库的规模化，将进一步提升智能体的整体效能。

5.5 人机协同模式将助推媒体智能化纵深转型

每经的实践表明，基于智能体的人机协同模式，是媒体智能化转型的必然趋势。通过构建融合垂类内容能力和AI应用能力的智能中台，赋能每一个采编人员，使其成为“超级个体”，将重塑媒体的生产关系和组织架构。这一战略布局，不仅能够提升媒体机构的整体竞争力和影响力，更引领了媒体行业迈向智能化的未来。随着AI技术的不断演进和大模型应用的不断深化，智能体与知识库必将在媒体领域乃至更广泛的各行各业发挥更加重要的作用。