生成式AI虚假信息的舆论协同治理策略
宁海静
河南工业大学新闻与传播学院
摘 要:生成式AI技术的快速发展,使虚假信息生产进入“低门槛、高效、多形态”的智能新阶段,虚假信息依托算法推荐机制迅速传播,引发公众信任危机与社会治理难题。本文基于舆论学、媒介伦理与协同治理理论,结合典型案例解析生成式AI虚假信息的技术机理、传播规律与舆论异化表征,剖析治理中的技术瓶颈与认知短板,从技术防御、法律规范、媒体引导与公众素养提升四个维度构建多主体协同的舆论治理体系,为智能时代网络空间良性治理提供学理支撑与实践参考。
关键词:生成式AI;虚假信息;舆论治理;协同治理;媒介伦理
一、引 言
2022年11月,OpenAI推出的ChatGPT标志着AI技术进入大规模应用阶段,随后Sora等工具的问世进一步推动了信息生产范式的转变。传统的内容生产模式发生变革,人类社会步入了AI生成内容的新纪元。不仅重塑了内容创作的效率与形态,还深刻影响了信息传播的速度、范围与交互方式,为各行各业的创新发展注入了强劲动力。AI生成内容正在重构信息生产的底层逻辑,赋予个体创意即时转化的动能,并构建起一种泛在化、去中介化的知识传播生态。然而,AI技术在助力信息高效生产传播的同时,也为虚假信息的滋生提供了土壤。生成式AI仅需简单提示词就能快速生成文字、图片、视频、音频等多形态的虚假信息,仿真度极高,用户难以分辨。2023年7月13日,我国首个AIGC监管文件《生成式AI服务管理暂行办法》正式发布,第4条指出,生成式AI不得生成虚假有害信息,不得侵害他人名誉权、荣誉权等合法权益。这也从侧面表明,滥用生成式AI导致虚假信息泛滥,不仅会扭曲公众认知、破坏社会信任,更会对舆论引导、公共政策制定与社会稳定构成严峻挑战。基于此,本文聚焦生成式AI虚假信息对舆论生态的冲击,围绕其生成逻辑、传播特征及治理困境展开分析,在此基础上提出多主体协同治理路径,旨在为智能时代网络空间治理提供参考。
二、生成式AI虚假信息的技术逻辑与传播特征
(一)技术逻辑:从“人工编造”到“智能生成”的范式转型
生成式AI虚假信息的核心技术支撑主要包括生成对抗网络(GAN)、自然语言处理(NLP)和大规模预训练语言模型(如GPT系列)。这些技术通过数据合成、内容仿真和自动化传播实现虚假信息的高效生成,并依托自动化传播机制加速扩散。其中,生成对抗网络(GAN)是由生成器与判别器组成的对抗性框架,通过迭代优化生成虚假信息。生成器尝试合成数据(如图像、视频),判别器则评估其真实性,最终生成难以辨别的伪造样本。自然语言处理(NLP)基于Transformer架构的模型(如BERT、GPT),通过海量文本训练,学习语言规律后生成连贯文本。而大规模预训练模型如GPT-4,依托千亿级参数和互联网数据训练,具备多轮对话与逻辑推理能力,可自动生成虚假信息或伪造对话记录。
在这种传播范式下,“低门槛生成”成为生成式AI的显著特征,即用户不需要专业技术知识,仅通过简单提示词就可生成虚假信息。生成式AI可产生文本、图像、视频等内容,其创作方式与人类高度相似,在智能交互、即时响应、实时更新等领域具有较大的应用前景。除此之外,生成式AI的训练数据包含海量网络信息,若数据中存在偏见或虚假信息,将导致生成结果出现系统性偏差,进一步强化虚假信息的误导效应。
(二)传播特征:算法驱动下的多维扩散机制
基于生成式AI的技术逻辑,虚假信息借助算法推荐与社交网络裂变机制快速扩散。在传播速度上,短时间内可触达海量用户,传播效率远超传统模式。在传播形态上,呈现“多模态融合”特点,其整合文本、图像、音视频等多种形式,仿真度极高,较单一形态信息更具迷惑性。在传播范围上,打破了地域与圈层限制,借助跨境网络平台实现全球扩散,形成跨地域舆论联动。在传播路径上,其具有隐蔽性,通过“人机交互”生成内容,模仿真实用户行为进行传播,却难以追溯源头。此外,传播精准度显著提升,算法根据用户偏好定向推送,使虚假信息精准触达目标群体,进一步放大传播影响力与误导效果。
三、生成式AI虚假信息引发的舆论生态异化
(一)受众层面:认知偏差与信任危机加剧
生成式AI已逐渐演变为一种智能化信息中介,并为用户解答各个专业领域的问题,以智能、快捷等特性深受人们喜欢。若长期处于此类单向度的知识获取模式中,用户的主体能动性将逐渐弱化,陷入被技术工具主导的被动状态,进而弱化批判性思维和创新实践能力。
生成式AI拓展了用户对社会热门事件的参与深度和广度,为其便捷参与网络事件的意见表达提供了可能。这些分散的用户意见经生成式AI学习后,生产出新的“舆情事实”,并依托技术传播链路持续扩大影响范围。在这个过程中,客观事实与主观性网络表达交织融合、互相渗透,不仅使舆论信息的主观和客观边界变得模糊,也增加了辨别真假信息的难度。这种“夹叙夹议”式的舆论叙事场景,对于某些分辨能力不强的网民来讲,容易被暗含的舆论观点所影响。
2025年9月,《南方都市报》发布的《AI新治4向:生成式AI内容与传播风险治理观察》报告显示,68.3%的网民曾误信生成式AI虚假信息,32.1%的网民因误信虚假信息采取过非理性行为。虚假信息降低了公众对信息传播渠道的信任,由此,“信任赤字”成为智能时代舆论生态的突出问题。
(二)媒体层面:事实核查困境与舆论引导效能弱化
AI虚假信息快速生成和传播,媒体的事实核查难以跟上其扩散速度,形成“核查滞后性困境”,传统媒体的“把关人”角色面临严峻挑战。生成式AI所营造的“信息茧房”相比社交传播更加明显,主流媒体突破“信息茧房”向用户传播导向鲜明的信息将面临更多障碍。尤其在突发事件报道中,人工智能会主动生成内容,其中一些虚假信息严重影响了新闻的可信度。值得警惕的是,它能在短期内迅速形成大规模的社交扩散。同时,生成式AI可以模仿专业媒体的报道风格生成虚假信息,导致媒体品牌公信力受损。部分自媒体借助生成式AI批量生产虚假信息,以标题吸引流量,扰乱了舆论场秩序,使传统媒体的舆论引导难度显著增加。
(三)社会层面:公共信任弱化与治理成本上升
生成式AI虚假信息已渗透至公共安全、经济金融、社会民生等多个领域,引发系列社会风险。在公共安全层面,虚假警情、不实应急信息干扰正常社会秩序;在经济金融层面,虚假理财产品宣传、伪造的企业经营数据损害市场公平与投资者利益;在社会民生层面,虚假教育资源信息、不实民生政策解读则影响公众的生活选择与合法权益。这些虚假信息不仅透支社会公共信任,还大幅增加社会治理成本。2025年,上海交通大学发布的《中国生成式AI大模型科技价值对齐研究报告》显示,我国因生成式AI虚假信息引发的应急处置、舆论引导、经济损失等各类治理成本已超百亿元,这对社会治理体系构成了巨大压力。
四、生成式AI虚假信息的舆论治理困境
(一)技术困境:防控技术与生成技术的“代差”
虚假信息生成技术持续升级,而防控技术的研发却存在滞后。2023年2月16日,杭州市某小区业主群开展ChatGPT相关话题讨论时,一名业主提议借助该工具撰写一篇“杭州取消机动车限行”的新闻稿,并在群内实时展示了ChatGPT的操作与文稿生成过程,随后将生成的文本分享至群中。部分业主未核实信息真伪便截图转发,使得一篇标题为“浙江省杭州市政府3月1号取消机动车依尾号限行”的虚假文稿在网络空间传播,产生了较大影响。2月17日,杭州警方介入核查,证实该消息不具备真实性。
AI生成虚假信息的乱象并未止步于文字层面,在图像领域也出现了类似违规案例。2024年6月9日,有网民在某平台发布视频称:“5月27日,四川省凉山彝族自治州发生5.0级地震,震中位于喜德县,地震波以每小时80公里的速度传播。地震造成了大量房屋损坏和人员伤亡,灾情严重。”经四川凉山公安机关联合当地相关部门核查,5月27日,凉山发生5.0级地震,震中位于木里县,无人员伤亡,部分房屋受损,违法行为人罗某某为吸引眼球、获取流量,利用AI软件生成虚假地震灾情图片,并在某短视频平台散布不实信息。随后,公安机关依法对罗某某进行了行政处罚。
学者莫祖英等人的研究指出,人工智能传播存在大量虚假信息,“主要集中在数据错误、作者作品错误、客观事实错误、编程代码错误、机器翻译错误五个方面”。当前,生成式AI虚假信息治理面临的是识别技术滞后的现实困境。一方面,随着生成模型持续迭代,AI虚假信息在文本逻辑、图像细节、语音拟真和视频合成等方面的仿真度不断提升,传统基于关键词筛查、图片比对的识别方式已难以有效应对高仿真内容。另一方面,生成式AI还可借助对抗性训练不断规避既有识别系统,使防控技术始终处于被动追赶状态。再加上跨平台、跨地域传播中存在技术标准不统一、识别接口不兼容等问题,进一步抬高了虚假信息治理的技术门槛。
(二)规制挑战:责任分配与协同治理的实施困境
生成式AI虚假信息的扩散涉及了开发者、平台、用户等多个主体,但目前各个主体之间的责任划分尚无明确界定,导致出现“追责无门”的现象。与此同时,在跨平台与跨区域传播场景下,由于不同治理主体之间在监管规则、执行标准及协同机制方面存在差异,容易出现治理衔接不畅的情况,增加了整体管控难度。
(三)认知局限:公众AI识别与媒介素养的不足
公众对生成式AI技术的认知不足,缺乏对AI虚假信息的辨别能力。2025年,上海交通大学发布的《中国生成式AI大模型科技价值对齐研究报告》专项调研数据显示,仅23.5%的网民能准确识别生成式AI虚假信息,多数网民对AI生成内容的技术原理、识别方法缺乏了解。同时,媒介素养教育未涵盖AI虚假信息识别相关内容,公众仍沿用传统信息辨别逻辑,难以应对智能时代的信息环境。
五、生成式AI虚假信息的多主体协同治理路径
(一)技术层面:构建全链条防控体系
技术防控要贯穿虚假信息生成、传播、扩散的全流程,形成“事前预防—事中监测—事后追溯”的闭环治理。事前应强化生成端治理,推动生成式AI服务提供者嵌入强制性内容标识技术,对AI生成的文本、图像、音视频等内容添加不可篡改的数字水印或元数据标识,明确内容来源。同时,科研机构与科技企业应联合推进多模态识别技术研发,依托深度学习与多模态识别技术,构建覆盖文本逻辑校验、图像像素分析和音视频特征比对的智能识别模型,提升对高仿真虚假信息的甄别能力。
事中要搭建跨平台实时监测网络,整合网信、公安等部门与主流平台的技术资源,运用大数据与算法模型对网络热点内容进行动态筛查,重点监测突发公共事件、经济金融等敏感领域的信息传播,实现虚假信息的早发现、早预警。针对跨境传播的技术漏洞,推动建立国际技术标准协同机制,采用统一的虚假信息识别接口与数据共享协议,打破地域防控壁垒。
事后需完善溯源技术体系,利用区块链的不可篡改特性记录AI虚假信息的生成参数、传播路径与终端节点,为责任认定提供技术支撑。同时,通过对抗性训练持续优化防控模型,适配生成式AI技术的迭代升级,缩小防控技术与生成技术的“代差”,筑牢技术防御底线。
(二)法律层面:完善协同规制体系
法律治理应从原则约束走向责任细化,逐步构建覆盖开发、生成、发布、传播和追责全过程的协同规制体系。
首先,进一步完善生成式AI虚假信息治理的专项制度设计,围绕内容标识、平台审核、用户使用边界、侵权责任认定等关键环节细化实施规则,提高相关规范的可操作性。其次,明确开发者、平台经营者、内容发布者和传播者在不同环节中的责任边界,建立分层分类的责任认定机制,避免出现“人人有关、人人无责”的治理困境。最后,强化多部门协同执法机制,推动网信、公安、工信、市场监管等部门在监测预警、证据固定、案件移送和联合惩戒等方面形成常态化联动。对于跨境传播的生成式AI虚假信息,还应加强国际规则对接与执法协作,提升治理的整体效能。
(三)媒体层面:强化事实核查与正向舆论引导
主流媒体应组建专业的AI虚假信息事实核查团队,运用技术手段与专业知识,开展虚假信息核查与辟谣工作。建立“核查结果共享平台”,实现各媒体间的核查信息互通,提高辟谣效率。同时,强化主流媒体的舆论引导能力,加大对生成式AI技术的科普宣传力度,制作通俗易懂的识别教程、科普短视频,提升公众辨别能力。针对热点事件,及时发布权威信息,对冲虚假信息的负面影响,引导舆论走向。
(四)公众层面:开展三位一体素养教育
国家、政府要重视普及群众对AI技术的认知,提高其识别能力,将AI技术基础知识纳入国民教育体系,在中小学开设相关的AI科普课程,提升青少年对AI技术的认知水平;通过社区讲座、网络公开课等形式,向公众普及生成式AI的技术原理与应用风险。
同时,举办媒介素养专项培训,重点讲授AI虚假信息的识别方法,如查看内容标识、分析逻辑合理性、交叉验证信息来源等。开发AI虚假信息识别模拟训练平台,提升公众的实践应用能力。通过宣传教育,培育公众信息传播责任意识,引导公众树立“负责任的信息传播者”理念,自觉抵制虚假信息。
六、结 语
生成式AI技术的发展在推动信息生成与传播变革的同时,也引发了虚假信息泛滥的舆论治理难题。这类信息凭借技术优势,对受众认知、媒体功能与社会秩序造成影响,其治理面临技术、法律与认知的多重困境。展望未来,随着生成式AI技术的持续发展,虚假信息的形态与传播方式将不断演变,舆论治理工作也需动态调整和优化。后续研究可进一步聚焦跨境AI虚假信息治理、超级人工智能时代的舆论风险防控等话题,为智能时代的网络空间治理提供更具前瞻性的学理支撑与实践方案。此外,加强跨学科研究,整合新闻传播学、计算机科学、法学、社会学等多学科理论与方法,推动舆论治理体系的持续完善。
