2月21日，中央网信办发布2025年“清朗”系列专项行动整治重点。明确提出整治AI技术滥用乱象，突出AI技术管理和信息内容管理，强化生成合成内容标识，打击借AI技术生成发布虚假信息、实施网络水军行为等问题，规范AI类应用网络生态。
1月7日，西藏日喀则市定日县突发6.8级地震。很快，一张令人揪心的照片在社交媒体上传播：头戴彩色毛线帽的孩童被压在废墟下，稚嫩的面庞满是尘土，一双黑亮的眼睛望向远方。
这张照片被一些自媒体账号配上“日喀则地震”相关标签迅速传播。有网友在评论区留言，询问孩子安全。然而几天后，“地震废墟中小孩图片是AI生成”的话题登上网络热搜。原来，这张照片2024年11月已出现在网络上，当时创作者明确标注该图系AI生成作品。部分自媒体账号却移花接木，用来博取眼球、收割流量。
“利用灾难加儿童的‘情感组合’，这条谣言在网络上成为‘病毒式传播’。”清华大学新闻与传播学院副教授陆洪磊在接受中青报・中青网记者采访时表示，在AI技术的加持下，网络谣言已呈现出一些新特征，谣言制造者已形成“工业化造谣”模式，需通过平台、有关部门与公众协同构建防御体系。
陆洪磊指出，传统谣言传播具有模糊性和隐晦性，但伴随技术发展，“AI 使得谣言越来越清晰、逼真，一些专业人士需要进行专门的事实核查来确认真伪，普通公众更是难辨真假，需要引起警醒。”
北京师范大学法学院院长、教授梁迎修讲述了身边的一起线年年底，一名学生与前女友分手后，遭遇对方的网络诽谤，因而陷入重度抑郁，不得已报警。
2月 24日，今日头条“平台治理开放日”上发布的《2024年度治理报告》显示，平台全年累计拦截不实信息超500万条，拦截和处置涉嫌诈骗内容超 200万条。随着人工智能的发展，今日头条面临诸多挑战。去年，平台拦截低质 AI 内容超 93万条，处罚同质化发文超 781万篇。
梁迎修指出，法律是治理网络谣言的有效手段，我国法律为网络谣言治理提供了充分依据。刑法中有编造传播虚假恐怖信息罪、侮辱罪、诽谤罪等罪名；民法典对谣言侵权责任有详细规定；治安管理处罚法规定对网络谣言传播的行政制裁措施；网络安全法等互联网专门法律条款，明确了公民和平台在维护网络安全、打击网络谣言方面的责任。
“目前，生成式 AI 技术加剧了谣言的欺骗性，权利受损的个体维权需投入大量时间与经济资源，维权成本很高，治理谣言还需要法律与技术的双重干预。”梁迎修表示，政府应建立信息发布辟谣平台，平台要采取必要措施防范谣言传播，切实履行维护网络生态的社会责任。媒体要及时转发权威辟谣和真实信息，携手推动谣言治理。公众要提升网络素养，积极参与相关培训。
今日头条生态治理运营负责人韩雨桐介绍，对于虚假谣言，今日头条建立起三大核心治理能力，包括谣言库、权威信源库以及专业审核团队，并于2024年在发文下方增加权威媒体报道来源标签，在保障资讯真实性的基础上，为用户提供更多客观视角。针对近年来快速发展的AI技术和涌现的低质内容，平台在鼓励用户使用AI提效的基础上，保护原创空间，迅速升级、迭代AI模型的识别能力，加大AI内容的审核力度。
陆洪磊表示，如果没有AI 技术助力谣言识别，仅靠传统手段，此类虚假账号及谣言的治理难度将显著增大。
陆洪磊建议平台建立谣言知识库，对虚假内容实施前置拦截，以AI 技术识别 AI 谣言，着重强化机器识别模型训练，对多次违规账号予以严惩，并对 AI 生成内容进行明确标注；建立跨平台线索互通机制，推动相关法律细则落地实施。
同时，他建议平台开展辟谣教育，致力于提升公众数字免疫力，倡导网民践行“三秒原则”，即在转发信息前，花三秒时间仔细思考其来源与逻辑合理性。
“一方面要消灭假的信息，另一方面要主动传播真实信息。”今日头条内容策划负责人刘姗姗表示，2023年以来平台推出《头条讲真的》项目，联合医学、财经、法律等领域专业创作者，为平台治理工作拓展新的思路。截至 2024年，《头条讲真的》发布科普、辟谣等主题视频，全网线亿，成为今日头条健康和优质内容生态的重要一环。
