随着生成式AI技术的迅猛发展，信息传播的门槛被极大降低，而谣言和低质内容的传播力、说服力以及伪装性却空前增强。这一变化不仅破坏了网络生态，更对用户的认知、思考能力和道德价值判断构成了潜在威胁。面对这一严峻形势，今日头条与抖音两大平台联手出击，展开了一场旨在净化网络环境、保护用户认知的“认知战争”保卫战。
据今日头条发布的《2024年度治理报告》显示，该平台在过去一年中拦截了超过500万条不实信息，封禁了4.77万个造谣、传谣等违规账号。同时，针对低质量AI内容，今日头条也采取了严厉措施，处置了超93万条相关内容，并封禁、禁言了相关账号超2.9万个。这些举措有效遏制了谣言和低质内容的蔓延，为用户提供了一个更加清朗的网络空间。
为了更有效地打击谣言，今日头条推出了“治谣套餐”，包括谣言库、权威信源库和专业审核团队。依托谣言库所建立的大模型，平台能够通过关键词抓取、内容比对等方式快速验证信息的真伪。而权威信源库的存在，则帮助谣言库和审核人员进行信息判定，并在定位谣言后进行精准辟谣。此外，人工审核团队与AI审核机制的搭配，使得平台内部的治理流程更加灵动可靠，进一步净化了用户的阅文环境。
在打击谣言的同时，今日头条还积极推广科普内容和权威内容，以提高用户的辨别能力和认知水平。平台与医学、法律等领域的专家合作，推出了《头条讲真的》项目，对不实信息和劣质信息主动出击。这一举措不仅维护了优质内容的增量，还提升了用户的科学素养和道德价值判断。
与今日头条相呼应，抖音也在积极应对谣言和低质内容的挑战。在字节跳动全员会上，CEO梁汝波强调抖音要做好虚假信息和谣言的治理工作，对无底线博流量的行为进行打击。为此，抖音准备了安全与信任中心，推动算法和平台治理的透明化。同时，针对不同问题，抖音推出了多种治理方案。例如，针对争议内容，抖音扩大了与权威媒体、机构的合作，在各类热点事件中加强人工研判与核实；针对优质内容，抖音加大了扶持力度，预计将在2025年增加300%的优质内容曝光；针对信息茧房问题，抖音将进一步完善推荐算法，加强内容多样性探索、兴趣探索和匹配等机制，以补充推荐信源。
值得注意的是，AI谣言的泛滥在一定程度上反映了用户对AI技术的盲目信任。许多谣言往往打着AI的旗号，利用用户对技术的神秘感和好奇心进行传播。然而，AI并没有意识，它只能根据提示词和对话历史进行延伸搜索，并在数据库中抓取对应的内容进行回复。如果用户提出的要求过于抽象或模糊，AI就可能因为无法锚定具体信息而产生“幻觉效应”，开始一本正经地胡说八道。此外，一些恶意分子还利用AI截图传播谣言，通过“角色扮演法”“复读游戏法”等途径生成特定信息，混淆视听。
为了打赢这场“认知战争”保卫战，除了平台加强治理和审核外，用户也需要提高警惕性和辨别能力。用户应该学会从权威渠道获取信息，对未经证实的消息保持理性态度，不盲目跟风传播。同时，用户还应该加强自我学习和提升认知能力，以便更好地应对信息时代的挑战。
