在今日举办的“今日头条平台治理开放日”上，安全运营负责人闫梦茹披露了平台2024年治理成果与2025年规划。
她指出，AI技术降低了低质量内容的洗稿门槛，如“蚂蚁AI”等工具加速了同质化内容的泛滥。数据显示，2024年平台累计处置同质化内容781万篇，封禁违规账号6.3万个，并配合警方针对地方团伙发布同质化谣言立案2起，发布治理公告6篇。
闫梦茹分析称，AI洗稿工具通过智能改写原文结构、替换关键词，可快速生成查重率低于25%的“伪原创”内容，极大降低了违规成本。这一技术被部分不法分子利用，批量制造虚假信息。例如，2024年上海“骨灰房”谣言即由AI洗稿工具生成，经犯罪团伙分发至上千个账号传播，最终被警方侦破。
在网络生态净化方面，平台2024年累计拦截虚假流量超150亿次，处置水军招募内容1.39万条，封禁违规账号72万个，禁言账号6000个。通过与公安部门合作反诈教育，平台全年发出风险提示超2500万次。
闫梦茹表示，2025年将重点升级AI模型识别能力，强化对低质内容、虚假流量的拦截效率。同时，加大线下打击力度，联合执法机关深挖洗稿工具开发与传播链条，并加强创作者教育，倡导原创与合规发布。