近期，抖音平台公布了其2025年第一季度针对黑色产业链的打击成果，揭示了AI技术在提升治理效率方面的显著作用。
自2025年起，抖音不断强化对黑产的打击力度，尤其在AI技术的加持下，平台在识别、预警和处理违规场景上的能力得到了质的飞跃。第一季度，抖音成功封禁了与水军、欺诈和违规导流相关的黑产账号共计260万个，并将涉嫌违法的线索移送至相关部门。
在AI智能体的搭建上，抖音风险治理团队依托大模型技术，构建了从风险感知到智能决策再到闭环处置的全方位治理体系。这一体系使得单个案例的处理时间缩短至秒级，整体准确率超过85%。特别是在网络水军的治理上，AI技术的应用实现了线上自动运营，将巡检效率提升了10倍以上。在试运行期间，平台日均拦截违规请求6000万次，封禁水军账号超过20万个。
面对不断升级的诈骗手段，抖音也加强了用户的安全提醒。本季度，仿冒抖音客服的诈骗行为持续演变，抖音通过在多个产品页面增加反诈提醒，并升级“验证助手”工具，日均保护潜在受害人5万名。同时，平台还针对虚假人设和交易导流诈骗进行了重点打击，提醒用户不要轻信陌生人邀请至第三方平台的信息，并加强了对小众聊天场景下诈骗问题的防范。
为了进一步完善反诈机制，抖音在一季度优化了多个场景的安全模型，包括仿冒、购物、刷单和交友等。针对杀猪盘、色情导流交易等高危场景，平台加大了短信和电话外呼的用户提醒力度，自2025年以来，已封禁欺诈相关账号140万个，每日下发反诈提醒短信超过80万条，拨打反诈预警电话近17万次。
在违规导流的治理上，抖音面对的是多链路手段的挑战。黑产团伙利用多个账号在多个场景进行配合操作，使得平台需要精准定位和分析整个链路上的违规信息。为了解决这一难题，抖音搭建了多账号长链路的风险识别体系，从事前、事中、事后等多个环节切断黑产账号之间的联系，并结合大模型的优势自动梳理黑产链路的关键证据。这一举措使得站内相关违规的举报量下降了73.3%，封禁导流违规账号近100万个，处置违规视频内容745万条。
抖音还将相关线索上报至相关部门，配合打击违规导流团伙，展现了平台在维护网络安全方面的决心和行动力。
