抖音一季度封禁黑产账号超260万，强化AI治理保障平台安全稳定

抖音致力于提升AI治理能力，一季度内封禁了涉及水军、欺诈等黑产账号共计260万个，以维护平台健康、公正的环境，这一行动体现了抖音对于打击网络黑产行为的坚决态度，也展示了其运用AI技术进行治理的成效。

4月22日,抖音发布了《2023年第一季度黑产治理数据报告》，自2023年以来，抖音持续加强对黑色产业链的打击力度，随着AI技术在治理场景中的深度应用，平台在黑产违规场景的巡检、预警、研判等环节的效率获得了大幅提升。

今年第一季度,抖音共封禁水军、欺诈和违规导流相关黑产账号超过260万个，并将涉嫌违法犯罪的线索上报有关部门。

AI智能体提升网络水军巡检效率达十倍

今年以来,抖音风险治理团队以“AI能力”为核心，构建覆盖风险感知、智能决策、闭环处置的治理体系，基于大模型，系统性提升AI在复杂场景下的风险治理应用，单个案例的处理时间达到了秒级，各环节运行的综合准确率达到85%以上。

以网络水军的治理为例,尽管平台在长期治理中已经形成了一套流程并实现了部分内容自动化运行，但日常的研判、回扫等工作仍主要依赖人工处置，随着大模型的发展，工作人员利用AI能力构建出智能机器人工具，在风险发现、风险预警、线上巡检、风险研判、风险回扫等多个环节实现线上自动运营，尤其是“刷量”的识别和处置上，人工智能极大提高了处置链路的效率，不仅能在3分钟内完成自动研判，且准确率高达95%以上，在今年第一季度的试运行中，平台网络水军服务违规的巡检效率提升了10.25倍，日均拦截违规请求达到6000万次，封禁水军账号超过20万个。

加强欺诈安全提醒，每日发送反诈短信超80万条

本季度,仿冒抖音客服的诈骗套路仍在升级变化，抖音在多个产品页面强化了反诈提醒，并升级了“验证助手”工具，用户可输入电话、短信、网址等信息验证相关信息是否来自抖音官方，用户也可直接拨打95152进行核实。

虚假人设和交易导流诈骗也是今年以来黑产团伙重点开展的诈骗手段,针对这种情况，抖音反诈中心工作人员提醒用户，请勿轻信陌生人邀请去第三方平台“交友”“赚钱”的信息，今年一季度，抖音进一步完善了仿冒、购物、刷单、交友等多个场景的安全模型，重点解决小众聊天场景下诈骗问题。

自今年年初至今,抖音共封禁欺诈相关账号超过140万个，每日下发提醒短信超过80万条，拨打反诈预警电话近17万次。

建立多账号链路识别体系，阻断违规外链导流风险

今年,违规导流手段呈现出多链路特点，为了解决此类问题，抖音建立了多个账号长链路的风险识别体系，从事前、事中、事后等多个环节切断黑产账号之间的联系并对违规账号进行统一处置，在AI技术的深度应用下，一季度站内相关违规的举报量下降了73.3%，平台封禁导流违规账号近百万个，处置违规视频内容达到745万条。

《2023年第一季度黑产治理数据报告》展示了抖音在打击黑色产业链方面取得的显著成果和持续努力，通过加强AI技术的应用和构建智能体系，抖音不断提高在黑产违规场景的效率，保护用户免受欺诈和网络水军等黑产行为的侵害。