> 当前位置：首页 >

抖音推出AI 反网暴行动从“被动处置”向“主动保护”转型

4Rwr53hvgPNtech.huanqiu***article抖音推出AI 反网暴行动从“被动处置”向“主动保护”转型/e3pmh164r/e3pmtm015<article><section data-type="rtext"><p>评论区刷屏的一句“到七天了吗”，看似正常，却可能是对某个网购消费者的无端围猎。近日，针对网络暴力呈现的新形态，抖音推出AI反网暴行动，上线AI反网暴Agent（智能体），让网暴识别模型、研判模型与人工协同工作，并优化外呼救助机制，覆盖风险发现、***研判、主动治理到外呼救助，建立起早干预、早保护的治理体系，平台治理实现从“被动等举报”到“主动找风险” 的转变。</p><p>系统升级后，平台日均识别出的潜在被网暴风险人群扩大 91.5%，每天有数千名用户收到预警后主动开启防网暴功能，因风险等级高而被人工外呼援助的受害者数量增长147%。</p><p><em data-scene="strong">不用等举报信号平台主动识别潜在风险</em></p><p>如今的网暴早已不是直白的辱骂，更多是表情包阴阳怪气、谐音梗攻击、断章取义带节奏，这些隐蔽的恶意很难被传统审核识别；还有些伤害是长期、零散的骚扰，积累起来同样会让人身心俱疲。</p><p>传统 “人工审核+举报处置” 治理策略已难以适配复杂的网络生态：一方面，依赖用户举报，往往等处理时，伤害已经造成，难以做到提前预警保护；另一方面，常规审核只能筛查数天内的内容，容易遗漏持续时间长、跨热点周期的攻击，也无法兼顾未成年人、老年人等不同群体的心理承受能力，比如对成年人来说无关紧要的玩梗，可能会给孩子带来巨大心理压力。</p><p><i class="pic-con"></p><p>抖音升级后的 AI 反网暴Agent，可以让网暴识别模型与研判模型同时工作，在一些风险发酵的早期就捕捉到用户的求助“信号”。其中，网暴识别模型不再只盯着单条评论的关键词，而是会关注用户的整体互动情况 —— 当评论区突然涌入大量负面言论、有人频繁访问某个人的主页、@某账号的异常信息增多时，系统就会开始计算 “网暴风险得分”。更重要的是，AI 会全天候复盘误判案例，自主学习新的网暴手段，哪怕是刚流行起来的新梗攻击，也能快速识别，防止恶意钻空子。</p><p>网暴研判模型则会给平台开启“上帝视角”，从***维度展开全局分析。它会整合用户近30 天内的文字、图片、***、音频等互动数据，还原完整的***脉络，精准区分正常的观点讨论和恶意攻击，避免误判影响用户的正常交流。针对未成年人、老年人等特殊群体，模型还设置了梯度化识别标准，适当提高风险敏感度，给更容易受伤的群体更多保护。同时，模型会输出包含***经过、风险来源、关键证据的清晰结论，让人工研判专家能更快了解情况，及时开展外呼救助。</p><p><em data-scene="strong">分层保护精准响应让受害者不再孤立无援</em></p><p>基于 AI 反网暴Agent的精准识别与研判结果，抖音已建立更贴合用户需求的分层保护机制，兼顾治理效率与人文关怀。比如：低风险用户只会收到App端内提醒，一键就能开启一键防护、评论过滤、陌生人私信限制等工具；如果风险较高，或是属于特殊保护群体，平台会主动通过智能外呼联系用户，安排专人一对一提供帮助，同步排查隐私泄露风险，防止伤害扩大。</p><p><i class="pic-con"></p><p>对于施暴者，平台会根据情节轻重***取梯度化处置，包括下架违规内容、限制互动功能、永久封禁账号等措施。对于跨账号持续骚扰、情节恶劣的行为，平台会酌情升级处置；涉嫌违法犯罪的，平台将主动配合公安机关提供相关证据，依法追究法律责任。</p><p>抖音相关负责人表示，网络生态治理是一项长期且复杂的工作，没有一劳永逸的解决方案。平台将持续迭代 AI 反网暴系统的技术能力，提升主动保护效果，还会对“抖音小安”的陪伴功能进行迭代，面向用户推出更具人文关怀性的产品功能。最后，特别呼吁广大网民文明理性发言，共同维护清朗、友善的网络空间。（心月）</p></section><img src='/image/155861-0' alt='抖音推出AI 反网暴行动从“被动处置”向“主动保护”转型'> </p> </div> <div class="point"> <span class="to_prev col-xs-12 col-sm-6 col-md-6"><a href="/detail/126420.html" title=" 女170 100斤胖吗?"> 上一篇 : 女170 100斤胖吗? </a> </span> <span class="to_next col-xs-12 col-sm-6 col-md-6"><a href="/detail/126034.html" title="Postgres 和 MySQL 应该怎么选？"> 下一篇 : Postgres 和 MySQL 应该怎么选？ </a> </span> <div style="clear: both;"></div> </div> </div> <div class="lists_related"> <h2 class="left_h2">Related News</h2> <div class="list_news related_news"> <ul> <li><a href="/detail/126701.html" title="如何设计一条 prompt 让 LLM 陷入死循环?">如何设计一条 prompt 让 LLM 陷入死循环?</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/126997.html" title="UFC冠军有多厉害？">UFC冠军有多厉害？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/126598.html" title="多个充电宝或电芯品牌的 3C 认证证书被暂停，涉及罗马仕、安克、绿联、倍思、安普瑞斯等，发生了什么？">多个充电宝或电芯品牌的 3C 认证证书被暂停，涉及罗马仕、安克、绿联、倍思、安普瑞斯等，发生了什么？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/126733.html" title="为什么美军B2实战以后有人认为一部分网友又没信心了？">为什么美军B2实战以后有人认为一部分网友又没信心了？</a><span class='news_time'>2025-06-27</span></li> <li><a href="/detail/126459.html" title="请问27寸4K显示器哪个好呀？">请问27寸4K显示器哪个好呀？</a><span class='news_time'>2025-06-27</span></li> </ul> </div> </div> </div>  <div class="col-xs-12 col-sm-4 col-md-3"> <div class="left_nav" id="categories"> <h2 class="left_h2">Categories</h2> <ul class="left_nav_ul" id="firstpane"> <li> <a class="biglink" href="/list/jinshengzhen">金胜镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/gushanzhen">古鄯镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/dingshuizhen">定水镇<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/taiqianxian">台前县<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/chayaxiang">茶垭乡<span class="menu_head">+</span></a></li> <li> <a class="biglink" href="/list/miyangzhen">弥阳镇<span class="menu_head">+</span></a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 金胜镇</h2> <ul class="left_news"> <li><a href="/detail/126996.html" title="雷军为什么不愿意用性价比打法进军NAS？">雷军为什么不愿意用性价比打法进军NAS？</a></li> <li><a href="/detail/126804.html" title="求推荐程序开发笔记本！?">求推荐程序开发笔记本！?</a></li> <li><a href="/detail/126672.html" title="女朋友很喜欢《大明王朝1566》，生日适合送什么礼物？">女朋友很喜欢《大明王朝1566》，生日适合送什么礼物？</a></li> <li><a href="/detail/126688.html" title="你见过最恶心的邻居是什么样子？">你见过最恶心的邻居是什么样子？</a></li> <li><a href="/detail/126047.html" title="目前最具性价比的全栈路线是啥？">目前最具性价比的全栈路线是啥？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 古鄯镇</h2> <ul class="left_news"> <li><a href="/detail/126012.html" title="买到烂尾楼到底该有多绝望？">买到烂尾楼到底该有多绝望？</a></li> <li><a href="/detail/126757.html" title="如何评价女明星梅根福克斯的身材？">如何评价女明星梅根福克斯的身材？</a></li> <li><a href="/detail/126620.html" title="家里想搞个服务器，有什么好的建议方案吗？">家里想搞个服务器，有什么好的建议方案吗？</a></li> <li><a href="/detail/126798.html" title="为什么iOS做不到在后台刷新微信的消息呢？">为什么iOS做不到在后台刷新微信的消息呢？</a></li> <li><a href="/detail/126952.html" title="现在个人博客不能备案了吗？">现在个人博客不能备案了吗？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 定水镇</h2> <ul class="left_news"> <li><a href="/detail/126410.html" title="你的低成本爱好是什么？">你的低成本爱好是什么？</a></li> <li><a href="/detail/126024.html" title="为什么有些NAS用户弄那么多硬盘?">为什么有些NAS用户弄那么多硬盘?</a></li> <li><a href="/detail/126371.html" title="Flutter 为什么没有一款好用的UI框架？">Flutter 为什么没有一款好用的UI框架？</a></li> <li><a href="/detail/126975.html" title="作为一个腰细腿粗的女生什么感觉？">作为一个腰细腿粗的女生什么感觉？</a></li> <li><a href="/detail/126589.html" title="妈妈和儿子需要避嫌吗？">妈妈和儿子需要避嫌吗？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 台前县</h2> <ul class="left_news"> <li><a href="/detail/126724.html" title="为什么年轻的肉体让人沉迷？">为什么年轻的肉体让人沉迷？</a></li> <li><a href="/detail/126458.html" title="中国狸花猫有什么优缺点呢？">中国狸花猫有什么优缺点呢？</a></li> <li><a href="/detail/126422.html" title="2025 年 9 月 3 日天安门大阅兵，中国将对外释放出什么信号？">2025 年 9 月 3 日天安门大阅兵，中国将对外释放出什么信号？</a></li> <li><a href="/detail/126516.html" title="字节引入Rust是否代表J***a的缺点Go也没解决？">字节引入Rust是否代表J***a的缺点Go也没解决？</a></li> <li><a href="/detail/126756.html" title="干猎头有前途吗？">干猎头有前途吗？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 茶垭乡</h2> <ul class="left_news"> <li><a href="/detail/126676.html" title="Node.js是谁发明的?">Node.js是谁发明的?</a></li> <li><a href="/detail/126808.html" title="为什么日本电影很少出现白丝？">为什么日本电影很少出现白丝？</a></li> <li><a href="/detail/126008.html" title="数据库不就是增删改查一些数据吗？研发一个数据库到底难在哪了？">数据库不就是增删改查一些数据吗？研发一个数据库到底难在哪了？</a></li> <li><a href="/detail/126015.html" title="后端开发除了增删改查还有什么？">后端开发除了增删改查还有什么？</a></li> <li><a href="/detail/126133.html" title="你会从mac转向Windows吗？">你会从mac转向Windows吗？</a></li> </ul> </div> <div class="left_new"> <h2 class="left_h2">Latest 弥阳镇</h2> <ul class="left_news"> <li><a href="/detail/126554.html" title="有哪些事情是你去了越南以后才知道的？">有哪些事情是你去了越南以后才知道的？</a></li> <li><a href="/detail/126507.html" title="你是因为什么肥胖起来的?">你是因为什么肥胖起来的?</a></li> <li><a href="/detail/126697.html" title="新手想要打好篮球，主要练运球还是投篮？">新手想要打好篮球，主要练运球还是投篮？</a></li> <li><a href="/detail/126786.html" title="你自己觉得自己的身材好吗？">你自己觉得自己的身材好吗？</a></li> <li><a href="/detail/126252.html" title="作为一个程序员，发技术博客推荐什么平台？博客园值得写吗？">作为一个程序员，发技术博客推荐什么平台？博客园值得写吗？</a></li> </ul> </div> <div class="index_contact"> <h2 class="left_h2">Contact Us</h2> <p style="padding-top:20px;">QQ: </p> <p>Phone: </p> <p>Tel: </p> <p>Email: </p> <p>Add: </p> </div> </div> </div> </div> <nav class="navbar navbar-default navbar-fixed-bottom footer_nav"> <div class="foot_nav btn-group dropup"> <a class="dropdown-toggle" data-toggle="dropdown" aria-haspopup="true" aria-expanded="false" href="#"> <span class="glyphicon glyphicon-share btn-lg" aria-hidden="true"></span> Share</a> <div class="dropdown-menu webshare">  <div class="a2a_kit a2a_kit_size_32 a2a_default_style"> <a class="a2a_dd" href="https://www.addtoany.com/share_save"></a> <a class="a2a_button_facebook"></a> <a class="a2a_button_twitter"></a> <a class="a2a_button_google_plus"></a> <a class="a2a_button_linkedin"></a> </div> <script type="text/javascript" src="/template/moban404/skin/js/page.js"></script>  </div> </div> <div class="foot_nav"><a href="tel:"><span class="glyphicon glyphicon-phone btn-lg" aria-hidden="true"></span>Phone</a></div> <div class="foot_nav"><a id="gotocate" href="#"><span class="glyphicon glyphicon-th-list btn-lg" aria-hidden="true"></span>Menu</a></div> <div class="foot_nav"><a id="gototop" href="#"><span class="glyphicon glyphicon-circle-arrow-up btn-lg" aria-hidden="true"></span>Top</a></div> </nav> <footer> 版权@|备案:<a href="https://beian.miit.gov.cn/" rel="nofollow" target="_blank">粤IP*******</a>|<a href="/sitemap.xml">网站地图</a></p> </footer>  <link rel="stylesheet" type="text/css" href="/template/moban404/skin/css/eonline.css"/> <div id="cmsFloatPanel"> <div class="ctrolPanel"> <a class="service" href="#"></a> <a class="message" href="#"></a> <a class="qrcode" href="#"></a> <a class="arrow" title="Top" href="#"></a> </div> <div class="servicePanel"> <div class="servicePanel-inner"> <div class="serviceMsgPanel"> <div class="serviceMsgPanel-hd"><a href="#"><span>关闭</span></a></div> <div class="serviceMsgPanel-bd">  <div class="msggroup"> <a target="_blank" href="http://wpa.qq.com/msgrd?v=3&uin=&site=qq&menu=yes"><img class="qqimg" src="/template/moban404/skin/images/qq.gif" alt="QQ在线客服"/></a> </div> </div> <div class="serviceMsgPanel-ft"></div> </div> <div class="arrowPanel"> <div class="arrow02"></div> </div> </div> </div> <div class="messagePanel"> <div class="messagePanel-inner"> <div class="formPanel"> <div class="formPanel-bd">  <div class="a2a_kit a2a_kit_size_32 a2a_default_style"> <a class="a2a_dd" href="https://www.addtoany.com/share_save"></a> <a class="a2a_button_facebook"></a> <a class="a2a_button_twitter"></a> <a class="a2a_button_google_plus"></a> <a class="a2a_button_linkedin"></a> </div> <script type="text/javascript" src="/template/moban404/skin/js/page.js"></script>  <a type="button" class="btn btn-default btn-xs" href="#" style="margin: -20px 0px 0px 8px;">close</a> </div> </div> <div class="arrowPanel"> <div class="arrow01"></div> <div class="arrow02"></div> </div> </div> </div> <div class="qrcodePanel"> <div class="qrcodePanel-inner"> <div class="codePanel"> <div class="codePanel-hd"><span style="float:left">Scan the qr code</span><a href="#"><span>Close</span></a></div> <div class="codePanel-bd"> <img src="/template/moban404/skin/images/wap.jpg"/> </div> </div> <div class="arrowPanel"> <div class="arrow01"></div> <div class="arrow02"></div> </div> </div> </div> </div> <script type="text/javascript" src="/template/moban404/skin/js/online.js"></script> <script src="/template/moban404/skin/js/jquery.smoove.min.js"></script> <script>$('.adv_img,.title_h2,.news_box,.foot_logo,.contact_btn').smoove({offset:'10%'});</script> </body> </html>

抖音推出AI 反网暴行动 从“被动处置”向“主动保护”转型

抖音推出AI 反网暴行动从“被动处置”向“主动保护”转型