网络暴力治理进入新阶段：AI生成内容首次被纳入监管框架

7月29日，国家互联网信息办公室公布《网络暴力信息治理规定（征求意见稿）》，标志着我国对网络暴力的治理迈出了系统性的一步。这份草案不仅针对传统形式的网络欺凌，更前瞻性地将人工智能生成的内容纳入了监管视野。

平台责任全面强化：从被动处置到主动防护

新规草案对网络平台提出了更具体、更严格的要求。核心在于推动平台从“事后处理”转向“事前预防”和“事中干预”。

  • 建立智能检测系统：草案要求平台必须建立网络暴力内容的识别和分类机制。这意味着平台需要投入技术资源，开发或引入能够自动识别辱骂、诽谤、人肉搜索等有害信息的系统。
  • 推出“一键防护”功能：平台需为用户提供便捷的自我保护工具。开启后，用户可限制非关注者的评论、私信和@提醒，在遭遇集中网暴时能快速切断骚扰源。
  • 完善账号治理与上报：对多次、恶意发布网络暴力信息的账号，平台将采取列入黑名单、限制功能直至关闭账号等措施，并需定期向主管部门报告处置情况。

监管范围的历史性扩展：直面AI技术挑战

本次草案最受业界关注的亮点，是明确将利用人工智能技术生成的深度伪造（Deepfake）图像、视频以及通过算法合成的骚扰文本列入网络暴力信息范畴。

这一规定直接回应了近年来利用AI换脸技术进行诽谤、侮辱，或利用AI批量生成恶意评论的新型网络暴力。监管层意识到，技术的滥用正在制造更隐蔽、破坏力更强的伤害，必须从规则层面加以遏制。

平台先行响应，匿名功能面临收紧

在规则草案公布前，已有平台主动调整策略。国内知名问答社区知乎近期进一步收紧了匿名功能的发布权限。这一举动被普遍视为平台为适应更严格的监管环境而进行的“自我加压”。匿名虽是网络表达的一种方式，但也常成为网络暴力的“保护伞”。新规之下，平台对匿名发布内容的审核与管理责任将显著加重。

目前，该草案正处于为期一个月的公开征求意见阶段。各界反馈经汇总修改后，规定将正式出台，为营造清朗网络空间提供更坚实的制度依据。