基础治理

为什么第一版就要治理

弹幕是公开展示的内容。没有治理的房间,会被刷屏、广告、攻击言论毁掉体验,甚至带来合规风险。

早期也要加入最基本的治理,但规则不必一开始很复杂,必须预留扩展点。

四类基础治理

治理作用
用户发送频率限制防止单用户刷屏
房间级刷屏限制防止群体刷屏
敏感词过滤拦截违规内容
黑名单与禁言处理恶意用户

频率限制

  • 用户维度:单用户每秒 / 每分钟最多发 N 条。
  • 房间维度:单房间每秒最多进多少条,超出丢弃或限速。
  • 实现:Redis 计数器 / 滑动窗口,放实时链路。

频率限制要注意:

  • 误杀正常用户(连击打 call 的观众)→ 限制合理 + 允许连击合并。
  • 攻击者换 IP / 换号 → 结合设备、行为特征(更复杂,后续演进)。

敏感词过滤

  • 维护敏感词库,命中即拦截 / 替换 / 转人工。
  • 匹配要快:在实时链路做,不能拖慢发送。
  • 词库要可更新:新违规词出现后尽快生效。

禁言与黑名单

  • 禁言状态存 Redis(实时判断)或本地缓存。
  • 管理员禁言后,要尽快在实时链路生效(下一条就拦)。
  • 黑名单用户无法进入房间或发送。

治理的扩展点

基础治理要预留扩展点,为后续演进铺路:

  • 治理动作(拦截 / 降权 / 限速)可配置。
  • 治理结果可审计(谁、何时、为什么)。
  • 命中数据可回流(训练更聪明的风控模型)。

一句话

基础治理是弹幕系统的护栏:频率限制、刷屏控制、敏感词、禁言四件套。第一版做到「能用、可配、可审计」,复杂风控后续再演进。

下一章把 HTTP 轮询升级为 WebSocket 长连接,让消息真正实时到达。

发现内容有问题?

告诉我们哪里需要改进。