这是 Beta 探索课程，内容结构、实验步骤和示例可能会继续调整。
内容审核
为什么审核重要
视频是内容平台最容易被滥用的载体：涉黄、暴恐、版权、低质画面都可能藏在视频里。如果审核不到位，违规内容会进入推荐池，造成安全和合规事故。
视频进入推荐池前需要审核，而且审核要分级。
审核的三层
| 层 | 内容 |
|---|---|
| 机器审核（画面） | 涉黄、暴恐、版权、低质画面 |
| 文本审核 | 标题、描述、标签 |
| 人工复核 | 机器不确定或高风险内容 |
审核结果不只是一刀切
审核结果不只是「通过 / 拒绝」，而是分级处置：
| 结果 | 处置 |
|---|---|
| 通过 | 正常发布，进推荐池 |
| 边界内容 | 可发布但不进推荐，只允许主页 / 搜索访问 |
| 违规 | 拒绝，按严重程度封禁 |
| 存疑 | 人工复核 |
边界内容这个分类很关键：它避免「要么全推、要么全禁」的粗暴二分，让系统可以控制边界内容的推荐权重。
审核与推荐联动
- 审核风险等级作为内容特征进入排序模型。
- 高风险的边界内容自动降权，不进入大规模推荐。
- 审核驳回 / 举报激增时，触发紧急下架和复核。
审核的时效
- 机器审核要快：几秒内给出初判，保证发布体验。
- 人工复核有排队：明确优先级（高风险先审）。
- 审核超时要告警，避免内容卡在未知状态。
一句话
内容审核是推荐系统的质量闸门：分级处置（通过 / 边界 / 拒绝 / 存疑），把违规挡在推荐池外，把边界内容控制在低曝光，并把风险等级喂给排序模型。
下一节看内容特征与入库发布——推荐系统到底消费什么。
发现内容有问题？
告诉我们哪里需要改进。