内容审核
内容审核基于 AI 识别技术，帮助您自动检测文件中的违规内容，保障业务安全。
支持的审核类型
| 审核类型 | 说明 | 识别内容 |
|---|---|---|
| 图片审核 | 检测图片中的违规内容 | 涉黄、涉政、涉暴、违法、广告等 |
| 视频审核 | 检测视频中的违规内容 | 涉黄、涉政、涉暴、违法、广告等 |
| 音频审核 | 检测音频中的违规内容 | 涉黄、涉政、辱骂、违法、广告等 |
| 文本审核 | 检测文本中的敏感词汇 | 涉黄、涉政、辱骂、违法、广告等 |
| 文档审核 | 检测文档中的违规内容 | 支持 PDF、Word、Excel、PPT 等格式 |
主要功能
- 自动识别：基于深度学习技术，自动识别违规内容
- 自定义策略：根据业务需求配置审核策略和敏感词库
- 实时审核：支持上传时自动审核，第一时间拦截违规内容
- 回调通知：审核结果实时回调，快速响应
- 自动处理：支持对违规内容自动冻结或删除
应用场景
- UGC 内容审核：用户上传的图片、视频、文本内容审核
- 社交平台：评论、动态、聊天内容的安全审核
- 电商平台：商品图片、描述信息的合规审核
- 直播平台：直播画面、弹幕内容的实时审核
配置步骤
控制台访问路径
云开发平台 - 云存储 → 点击「前往 COS 存储桶」 → 左侧菜单「内容审核」 → 「自动审核配置」 → 选择审核类型（图片/视频/音频/文本/文档）
图片审核配置
1. 进入图片审核
- 在左侧菜单选择「内容审核」→「自动审核配置」→「图片审核」
2. 创建审核任务
- 点击「创建任务」按钮
- 选择审核类型：增量审核（自动审核新上传图片）或存量审核（审核已有图片）
- 配置审核策略：选择需要审核的场景（涉黄、涉政、涉暴、违法、广告等）
3. 设置审核结果处理
- 配置回调地址：接收审核结果通知
- 设置自动冻结规则：对违规内容自动冻结
- 选择审核结果存储位置
4. 启用任务
- 确认配置信息无误后，点击「确定」
- 任务创建后自动生效
API 调用方式：
视频审核配置
1. 进入视频审核
- 在左侧菜单选择「内容审核」→「自动审核配置」→「视频审核」
2. 创建审核任务
- 点击「创建任务」
- 设置审核范围：指定文件路径或选择整个存储桶
- 配置审核策略：涉黄、涉政、涉暴、违法、广告等
3. 配置审核参数
- 截帧方式：设置视频截帧间隔（如每 5 秒截取一帧）
- 审核维度：选择画面审核、音频审核或两者都审核
- 回调设置：配置审核结果回调 URL
4. 启用并监控
- 保存配置后任务自动执行
- 在任务列表查看审核进度和结果
API 调用方式：
音频审核配置
1. 进入音频审核
- 在左侧菜单选择「内容审核」→「自动审核配置」→「音频审核」
2. 创建审核任务
- 点击「创建任务」
- 选择待审核的音频文件或文件夹
3. 配置审核策略
- 选择审核场景：涉黄、涉政、辱骂、违法、广告等
- 设置语音识别语言（中文、英文等）
- 配置敏感词库
4. 设置回调和处理规则
- 配置审核结果回调地址
- 设置违规内容自动处理规则
- 保存并启用任务
API 调用方式：
文本审核配置
1. 进入文本审核
- 在左侧菜单选择「内容审核」→「自动审核配置」→「文本审核」
2. 配置审核策略
- 点击「审核配置」
- 选择审核类型：涉黄、涉政、辱骂、违法、广告等
3. 自定义敏感词库
- 添加业务相关的敏感词
- 设置词库优先级
- 配置命中规则
4. API 调用方式
- 文本审核主要通过 API 调用
- 在应用中集成文本审核 API
API 调用方式：
文档审核配置
1. 进入文档审核
- 在左侧菜单选择「内容审核」→「自动审核配置」→「文档审核」
2. 创建审核任务
- 点击「创建任务」
- 选择待审核的文档文件
3. 配置审核参数
- 支持格式：PDF、Word、Excel、PPT 等
- 选择审核场景和策略
- 设置审核结果通知方式
4. 查看审核结果
- 任务完成后查看详细审核报告
- 支持按页查看违规内容
- 导出审核结果报告
API 调用方式：
最佳实践
1. 增量审核 + 存量审核结合
- 增量审核：配置自动审核，新上传文件实时检测
- 存量审核：定期对已有文件进行全量扫描
2. 自定义敏感词库
根据业务特点添加行业相关敏感词：
- 电商平台：假货、仿品等相关词汇
- 社交平台：人身攻击、歧视性词汇
- 金融平台：非法集资、诈骗相关词汇
3. 人工复审机制
对于「疑似违规」的内容：
- 通过回调接收审核结果
- 将疑似违规内容放入人工复审队列
- 人工审核后做最终决策
4. 分级处理策略
根据违规程度采取不同措施：
- 轻度违规：警告用户，要求修改
- 中度违规：直接删除内容，记录违规次数
- 重度违规：冻结账号，上报相关部门
常见问题
Q: 审核需要多长时间？
A:
- 图片审核：通常在 1-3 秒内完成
- 视频审核：根据视频时长，通常为视频时长的 10%-20%
- 音频审核：根据音频时长，通常为音频时长的 10%-20%
- 文档审核：根据文档页数，通常 1 页 1-2 秒
Q: 审核准确率如何？
A: 数据万象基于腾讯多年积累的海量数据和深度学习技术：
- 图片审核准确率：≥ 99%
- 视频审核准确率：≥ 98%
- 文本审核准确率：≥ 99%
Q: 如何降低审核成本？
A: 建议采取以下策略：
- 只对用户上传内容进行审核，系统内容无需审核
- 根据用户信用等级调整审核策略（高信用用户可降低审核频率）
- 使用自定义策略，只审核必要的场景
Q: 是否支持私有化部署？
A: 数据万象内容审核是云服务，暂不支持私有化部署。