该解决方案有何用途?
该解决方案基于华为云内容审核 Moderation的图像审核技术构建,可自动对用户上传到对象存储服务 OBS的图片进行审核,识别图片中是否包含涉黄、广告、涉政涉暴、涉政敏感人物等违规内容,降低业务违规风险。适用于如下场景:
1. 视频直播:在互动直播场景中,成千上万个房间并发直播,人工审核直播内容几乎不可能。基于图像检测能力,可对所有房间内容实时监控,识别可疑房间并进行预警。
2. 在线商城:智能审核商家/用户上传图像,高效识别并预警不合规图片,防止涉黄、涉暴、涉政敏感类图像发布,降低人工审核成本和业务违规风险。
3. 网站论坛:不合规图片的识别和处理是用户原创内容(UGC)类网站的重点工作,基于内容审核,可以识别并预警用户上传的不合规图片,帮助客户快速定位处理,降低业务违规风险。
方案架构
该解决方案基于华为云内容审核 Moderation的图像审核技术构建,可帮助企业快速使用AI技术,实现图片审核的自动化处理。

内容审核-图片审核
版本:2.0.0
上次更新日期:2024年10月
来源:由华为云构建
部署:预计5分钟
卸载:预计5分钟
架构描述
新建OBS桶
1. 创建两个对象存储服务 OBS桶,一个提供给用户上传图片,另一个用于转储 违规图片和存放审核日志
2. 在函数工作流 FunctionGraph中创建函数,当OBS桶收到上传的图片后,会自动通知函数调用内容审核服务,并将违规图片进行替换和转储
3. 开通内容审核 Moderation,用于违规图片的内容审核
4. 使用事件网格 EG服务,创建一个事件订阅,作为函数工作流的OBS应用事件源触发器
已有OBS桶
1. 创建一个对象存储服务 OBS桶,用于转储违规图片和存放审核日志
2. 在云审计服务 CTS创建关键操作通知用来监控OBS桶标签状态
3. 在消息通知服务 SMN中创建主题订阅用来触发函数
4. 在函数工作流 FunctionGraph中创建函数,当OBS桶标签变化时,函数会自动获取OBS桶对象信息,调用内容审核服务,并将违规图片进行替换和转储
5. 开通内容审核 Moderation,用于违规图片的内容审核
6. 使用事件网格 EG服务,创建一个事件订阅,作为函数工作流的OBS应用事件源触发器
架构描述