内容审核 MODERATION-华为云

内容审核 MODERATION-版本支持公告:常见问题

常见问题内容审核（V2）版本包含哪些服务？哪些API？涉及到哪些Region？表1 内容审核（V2）版本服务详情服务名 API名称 URI Region 文本审核（V2）文本内容审核（V2） POST /v1.0/moderation/text POST /v2/{project_id}/moderation/text 华北-北京一、华北-北京四、华东-上海一图像审核（V2）图像内容审核（V2） POST /v1.0/moderation/image POST /v2/{project_id}/moderation/image 华北-北京一、华北-北京四、华东-上海一图像内容审核（批量）（V2） POST /v1.0/moderation/image/batch POST /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务提交 POST /v1.0/moderation/image/batch/jobs POST /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 处理结果查询 GET /v1.0/moderation/image/batch GET /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务列表查询 GET /v1.0/moderation/image/batch/jobs GET /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一短语音内容审核语音内容审核（V2） POST /v1.0/moderation/voice POST /v2/{project_id}/moderation/voice 华北-北京四扭曲矫正扭曲矫正 POST /v1.0/moderation/image/distortion-correct 华北-北京一、华北-北京四清晰度检测清晰度检测 POST /v1.0/moderation/image/clarity-detect 华北-北京一、华北-北京四内容审核（V2）版本停止服务后，正在使用该版本的用户有哪些影响？在内容审核（V2）版本 EOS时间后：新用户不再支持开通内容审核（V2）服务。历史存量用户仍然可以使用内容审核（V2）版本，但我们将停止内容审核（V2）版本的后续演进与更新，内容审核（V2）版本服务运行过程中出现错误，不再提供该版本的任何技术服务支持，请您尽快切换至新版本内容审核（V3）服务。切换至内容审核（V3）版本产品价格是否有影响？内容审核（V3）版本共包含文本审核、图像审核、音频审核、视频审核、音频流审核、视频流审核、文档内容审核7个服务，其中文本审核和图像审核与V2版本的文本审核、图像审核计费一致，其余服务均为V3版本的新服务，不涉及。如何对接内容审核（V3）版本？在内容审核资料页，根据内容审核（V3）版本的《API参考》资料适配对接。

内容审核 MODERATION

内容审核 MODERATION-概述

概述内容审核（Content Moderation），是基于图像、文本、音频、视频、音频流、视频流、文档的检测技术，可自动检测涉黄、广告、涉暴等内容，对用户上传的图片、文字、音频、视频、音频流进行内容审核，帮助客户降低业务违规风险。内容审核以开放API（Application Programming Interface，应用程序编程接口）的方式提供给用户，用户通过调用API获取推理结果，帮助用户自动采集关键数据，打造智能化业务系统，提升业务效率。您可以使用本文档提供的内容审核服务API的描述、语法、参数说明及样例等内容，进行相关操作，所支持的全部操作请参见API概览。在调用内容审核API之前，请确保已经充分了解内容审核相关概念，详细信息请参见产品介绍。父主题：使用前必读

内容审核 MODERATION 使用前必读

内容审核 MODERATION-创建视频内容审核作业:请求示例

请求示例创建视频内容审核作业，事件类型为默认事件，检测的风险类型为涉黄，暴恐，图文违规内容检测。 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs”，“project_id”为项目ID，获取方法请参见获取项目ID。 POST https://{endpoint}/v3/{project_id}/moderation/video/jobs { "data" : { "url" : "https://xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn","terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "http://xxxx" }

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code" : "AIS.0401", "error_msg" : "The input parameter event_type is incorrect." }

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:响应参数

响应参数状态码： 200 表5 响应Body参数参数参数类型描述 request_id String 本次请求的唯一标识，用于问题排查，建议保存。 job_id String 作业唯一标识。状态码： 400 表6 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。通过调用IAM服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。表3 请求Body参数参数是否必选参数类型描述 data 是 data object 视频数据输入。 biz_type 否 String 用户在控制台界面创建的自定义审核策略名称。如果请求参数中传了biz_type则优先使用biz_type。如果用户没传biz_type则event_type，image_categories必须传。 event_type 否 String 事件类型，可选值如下： default：默认事件 group_message：群聊视频 message：私聊视频 live：秀场直播 dynamic：动态 image_categories 否 Array of strings 视频中画面需要检测的风险类型，列表不能为空。 terrorism：暴恐内容的检测 porn：鉴黄内容的检测 image_text：图文违规内容的检测（检测图片中出现的广告、色情、暴恐的文字违规内容以及二维码内容） audio_categories 否 Array of strings 视频中音频需要检测的风险类型，不传或为空时表示不审核音频维度。 porn：涉黄检测 ad: 广告检测 moan: 娇喘检测 abuse: 辱骂检测 callback 否 String 该字段非空时，检测结果会回调通知您的URL。该字段为空时，您需要定时轮询获取检测结果。说明：您的callback接口需要支持POST方法；回调数据格式，请参考查询视频内容审核作业的响应示例；您的服务端callback接口收到内容安全发送的结果后，如果在响应超时时间3秒内返回的HTTP状态码为200，则表示接收成功。其他HTTP状态码或响应时间大于3秒后返回状态码均视为接收失败，接收失败时，内容安全将重复发送多次检测结果。 seed 否 String 用于回调通知时校验请求是由华为云内容安全服务发起，您可以自定义。值为随机字符串，由英文字母、数字、下划线组成，不超过64个字符。说明：当seed非空时，headers中将包含X-Auth-Signature字段，字段的值使用HmacSHA256算法生成，待加密字符串由create_time、job_id、request_id、seed按照顺序拼接而成，密钥为seed。表4 data 参数是否必选参数类型描述 url 是 String 视频url地址。 frame_interval 否 Integer 截帧频率间隔，单位为秒，取值范围为1~60s。如果不传递默认5s截帧一次 language 否 String 支持的语言，当前只支持zh：中文，默认取值为zh。

内容审核 MODERATION 视频审核

内容审核 MODERATION-使用限制:文本内容审核（V2）

文本内容审核（V2）支持“华北-北京一、华北-北京四、华东-上海一”区域，新用户建议使用“华北-北京四”。只支持中文文本内容审核。待检测文本的编码格式为“utf-8”，限定5000个字符以内，文本长度超过5000个字符时，只检测前5000个字符。 “华北-北京四”默认API调用最大并发为50（表示1秒内最多请求50次），“华北-北京一、华东-上海一”默认API调用最大并发为5（表示1秒内最多请求5次）如需调整更高并发限制请通过工单联系专业工程师为您服务。

内容审核 MODERATION

内容审核 MODERATION-使用限制:图像内容审核（V3）

图像内容审核（V3）支持“华北-北京一、华北-北京四、华东-上海一”区域，新用户建议使用“华北-北京四”。支持识别处理JPG、PNG、JPEG、WEBP、GIF、TIFF、TIF、HEIF格式的图片。只支持中文图像内容审核。图像各边的像素大小在20到6000px之间。图片base64编码后大小不超过10MB（原图像大小不超过7.5MB）。目前支持暴恐元素、涉黄内容检测、广告检测。默认API调用最大并发为10（表示1秒内最多请求10次），如需调整更高并发限制请通过工单联系专业工程师为您服务。

内容审核 MODERATION

内容审核 MODERATION-使用限制:文档内容审核

文档内容审核支持“华北-北京四、华东-上海一”。支持以下格式： DOCX、PDF、DOC、XLS、XLSX、PPT、PPTX、PPS、PPSX、XLTX、XLTM、XLSB、TXT、WEBPAGE。文件大小500m以内、文本长度限制50w字、图片张数限制500张。只支持中文文档内容审核。默认API调用最大并发为10（表示1秒内最多请求10次），如需调整更高并发限制请通过工单联系专业工程师为您服务。

内容审核 MODERATION

内容审核 MODERATION-使用限制:图像内容审核（V2）

图像内容审核（V2）支持“华北-北京一、华北-北京四、华东-上海一”区域，新用户建议使用“华北-北京四”。支持识别处理PNG、JPEG、BMP、WEBP、GIF格式的图片。图像各边的像素大小在10到10000px之间。只支持中文图像内容审核。图片base64编码后大小不超过10MB（原图像大小不超过7.5MB）。目前支持暴恐元素、涉黄内容检测、广告检测。 “华北-北京四”默认API调用最大并发为10（表示1秒内最多请求10次），“华北-北京一、华东-上海一”默认API调用最大并发为5（表示1秒内最多请求5次）如需调整更高并发限制请通过工单联系专业工程师为您服务。

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "request_id" : "xxxx", "job_id" : "xxx", "status" : "succeeded", "request_params" : { "data" : { "url" : "xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn", "terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "xxx" }, "create_time" : "2022-07-30T08:57:11.011Z", "update_time" : "2022-07-30T08:57:14.014Z", "result" : { "suggestion" : "block", "image_detail" : [ { "suggestion" : "block", "category" : "porn", "ocr_text" : "123", "time" : 0, "detail" : [ { "confidence" : 0.676015138626099, "category" : "porn", "suggestion" : "block", "label" : "pornography" }, { "confidence" : 0.666015138626099, "category" : "porn", "suggestion" : "review", "label" : "sexy_female" }, { "confidence" : 0.666015138626099, "category" : "xxx", "suggestion" : "block", "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "xxx", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 200, "bottom_right_y" : 240 }, "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "porn", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 }, "label" : "leader" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code", "qr_content" : "xxxxxxxxx", "qr_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 } }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "porn", "segments" : [ { "segment" : "xxx" }, { "segment" : "xx" } ] } ] } ], "audio_detail" : [ { "suggestion" : "block", "label" : "porn", "audio_text" : "xxxxx", "end_time" : 10, "start_time" : 0, "detail" : [ { "confidence" : 0.999117187582349, "label" : "porn", "suggestion" : "block", "segments" : [ { "segment" : "xxx" } ] }, { "confidence" : 0.885117187582349, "label" : "porn", "suggestion" : "block" } ] } ] } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs/{job_id}”，“project_id”为项目ID，获取方法请参见获取项目ID，“job_id”为创建作业成功时，接口返回的job_id。 GET https://{endpoint}/v3/{project_id}/moderation/video/jobs/{job_id}

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。 job_id String 作业id。 status String 作业状态，可取值有： running: 正在运行 succeeded: 运行成功 failed: 运行失败 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 result result object 作业审核结果，当作业状态为succeeded时存在。表4 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表5 data 参数参数类型描述 url String 创建作业时传的url参数。 frame_interval Integer 创建作业时传的frame_interval参数，默认为5秒截取一帧。表6 result 参数参数类型描述 suggestion String 视频审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 image_detail Array of image_detail objects 图像审核详情。 audio_detail Array of audio_detail objects 音频审核详情。表7 image_detail 参数参数类型描述 suggestion String 图像审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 ocr_text String 图文审核检测出的文本，只有在category参数配置image_text且检测出文本时展示该字段。 time Float 截帧在视频文件中的时间，单位为秒。 detail Array of detail objects 图像帧审核详情。表8 detail 参数参数类型描述 confidence Float 置信度，可选值在0-1之间，值越大，可信度越高。 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 suggestion String 审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 识别的详细标签。 face_location face_location object 人物位置信息。 qr_location qr_location object 二维码位置信息。 qr_content String 图片中二维码指向的链接，当请求参数categories中包含image_text时存在。 segments Array of segments objects image_text场景下命中的文本片段。表9 face_location 参数参数类型描述 top_left_x Integer 检测出人脸的左上角横坐标。 top_left_y Integer 检测出人脸的左上角纵坐标。 bottom_right_x Integer 检测出人脸的右下角横坐标。 bottom_right_y Integer 检测出人脸的右下角纵坐标。表10 qr_location 参数参数类型描述 top_left_x Integer 检测出的二维码左上角横坐标。 top_left_y Integer 检测出的二维码左上角纵坐标。 bottom_right_x Integer 检测出的二维码右下角横坐标。 bottom_right_y Integer 检测出的二维码右下角纵坐标。表11 segments 参数参数类型描述 segment String 命中的风险片段。表12 audio_detail 参数参数类型描述 suggestion String 音频片段审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 音频片段检测标签，选取detail中置信度最大的标签，可取值如下： terrorism: 暴恐 porn: 色情 ad: 广告 ad_law: 广告法 abuse: 辱骂 ban: 违禁 meaningless: 无意义 moan: 娇喘 audio_text String 音频片段文本内容。 end_time Float 音频片段结束时间。 start_time Float 音频片段开始时间。 detail Array of detail objects 音频片段审核详情。表13 detail 参数参数类型描述 confidence Float 风险置信度。 label String 风险标签。 suggestion String 审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 segments Array of segments objects 命中的风险片段信息列表，如果命中语义算法模型，则该字段不会存在。表14 segments 参数参数类型描述 segment String 命中的风险片段。状态码： 400 表15 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code": "AIS.0401", "error_msg": "The input parameter event_type is incorrect." }

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应参数

响应参数状态码： 200 表5 响应Body参数参数参数类型描述 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。最小长度：2 最大长度：64 job_id String 作业唯一标识。状态码： 400 表6 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

云服务器内容精选

内容审核 MODERATION

7*24

备案

专业服务

退订

建议反馈

售前咨询热线