内容审核 MODERATION-华为云

内容审核 MODERATION-版本支持公告:常见问题

常见问题内容审核v2版本包含哪些服务？哪些API？涉及到哪些Region？表1 内容审核v2版本服务详情服务名 API名称 API Region 文本审核v2 文本内容审核（V2） POST /v2/{project_id}/moderation/text 华北-北京一、华北-北京四、华东-上海一图像审核v2 图像内容审核（V2） POST /v2/{project_id}/moderation/image 华北-北京一、华北-北京四、华东-上海一图像内容审核（批量）（V2） POST /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务提交 POST /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 处理结果查询 GET /v2/{project_id}/moderation/image/batch 华北-北京一、华北-北京四、华东-上海一图像内容审核（异步批量）（V2）- 任务列表查询 GET /v2/{project_id}/moderation/image/batch/jobs 华北-北京一、华北-北京四、华东-上海一短语音内容审核语音内容审核（V1） POST /v1.0/moderation/voice 华北-北京四短语音内容审核语音内容审核（V2） POST /v2/{project_id}/moderation/voice 华北-北京四扭曲矫正扭曲矫正 POST /v1.0/moderation/image/distortion-correct 华北-北京一、华北-北京四清晰度检测清晰度检测 POST /v1.0/moderation/image/clarity-detect 华北-北京一、华北-北京四内容审核v2版本停止服务后，正在使用该版本的用户有哪些影响？在内容审核V2版本 EOS时间后，新用户不再支持开通内容审核v2服务。历史存量用户仍然可以使用内容审核V2版本，但我们将停止v2版本的后续演进与更新，v2版本服务运行过程中出现错误，不再提供该版本的任何技术服务支持，请您尽快切换至新版本（v3）内容审核服务。切换至内容审核v3版本产品价格是否有影响？内容审核v3版本共包含文本审核、图像审核、音频审核、视频审核、音频流审核、视频流审核、文档内容审核7个服务，其中文本审核和图像审核与v2版本的文本审核、图像审核计费一致，其余服务均为v3版本的新服务，不涉及。如何对接内容审核v3版本？在内容审核资料页，根据内容审核v3版本的API资料适配对接。

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs/{job_id}”，“project_id”为项目ID，获取方法请参见获取项目ID，“job_id”为创建作业成功时，接口返回的job_id。 GET https://{endpoint}/v3/{project_id}/moderation/video/jobs/{job_id}

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "request_id" : "xxxx", "job_id" : "xxx", "status" : "succeeded", "request_params" : { "data" : { "url" : "xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn", "terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "xxx" }, "create_time" : "2022-07-30T08:57:11.011Z", "update_time" : "2022-07-30T08:57:14.014Z", "result" : { "suggestion" : "block", "image_detail" : [ { "suggestion" : "block", "category" : "porn", "ocr_text" : "123", "time" : 0, "detail" : [ { "confidence" : 0.676015138626099, "category" : "porn", "suggestion" : "block", "label" : "pornography" }, { "confidence" : 0.666015138626099, "category" : "porn", "suggestion" : "review", "label" : "sexy_female" }, { "confidence" : 0.666015138626099, "category" : "xxx", "suggestion" : "block", "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "xxx", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 200, "bottom_right_y" : 240 }, "label" : "leader" }, { "confidence" : 0.691423773765564, "category" : "porn", "suggestion" : "block", "face_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 }, "label" : "leader" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code" }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "qr_code", "qr_content" : "xxxxxxxxx", "qr_location" : { "top_left_x" : 12, "top_left_y" : 13, "bottom_right_x" : 100, "bottom_right_y" : 2000 } }, { "confidence" : 0.891423773765564, "category" : "image_text", "suggestion" : "block", "label" : "porn", "segments" : [ { "segment" : "xxx" }, { "segment" : "xx" } ] } ] } ], "audio_detail" : [ { "suggestion" : "block", "label" : "porn", "audio_text" : "xxxxx", "end_time" : 10, "start_time" : 0, "detail" : [ { "confidence" : 0.999117187582349, "label" : "porn", "suggestion" : "block", "segments" : [ { "segment" : "xxx" } ] }, { "confidence" : 0.885117187582349, "label" : "porn", "suggestion" : "block" } ] } ] } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION

内容审核 MODERATION-查询视频内容审核作业:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。 job_id String 作业id。 status String 作业状态，可取值有： running: 正在运行 succeeded: 运行成功 failed: 运行失败 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 result result object 作业审核结果，当作业状态为succeeded时存在。表4 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表5 data 参数参数类型描述 url String 创建作业时传的url参数。 frame_interval Integer 创建作业时传的frame_interval参数，默认为5秒截取一帧。表6 result 参数参数类型描述 suggestion String 视频审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 image_detail Array of image_detail objects 图像审核详情。 audio_detail Array of audio_detail objects 音频审核详情。表7 image_detail 参数参数类型描述 suggestion String 图像审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 ocr_text String 图文审核检测出的文本，只有在category参数配置image_text且检测出文本时展示该字段。 time Float 截帧在视频文件中的时间，单位为秒。 detail Array of detail objects 图像帧审核详情。表8 detail 参数参数类型描述 confidence Float 置信度，可选值在0-1之间，值越大，可信度越高。 category String 检测结果的一级标签。支持category列表如下： terrorism: 暴恐 porn: 色情 image_text: 图文审核 suggestion String 审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 识别的详细标签。 face_location face_location object 人物位置信息。 qr_location qr_location object 二维码位置信息。 qr_content String 图片中二维码指向的链接，当请求参数categories中包含image_text时存在。 segments Array of segments objects image_text场景下命中的文本片段。表9 face_location 参数参数类型描述 top_left_x Integer 检测出人脸的左上角横坐标。 top_left_y Integer 检测出人脸的左上角纵坐标。 bottom_right_x Integer 检测出人脸的右下角横坐标。 bottom_right_y Integer 检测出人脸的右下角纵坐标。表10 qr_location 参数参数类型描述 top_left_x Integer 检测出的二维码左上角横坐标。 top_left_y Integer 检测出的二维码左上角纵坐标。 bottom_right_x Integer 检测出的二维码右下角横坐标。 bottom_right_y Integer 检测出的二维码右下角纵坐标。表11 segments 参数参数类型描述 segment String 命中的风险片段。表12 audio_detail 参数参数类型描述 suggestion String 音频片段审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 label String 音频片段检测标签，选取detail中置信度最大的标签，可取值如下： terrorism: 暴恐 porn: 色情 ad: 广告 ad_law: 广告法 abuse: 辱骂 ban: 违禁 meaningless: 无意义 moan: 娇喘 audio_text String 音频片段文本内容。 end_time Float 音频片段结束时间。 start_time Float 音频片段开始时间。 detail Array of detail objects 音频片段审核详情。表13 detail 参数参数类型描述 confidence Float 风险置信度。 label String 风险标签。 suggestion String 审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 segments Array of segments objects 命中的风险片段信息列表，如果命中语义算法模型，则该字段不会存在。表14 segments 参数参数类型描述 segment String 命中的风险片段。状态码： 400 表15 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应参数

响应参数状态码： 200 表5 响应Body参数参数参数类型描述 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。最小长度：2 最大长度：64 job_id String 作业唯一标识。状态码： 400 表6 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/audio/jobs”，“project_id”为项目ID，获取方法请参见获取项目ID。创建音频内容审核作业，事件类型为默认事件，检测的风险类型为涉黄，广告。 POST https://{endpoint}/v3/{project_id}/moderation/audio/jobs { "data" : { "url" : "https://xxxxx.wav" }, "event_type" : "default", "categories" : [ "porn", "ad" ], "callback" : "http://xxxx" }

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:请求参数

请求参数表2 请求Header参数参数是否必选参数类型描述 X-Auth-Token 是 String 用户Token。通过调用IAM服务获取用户Token接口获取（响应消息头中X-Subject-Token的值）。表3 请求Body参数参数是否必选参数类型描述 data 是 AudioInputBody object 音频数据输入。 event_type 否 String 事件类型，可选值如下： default：默认事件 audiobook：有声书 education：教育音频 game：游戏语音房 live：秀场直播 ecommerce：电商直播 voiceroom：交友语音房 private：私密语音聊天 categories 否 Array of strings 需要检测的风险类型，列表不能为空。风险类型如下： porn：涉黄检测 ad：广告检测 moan：娇喘检测 abuse：辱骂检测 callback 否 String 该字段非空时，检测结果会回调通知您的URL。该字段为空时，您需要定时轮询获取检测结果。说明：您的callback接口需要支持POST方法；回调数据格式，请参考查询音频内容审核作业的响应示例；您的服务端callback接口收到内容安全发送的结果后，如果在响应超时时间3秒内返回的HTTP状态码为200，则表示接收成功。其他HTTP状态码或响应时间大于3秒后返回状态码均视为接收失败，接收失败时，内容安全将重复发送多次检测结果。 biz_type 否 String 用户在控制台界面创建的自定义审核策略名称。如果请求参数中传了biz_type则优先使用biz_type。如果用户没传biz_type则event_type和categories必须传。 seed 否 String 用于回调通知时校验请求是由华为云内容安全服务发起，您可以自定义。值为随机字符串，由英文字母、数字、下划线组成，不超过64个字符。说明：当seed非空时，headers中将包含X-Auth-Signature字段，字段的值使用HmacSHA256算法生成，待加密字符串由create_time、job_id、request_id、seed按照顺序拼接而成，密钥为seed。表4 AudioInputBody 参数是否必选参数类型描述 url 是 String 音频url地址。 language 否 String 支持检测的音频语言。可选值为zh：中文。不传该参数表示默认为zh。

内容审核 MODERATION

内容审核 MODERATION-创建音频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code": "AIS.0401", "error_msg": "The input parameter event_type is incorrect." }

内容审核 MODERATION

内容审核 MODERATION-查询文档审核作业结果:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "xxxxxx", "status" : "succeeded", "result" : { "suggestion" : "block", "details" : [ { "start_position" : 1, "end_position" : 10, "suggestion" : "block", "index" : 12, "label" : "porn", "type" : "text", "text" : "xxxxxxxxx", "segments" : [ { "segment" : "xxx" }, { "segment" : "xxx" }, { "segment" : "xxx" } ] } ] }, "request_params" : { "data" : { "url" : "https://xxxxx", "format" : "pdf" }, "event_type" : "default", "image_categories" : [ "politics", "porn", "image_text", "terrorism" ], "text_categories" : [ "default" ], "callback" : "http://xxx" } } 状态码： 400 失败响应示例 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION

内容审核 MODERATION-查询文档审核作业结果:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 job_id String 作业id。 status String 作业状态，可取值有： running：正在运行 succeeded：运行成功 failed：运行失败 result result object 作业审核结果，当作业状态为succeeded时存在。 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。表4 result 参数参数类型描述 suggestion String 文档审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 pass：不包含敏感信息，通过 details Array of details objects 审核详情。表5 details 参数参数类型描述 suggestion String 当前内容片段的处置建议： block：包含敏感信息，不通过 review：需要人工复检 type String 当前内容片段的类型，可取值有： text：文本 image：图像 video：视频 label String 当前内容片段的风险类型，可取值为： terrorism：暴恐 porn：色情 sexy：性感 abuse：辱骂 ad：广告 qr_code：二维码 watermark：水印 meaningless：无意义 ban：违禁 bad_scene：不良场景 moan：娇喘 index Integer 当前处理的片段索引。 text String 当前内容片段中的文本内容，仅当type为text时存在。 start_position Integer 当前文本内容片段在输入中的起始位置，仅当type为text时存在。 end_position Integer 当前文本内容片段在输入中的结束位置，仅当type为text时存在。 image_url String 网页图片url，仅当type为image且文档格式为webpage时存在。 segments Array of segments objects 命中的风险片段信息列表，仅在有命中敏感词时才返回。 video_image_details Array of DocumentVideoImageDetail objects 网页视频中截帧部分审核详情。 audio_details Array of DocumentAudioDetail objects 网页视频中音频部分审核详情。表6 segments 参数参数类型描述 segment String 命中的敏感词。表7 DocumentVideoImageDetail 参数参数类型描述 time Float 截帧在视频文件中的时间，单位为秒。 suggestion String 截帧审核结果是否通过。 block：包含敏感信息，不通过 review：需要人工复检 ocr_text String 截帧检测出的文本。 label String 识别的详细标签。 segments Array of segments objects 命中的文本风险片段列表。表8 segments 参数参数类型描述 segment String 命中的风险片段。表9 DocumentAudioDetail 参数参数类型描述 start_time Float 音频片段开始时间。 end_time Float 音频片段结束时间。 suggestion String 音频片段审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 audio_text String 音频片段文本内容。 label String 音频片段标签。 segments Array of segments objects 命中的风险片段信息列表。表10 segments 参数参数类型描述 segment String 命中的风险片段。表11 request_params 参数参数类型描述 data data object 创建作业时传的data参数。 event_type String 创建作业时传的event_type参数。 image_categories Array of strings 创建作业时传的image_categories参数。 text_categories Array of strings 创建作业时传的text_categories参数。 video_image_categories Array of strings 创建作业时传的video_image_categories参数。 audio_categories Array of strings 创建作业时传的audio_categories参数。 callback String 创建作业时传的callback参数。表12 data 参数参数类型描述 url String 创建作业时传的url参数。目前支持：公网HTTP/HTTPS URL。 format String 创建作业时传的format参数。 frame_interval Integer 创建作业时传的frame_interval参数。状态码： 400 表13 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION

内容审核 MODERATION-查询音频内容审核作业:请求示例

请求示例 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/audio/jobs/{job_id}”，“project_id”为项目ID，获取方法请参见获取项目ID，“job_id”为创建作业成功时，接口返回的job_id。。 GET https://{endpoint}/v3/{project_id}/moderation/audio/jobs/{job_id}

内容审核 MODERATION 音频审核

内容审核 MODERATION-查询音频内容审核作业:响应示例

响应示例状态码： 200 查询成功时返回作业状态和结果 { "job_id" : "01655654400_ad96b30f58cc40e8968e53f1f1e80021", "status" : "succeeded", "result" : { "suggestion" : "block", "details" : [ { "start_time" : 0, "suggestion" : "block", "end_time" : 10, "label" : "porn", "audio_text" : "xxxx", "segments" : [ { "segment" : "xxx" }, { "segment" : "xxx" }, { "segment" : "xxx" } ] }, { "start_time" : 30, "suggestion" : "block", "end_time" : 40, "label" : "porn", "audio_text" : "xxx", "segments" : [ { "segment" : "xx" } ] } ], "audio_text" : "xxxxxx" }, "request_params" : { "event_type" : "default", "data" : { "url" : "https://xxxx.wav" }, "callback" : "http://xxx", "categories" : [ "porn", "ad" ] }, "create_time" : "2022-06-20 11:05:29", "update_time" : "2022-06-20 11:07:08", "request_id" : "2419446b1fe14203f64e4018d12db3dd" } 状态码： 400 查询失败时返回错误原因 { "error_code" : "AIS.0030", "error_msg" : "Job not found" }

内容审核 MODERATION 音频审核

内容审核 MODERATION-查询音频内容审核作业:响应参数

响应参数状态码： 200 表3 响应Body参数参数参数类型描述 job_id String 作业id。 status String 作业状态，可取值有： running: 正在运行 succeeded: 运行成功 failed: 运行失败 result result object 作业审核结果，当作业状态为succeeded时存在。 request_params request_params object 作业创建参数。 create_time String 作业创建时间。 update_time String 作业更新时间。 request_id String 本次请求的唯⼀标识，⽤于问题排查，建议保存。最小长度：2 最大长度：64 表4 result 参数参数类型描述 suggestion String 音频审核结果是否通过。 block：包含敏感信息，不通过 pass：不包含敏感信息，通过 review：需要人工复检 details Array of details objects 审核详情。 audio_text String 音频文本内容。表5 details 参数参数类型描述 start_time Float 音频片段开始时间。 suggestion String 音频片段审核处理建议。 block：包含敏感信息，不通过 review：需要人工复检 end_time Float 音频片段结束时间。 label String 音频片段标签。可选值如下： terrorism: 暴恐 porn: 色情 ban: 违禁 abuse: 辱骂 ad: 广告 ad_law: 广告法 moan: 娇喘 meaningless: ⽆意义 audio_text String 音频片段文本内容。 segments Array of segments objects 命中的风险片段信息列表，如果命中语义算法模型，则该字段不会存在。表6 segments 参数参数类型描述 segment String 命中的风险片段。表7 request_params 参数参数类型描述 event_type String 创建作业时传的event_type参数。 data data object 创建作业时传的data参数。 callback String 创建作业时传的callback参数。 categories Array of strings 创建作业时传的categories参数。表8 data 参数参数类型描述 url String 创建作业时传的url参数。状态码： 400 表9 响应Body参数参数参数类型描述 error_code String 调用失败时的错误码，具体请参见错误码。调用成功时无此字段。 error_msg String 调用失败时的错误信息。调用成功时无此字段。

内容审核 MODERATION 音频审核

内容审核 MODERATION-创建视频内容审核作业:请求示例

请求示例创建视频内容审核作业，事件类型为默认事件，检测的风险类型为涉黄，暴恐，图文违规内容检测。 “endpoint”即调用API的请求地址，不同服务不同区域的endpoint不同，具体请参见终端节点。例如，服务部署在“华北-北京四”区域的“endpoint”为“moderation.cn-north-4.myhuaweicloud.com”，请求URL为“https://moderation.cn-north-4.myhuaweicloud.com/v3/{project_id}/moderation/video/jobs”，“project_id”为项目ID，获取方法请参见获取项目ID。 POST https://{endpoint}/v3/{project_id}/moderation/video/jobs { "data" : { "url" : "https://xxxx", "frame_interval" : 5 }, "event_type" : "default", "image_categories" : [ "porn","terrorism", "image_text" ], "audio_categories" : [ "porn", "ad", "moan", "abuse" ], "callback" : "http://xxxx" }

内容审核 MODERATION 视频审核

内容审核 MODERATION-创建视频内容审核作业:响应示例

响应示例状态码： 200 成功响应示例 { "job_id" : "01661356800_7c0fe871f80543358917e4faebca4a48", "request_id" : "07490f57ac5e034c077ab25b5f9e1da5" } 状态码： 400 失败响应示例 { "error_code" : "AIS.0401", "error_msg" : "The input parameter event_type is incorrect." }

内容审核 MODERATION 视频审核

云服务器内容精选

内容审核 MODERATION

7*24

备案

专业服务

退订

建议反馈

售前咨询热线