文档反馈
文档反馈

内容安全审核事件

事件类型

event_type 事件含义
400 实时音视频内容安全审核抄送
401 云端录制内容安全审核抄送

400 实时音视频内容安全审核抄送

针对房间内的实时音视频流进行内容安全审核时,如果检测到违规信息,会触发此抄送。

字段说明

字段 类型 示例 说明
eventType Number 400 事件类型
channelId Number 43357868525520 进行内容审核的音视频房间 ID。
channelName String qaz 进行内容审核的音视频房间名称。
taskId String 11111 实时音视频内容安全审核任务ID,是其唯一标识。
callback String 111 调用创建内容安全审核任务接口时,传递的 callback 字段数据。
dataId String 123123123 网易云信为您自动生成的数据唯一标识,如果您对检测结果有任何疑问,请根据 dataId 咨询技术支持。
status Number 101 检测状态。101:检测中。102:检测结束。
censorSource Number 2 审核来源,0:易盾人审,1:客户人审,2:易盾机审
evidences JSON - 机审证据信息。
reviewEvidences JSON - 人审证据信息。

机审证据信息

evidences 数据结构:

参数名称 类型 描述
audio JSON 语音证据信息。
video JSON 截图证据信息。

audio 数据结构:

参数名称 类型 描述
action Number 检测结果。
  • 0:通过
  • 1:嫌疑
  • 2:不通过
asrStatus Number 音频翻译结果。
  • 2:检测中
  • 3:检测完成
  • 4:检测失败
asrResult Number 音频翻译检测失败原因。
  • 1:文件下载失败
  • 2:音频流不存在
  • 3:解析失败
  • 4:文件格式错误
uid String 此违规信息对应的用户ID。
startTime Number 违规音频开始时间点,单位毫秒。
endTime Number 违规音频结束时间点,单位毫秒。
content String 违规内容。
segments json数组 分类信息详细数据。

segments 数据结构:

参数名称 类型 描述
label Number 分类信息。100:色情,200:广告,300:暴恐,400:违禁,500:涉政,600:谩骂,1100:涉价值观。
level Number 分类级别。1:不确定,2:确定。
subLabels JSONArray 细分类信息,可能包含多个。

subLabels 数据结构:

参数名称 类型 描述
details JSON 命中线索信息。
subLabel String 二级细分类,详细编码请参考对应表

video 数据结构:

参数名称 类型 描述
evidence JSON 证据信息。
labels JSONArray 分类信息详细数据。

evidence 数据结构

参数名称 类型 描述
beginTime Number 违规视频开始时间点,单位为毫秒。您可以自行格式化为可视化时间,如:1599205126000 转换为"2020-09-04 15:38:46"。
endTime Number 违规视频结束时间点,单位为毫秒。您可以自行格式化为可视化时间,如:1599205126000 转换为"2020-09-04 15:38:46"。
type Number 1:图片。2:视频。
url String 证据信息。
uid String 此违规信息对应的用户ID。

labels 数据结构:

参数名称 类型 描述
label Number 分类信息。
100:色情,110:性感;200:广告,210:二维码,260:广告法,300:暴恐,400:违禁,500:涉政,800:恶心类,900:其他,1020:黑屏,1030:挂机,1100:涉价值观。
subLabels JSONArray 细分类信息,可能包含多个,可能为空。
level Number 级别信息。1:不确定,2:确定。
rate Number 分数。

subLabels 数据结构:

参数名称 类型 描述
subLabel Number 细分类,详细编码请参考对应表
rate Number 置信度分数,0-1之间取值,1为置信度最高,0为置信度最低。
details JSONArray htiInfos:命中详细信息。

details 数据结构

参数名称 类型 描述
hitInfos String 针对命中sublabel的补充说明。
imageTagInfo json数组 命中标签详细信息,对于返回的hintInfo的解释说明,可能为空。
hitLocationInfos json数组 命中详情位置信息,当前人脸、logo、关键词支持返回位置信息。

imageTagInfo 数据结构

参数名称 类型 描述
tagName String hinInfo中可返回的图片中包含的可识别内容。
tagGroup String tagName对应的分组名称,用于对tageName的解释。

hitLocationInfos 数据结构

参数名称 类型 描述
hitInfo String 命中详情。
x1 Number 位置信息,对应目标矩形左上角横坐标相对坐标。
y1 Number 位置信息,对应目标矩形左上角纵坐标相对坐标。
x2 Number 位置信息,对应目标矩形右下角横坐标相对坐标。
y2 Number 位置信息,对应目标矩形右下角纵坐标相对坐标。

电视墙人审证据信息

reviewEvidences 数据结构:

参数名称 类型 描述
action Number 审核操作。1为忽略,2为警告,3为断流,4为提示,10为机器检测结束。
actionTime Number 操作时间,UNIX_TIME时间戳,单位为毫秒。
label Number 违规类型。
100-色情,111-淫秽表演,112-偶然走光,113-服装暴露,114-床上直播,115-音乐内容低俗,116-言论低俗涉黄,117-违规服装,118-上装暴露,119-下装暴露,120-低俗连麦,涉黄200-广告,210-二维码,211-商业推广,212-提及竞品,213-字幕推广,300-暴恐,311恐怖主义,312-暴力血腥,400-违禁,411-危险表演,412-涉毒/赌/传销,413-违禁服装,500-涉政,511-影响政府形象,512-邪教迷信,513-涉军事,514涉宗教,800-不文明,811-赤膊,812-性感,821-涉酒,822-涉烟,823-纹身,824-未成年,825-危险驾驶,826-传播负面情绪,1000-其他,1020-黑屏,1022-画质差,1023-无营养,1024-盗播版权内容,1025-无音乐设备,1026-与音乐无关,1030-挂机,1050-自定义。
detail String 违规详细说明。
warnCount Number 警告次数。
evidence JSONArray 证据信息。

evidence数据结构:

参数名称 类型 描述
snapshot String 证据截图url。

JSON 示例

视频截图证据信息

{ 
        "data": { 
                "dataId": "370435748723511885531", 
                "callback": "", 
                "channelName": "bq032604", 
                "evidences": { 
                        "video": { 
                                "evidence": { 
                                        "uid": 2222, 
                                        "beginTime": 1616764739975, 
                                        "endTime": 1616764739975, 
                                        "type": 1, 
                                        "url": "https://****.jpg" 
                                }, 
                                "labels": [{ 
                                        "subLabels": [{ 
                                                "subLabel": 20001, 
                                                "rate": 1 
                                        }], 
                                        "level": 1, 
                                        "rate": 1, 
                                        "label": 200 
                                }] 
                        } 
                }, 
                "censorSource": 2, 
                "channelId": 43677571680222, 
                "taskId": "668335fe7adb4d9f88a", 
                "status": 101 
        }, 
        "eventType": 400 
}

音频断句证据信息

{ 
    "data": { 
        "dataId": "370435748723511885531616758864450038930", 
        "callback": "", 
        "channelName": "bq032604", 
        "evidences": { 
            "audio": { 
                "uid": 1111, 
                "action": 2, 
                "startTime": 1616764308692, 
                "endTime": 1616764309532, 
                "asrStatus": 2, 
                "content": "控告广告", 
                "segments": [ 
                    { 
                        "subLabels": [ 
                            { 
                                "subLabel": "200009", 
                                "details": { 
                                    "evidence": "广告" 
                                } 
                            } 
                        ], 
                        "level": 2, 
                        "label": 200 
                    } 
                ] 
            } 
        }, 
        "censorSource": 2, 
        "channelId": 43677571680222, 
        "taskId": "668335fe7adb4d9f88ab35fb7b1e4b65", 
        "status": 101 
    }, 
    "eventType": 400 
}

401 云端录制内容安全审核抄送

针对云端录制文件进行内容安全审核时,如果检测到违规信息,会触发此抄送。

字段说明

eventType 为 401,data 中封装的字段说明如下:

参数名称 类型 描述
result Number 检测结果。1:正常;2:异常;3:疑似。
vid Long 视频文件标识。
censorLabels json 在智能审核系统自定义的标签分类信息。
checkstatus Number 检测状态。0:检测中;1:检测成功;2:检测失败
dataId String 网易云信为您自动生成的数据唯一标识,如果您对检测结果有任何疑问,请根据 dataId 咨询技术支持。
checkTime Number 机器审核完成时间,单位为毫秒。13 位 UNIX 时间戳格式。
channelName Number 进行内容审核的音视频房间名称。
censorTime Number 人工审核完成时间,单位为毫秒。13 位 UNIX 时间戳格式。如果没有人审流程,此字段为网易云信收到云端录制文件的时间。
evidences JSON 机审证据信息。
reviewEvidences JSON 人审证据信息。
censorSource Number 审核方式。0:易盾人审。1:客户人审。2:易盾机审。
taskId String 云端录制内容安全审核任务 ID,是其唯一标识。
channelId Number 进行内容审核的音视频房间 ID。
cid Number 进行内容审核的音视频房间 ID。

censorLabels 数据结构

参数名称 类型 描述
code Number 人工审核时,在智能系统配置自定义便签之后,生成的一个唯一标签 ID。

evidences 数据结构

参数名称 类型 描述
audio JSONArray 语音证据信息。
video JSONArray 视频证据信息。

audio 数据结构

参数名称 类型 描述
censorLabels json数据 在智能审核系统自定义的标签分类信息。
asrResult Number 音频翻译检测失败原因。1:文件下载失败; 2:音频流不存在;3:解析失败;4:文件格式错误
callback String 网易云信会在该字段中为您封装审核标识,标记该审核任务是云端录制内容安全审核类型。
action Number 检测结果,0:通过,1:嫌疑,2:不通过。
suggestReason Number 违规信息的建议分类,您也可以在 labels 中查看详细分类。100:色情,200:广告,260:广告法,300:暴恐,400:违禁,500:涉政,600:谩骂,700:灌水,900:其他,1100:涉价值观。
asrStatus Number 音频翻译结果。2:检测中;3:检测完成;4:检测失败;
taskId String 云端录制内容安全审核任务 ID,是其唯一标识。
segments JSON 音频数据所在断句详细信息。
labels JSON 音频数据所在断句语音识别原文内容,支持返回异常数据所在断句内容或全部原文内容。

segments 数组数据结构

参数名称 类型 描述
hintList json数组 线索详细信息
level Nubmber 分类级别,0:通过,1:嫌疑,2:不通过
startTime Number 最近开始时间点,单位秒
endTime Number 最近开始时间点,单位秒
label Number 分类信息,100:色情,200:广告,260:广告法,300:暴恐,400:违禁,500:涉政,600:谩骂,900:其他,1100:涉价值观
content String 音频数据所在断句语音识别原文内容,支持返回异常数据所在断句内容或全部原文内容

labels 数据结构

参数名称 类型 描述
label Number 分类信息,100:色情,200:广告,260:广告法,300:暴恐,400:违禁,500:涉政,600:谩骂,1100:涉价值观
level Number 分类级别,0:通过,1:嫌疑,2:不通过
subLabels json数组 细分类信息,可能包含多个,可能为空

subLabels 数据结构

参数名称 类型 描述
details json对象 其他信息
subLabel json数组 细分类,详细编码请参考下方对应细分类编码对应表

details 数据结构

参数名称 类型 描述
hitType Number 命中检测器类型:10:用户名单 11:IP名单 12:设备名单 30:敏感词 110:IP地区限制 130:声纹检测
hint json数组 线索信息,用于定位文本中有问题的部分,辅助人工审核

hint 数据结构

参数名称 类型 描述
value String 命中的敏感词或者声纹检测的分值
segments json数组 命中敏感词或者声纹检测的音频时间点

segments 数据结构

参数名称 类型 描述
startTime Number 最近开始时间点,单位毫秒
endTime Number 最近结束时间点,单位毫秒

video 数据结构

参数名称 类型 描述
level Number 视频级别信息,分为0:正常,1:不确定,2:确定,其中不确定的建议人工复审。
suggestReason Number 违规信息的建议分类,您也可以在 labels 中查看详细分类。100:色情,200:广告,260:广告法,300:暴恐,400:违禁,500:涉政,600:谩骂,700:灌水,900:其他,1100:涉价值观。
evidences JSONArray 证据信息。
taskId String 云端录制内容安全审核任务 ID,是其唯一标识。
status Number 视频处理状态码,定义为:0:检测成功,110:请求重复,120:参数错误,130:解析错误,140:数据类型错误。

evidences对象数据结构:

参数名称 类型 描述
beginTime Number 证据开始相对时间,单位为毫秒,调用方获取后可自行格式化为可视化时间,如:149000 转换为"00:02:29"
endTime Number 证据结束相对时间,单位为毫秒,调用方获取后可自行格式化为可视化时间,如:149000 转换为"00:02:29"
type Number 1:图片,2:视频
url String 证据信息
labels json对象数组 证据结果数组

labels对象数据结构

参数名称 类型 描述
label Number 分类信息,100:色情,110:性感;200:广告,210:二维码,260:广告法,300:暴恐,400:违禁,500:涉政,800:恶心类,900:其他,1020:黑屏,1030:挂机,1100:涉价值观
subLabels json数组 细分类信息,可能包含多个,可能为空
level Number 级别信息,分为1:不确定,2:确定
rate Number 分数

subLabels 数据结构

参数名称 类型 描述
subLabel Number 细分类,详细编码请参考下方对应细分类编码对照表
rate Number 置信度分数,0-1之间取值,1为置信度最高,0为置信度最低
details json数组 htiInfos:命中详细信息

details 数据结构

参数名称 类型 描述
hitInfos String 针对命中sublabel的补充说明
imageTagInfo json数组 命中标签详细信息,对于返回的hintInfo的解释说明,可能为空
hitLocationInfos json数组 命中详情位置信息,当前人脸、logo、关键词支持位置信息返回

imageTagInfo 数据结构

参数名称 类型 描述
tagName String hinInfo中可返回的图片中包含的可识别内容
tagGroup String tagName对应的分组名称,用于对tageName的解释

hitLocationInfos 数据结构

参数名称 类型 描述
hitInfo String 命中详情
x1 Number 位置信息,对应目标矩形左上角横坐标相对坐标
y1 Number 位置信息,对应目标矩形左上角纵坐标相对坐标
x2 Number 位置信息,对应目标矩形右下角横坐标相对坐标
y2 Number 位置信息,对应目标矩形右下角纵坐标相对坐标

JSON 示例

{
        "data": {
                "result": 2,
                "vid": 3049646,
                "censorLabels": [],
                "checkStatus": 1,
                "dataId": "3049646",
                "checkTime": 1617010860147,
                "channelName": "bq032902",
                "censorTime": 1617010809008,
                "evidences": {
                        "audio": {
                                "censorLabels": [],
                                "asrResult": 0,
                                "callback": "{\"antiTrashSource\":\"ILIVE\"}",
                                "action": 2,
                                "suggestReason": 200,
                                "asrStatus": 3,
                                "taskId": "14def3c4d5364045b577c527abc7bbf8",
                                "segments": [{
                                        "hintList": ["广告"],
                                        "level": 2,
                                        "startTime": 60,
                                        "label": 200,
                                        "endTime": 77,
                                        "content": "广告广告广告。"
                                }],
                                "labels": [{
                                        "subLabels": [{
                                                "subLabel": "200009",
                                                "details": {
                                                        "hitType": 30,
                                                        "hint": [{
                                                                "value": "广告",
                                                                "segments": [{
                                                                        "startTime": 60,
                                                                        "endTime": 78
                                                                }]
                                                        }]
                                                }
                                        }],
                                        "level": 2,
                                        "label": 200
                                }]
                        },
                        "video": {
                                "level": 2,
                                "suggestReason": 100,
                                "evidences": [{
                                        "beginTime": 80000,
                                        "endTime": 80000,
                                        "type": 1,
                                        "url": "***",
                                        "labels": [{
                                                "subLabels": [{
                                                        "subLabel": 100080,
                                                        "rate": 1.0,
                                                        "details": {
                                                                "hitInfos": ["色情", "云信测试色情资源"],
                                                                "hitLocationInfos": [{
                                                                        "y1": 0.24303482,
                                                                        "y2": 0.2818408,
                                                                        "x1": 0.13307813,
                                                                        "x2": 0.25598437,
                                                                        "hitInfo": "云信测试色情资源"
                                                                }]
                                                        }
                                                }],
                                                "rate": 1.0,
                                                "level": 2,
                                                "label": 100
                                        }]
                                }],
                                "taskId": "14def3c4d5364045b577c527abc7bbf8",
                                "status": 0
                        }
                },
                "censorSource": 2,
                "taskId": "14def3c4d53",
                "channelId": "43685858815712",
                "cid": "43685858815712"
        },
        "eventType": 401
}
×

反馈成功

非常感谢您的反馈,我们会继续努力做得更好。