# 人物形象模型生成
人物形象模型生成服务可根据用户上传的真人采集或录制的视频通过算法训练产出AI驱动效果与真人几乎无异的数字人人物形象模型。为了完美克隆人物形象,请在拍摄时遵照商汤数字人采集制作规范,内容包括视频、语音,用于 2D 数字人的训练和测试,具体参考:采集规范 (opens new window)。PaaS平台支持7天在线存储,需要及时转存,7天后生成内容将无法下载。
# 人物形象模型生成时序图
# 人物形象模型更新
2D数字人人物形象模型更新服务可针对已经生成完成的人物形象模型进行更新,支持修改数字人训练动作片段。PaaS平台支持7天在线存储,需要及时转存,7天后生成内容将无法下载。
# 绿幕分割效果预览
平台支持对图片、视频进行绿幕分割效果预览,用来在实际提交人物模型生成任务之前确认绿幕分割参数效果,或者正式拍摄之前确认拍摄环境是否可以满足拍摄要求。
# API 说明
用户调用平台全部API服务,皆需要访问服务接入点:aigc.softsugar.com,并在请求头中加上token信息。
# 创建人物形象模型生成任务
# 接口描述
根据用户上传的一个或多个视频及指定内容调用算法能力进行人物形象模型生成,支持一次训练产出一个或多个模型文件,算法最终返回人物形象模型的压缩包和缩略图文件供用户下载。上传视频内容请参考采集规范 (opens new window)。PaaS平台支持7天在线存储,需要及时转存,7天后生成内容将无法下载。 若人物模型生成的效果不佳,请参考文档上述的case 应对方案进行训练参数调整。
支持普通数字人训练,支持精品数字人训练。
# 请求地址
POST
/api/2dvh/v1/material/2davatar/model/multi/create
# 请求头
Content-Type:
application/json
# 请求参数
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
materialName | String | True | 人物模型素材名称,一次训练任务仅支持同一命名 |
videoUrl | String | True | 基础base视频素材下载地址 ,基础视频时长要求必须在6min以上 |
param | String | True | 创建多视频人物模型生成任务需要传入正确的param信息,其中包括各类参数(该参数为json转义后的字符串),请参考下面的参数说明和 json 示例 |
# param参数说明
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
persistent | Object | True | 模型全局参数。 |
- avatarType | Integer | False | 数类型,默认为0.(0:数字人,1:动静数字人,2:动作编辑数字人,3:快速数字人,4:超级直播间数字人,5:超级直播间数字人Pro |
- videoCrfQuality | Integer | True | 视频编码质量的参数crf, 参数越小质量越好但文件越大,默认23,允许范围0-51,建议14-28 |
- stage1Config | Array | True | 人物模型口型训练配置,默认为0表示生成原始口型模型 ; 1 表示生成通用口型模型 ,后续用户可根据实际效果选择手动切换两种口型模型 |
- dev | Object | False | 视频素材模型训练配置 |
- - stage2 | Object | False | 视频素材模型训练配置 |
- - - config | Integer | True | 视频素材模型训练配置,模型尺寸,默认为0,表示2k精度模型;1表示4k精度模型。注意:目前直播/互动数字人/超级直播间Pro只支持2k精度模型。 |
personal | String | True | 基础视频参数。如果辅助视频未填写,将使用基础视频参数进行处理。 |
- segmentStyle | Integer | True | 背景分割方式:0:不分割,1:绿幕分割,2:普通分割,3:绿幕分割后处理(视频合成时gpu后处理,该方式仅支持视频合成) |
- removeGreenEdge | Boolean | False | 当segmentStyle=2时,设置有效,默认为false,去除人物边缘绿边功能 |
- greenParamsRefinethHBgr | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 160,范围0-255; refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
- greenParamsRefinethLBgr | Integer | False | 当segmentStyle=1 或 3时,设置有效, 默认 40, 范围0-255; refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
- greenParamsBlurKs | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 3,平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低 |
- greenParamsColorbalance | Integer | False | 当segmentStyle=1 或 3时, 设置有效,默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
- greenParamsSpillByalpha | Double | False | 当segmentStyle=1和3时,设置有效, 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
- greenParamsSamplePointBgr | int[] | False | 当segmentStyle=1 或 3时,设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
- assetStart | Float | False | 裁剪视频素材起始时间(秒)(精品数字人该参数无效) |
- assetEnd | Float | False | 裁剪视频素材终止时间(秒)(精品数字人该参数无效) |
- assetScale | Float | False | 视频素材缩放比例(默认1.0) |
- actionChange | Object | False | **精品数字人相关参数。**此组参数support=true时有效。表示训练的数字人类型为精品数字人。 actionChange部分与actionEdit部分互斥,请避免同时这两组参数均为true。 |
- - support | Boolean | True | 是否支持精品数字人,true为精品数字人。 |
- - staticRangeStart | Float | True | 静态素材开始时间(秒)(仅支持精品数字人) |
- - staticRangeEnd | Float | True | 静态素材结束时间(秒)(仅支持精品数字人) |
- - dynamicRangeStart | Float | True | 动态素材开始时间(秒)(仅支持精品数字人) |
- - dynamicRangeEnd | Float | True | 动态素材结束时间(秒)(仅支持精品数字人) |
- - gap | Integer | False | 切出点最大间隔帧数(默认75) |
- actionEdit | Object | False | **动作编辑数字人相关参数,**此组参数support=true时有效,表示训练的数字人类型为动作编辑数字人。 actionChange部分与actionEdit部分互斥,请避免同时这两组参数均为true。 |
- - support | Boolean | True | 是否支持支持动作编辑,true支持。 |
- - videoPath | String | True | 动态素材文件地址 |
- - gap | Integer | False | 切出点最大间隔帧数(默认25) |
- - actionList | Array | True | 动作列表 |
- - - name | String | True | 动作名称 |
- - - clipRangeStart | Float | True | 开始时间(秒) |
- - - clipRangeEnd | Float | True | 结束时间(秒) |
- - - description | String | False | 动作的文字描述 |
override | Array | False | 辅助视频信息。(精品数字人该组参数无效,动作编辑数字人该组参数无效)。avatarType = 0/3/4/5时生效 |
- videoUrl | String | True | 辅助视频地址,如果辅助视频未配置则使用personal中参数 |
- segmentStyle | Integer | False | 背景分割方式:0:不分割,1:绿幕分割,2:普通分割,3:sdk做绿幕分割后处理(视频合成时gpu后处理) |
- removeGreenEdge | Boolean | False | 当segmentStyle=2时,设置有效,默认为false,去除人物边缘绿边功能 |
- greenParamsRefinethHBgr | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 160,范围0-255; refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
- greenParamsRefinethLBgr | Integer | False | 当segmentStyle=1 或 3时,设置有效, 默认 40, 范围0-255; refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
- greenParamsBlurKs | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 3,平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低 |
- greenParamsColorbalance | Integer | False | 当segmentStyle=1 或 3时, 设置有效,默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
- greenParamsSpillByalpha | Double | False | 当segmentStyle=1和3时,设置有效, 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
- greenParamsSamplePointBgr | int[] | False | 当segmentStyle=1 或 3时,设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
- assetStart | Float | False | 裁剪视频素材起始时间(秒) |
- assetEnd | Float | False | 裁剪视频素材终止时间(秒) |
- assetScale | Float | False | 视频素材缩放比例(默认1.0) |
- name | String | False | 本段素材名,不参与训练,用于记录 |
- description | String | False | 本段素材描述,不参与训练,用于记录 |
# 请求样例
{
"materialName": "534",
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4",
"param": "{\"personal\":{\"segmentStyle\":1,\"removeGreenEdge\":false,\"greenParamsRefinethHBgr\":180,\"greenParamsRefinethLBgr\":50,\"greenParamsBlurKs\":3,\"greenParamsColorbalance\":90,\"greenParamsSpillByalpha\":0.4,\"greenParamsSamplePointBgr\":[0,255,0],\"assetStart\":0.1,\"assetEnd\":0.6,\"assetScale\":1},\"persistent\":{\"videoCrfQuality\":23,\"stage1Config\":[0,1],\"dev\":{\"stage2\":{\"config\":1}}},\"override\":[{\"videoUrl\":\"https://aigc-video-saas.oss-cn-hangzhou.aliyuncs.com/AIGC/online/vendor/24/customization/1700120490581/package_1700120490581.mp4\",\"segmentStyle\":1,\"removeGreenEdge\":false,\"greenParamsRefinethHBgr\":180,\"greenParamsRefinethLBgr\":50,\"greenParamsBlurKs\":3,\"greenParamsColorbalance\":90,\"greenParamsSpillByalpha\":0.4,\"greenParamsSamplePointBgr\":[0,255,0],\"assetStart\":0.1,\"assetEnd\":0.6,\"assetScale\":1},{\"videoUrl\":\"https://dwg-aigc-paas.oss-cn-hangzhou.aliyuncs.com/demo.mp4\",\"segmentStyle\":1,\"removeGreenEdge\":false,\"greenParamsRefinethHBgr\":180,\"greenParamsRefinethLBgr\":50,\"greenParamsBlurKs\":3,\"greenParamsColorbalance\":90,\"greenParamsSpillByalpha\":0.4,\"greenParamsSamplePointBgr\":[0,255,0],\"assetStart\":0.1,\"assetEnd\":0.6,\"assetScale\":1}]}"
}
# 响应元素
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
code | Integer | True | 0 - 成功, 其他 - 异常 |
message | String | True | 异常详细信息 |
data | Object | False | 任务id |
# 响应样例
{
"code": 0,
"message": "success",
"data": 1
}
# 创建人物形象模型生成任务(已废弃)
# 接口描述
注意:该接口仅支持普通数字人模型生成任务,该接口不进行新内容更新。建议使用创建人物形象模型生成接口。
根据用户上传的指定内容调用算法能力进行人物形象模型生成,最终返回人物形象模型的压缩包和缩略图文件供用户下载。上传内容请参考采集规范 (opens new window)。PaaS平台支持7天在线存储,需要及时转存,7天后生成内容将无法下载。
# 请求地址
POST
/api/2dvh/v1/material/2davatar/model/create
# 请求头
Content-Type:
application/json
# 请求参数
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
materialName | String | True | 人物模型素材名称 |
videoUrl | String | True | 视频素材下载地址 |
segmentStyle | Integer | True | 背景分割方式:0:不分割,1:绿幕分割,2:普通分割,3:sdk做绿幕分割后处理(视频合成时gpu后处理) |
removeGreenEdge | Boolean | False | 当segmentStyle=2时,设置有效,默认为false,去除人物边缘绿边功能 |
greenParamsRefinethHBgr | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 160,范围0-255; refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
greenParamsRefinethLBgr | Integer | False | 当segmentStyle=1 或 3时,设置有效, 默认 40, 范围0-255; refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
greenParamsBlurKs | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 3,平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低 |
greenParamsColorbalance | Integer | False | 当segmentStyle=1 或 3时, 设置有效,默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
greenParamsSpillByalpha | Double | False | 当segmentStyle=1和3时,设置有效, 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
greenParamsSamplePointBgr | int[] | False | 当segmentStyle=1 或 3时,设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
videoCrfQuality | Integer | False | 视频编码质量的参数crf, 参数越小质量越好但文件越大,默认23,允许范围0-51,建议14-28 |
assetStart | Float | False | 裁剪视频素材起始时间(秒) |
assetEnd | Float | False | 裁剪视频素材终止时间(秒) |
assetScale | Float | False | 视频素材缩放比例(默认1.0) |
devStage2Config | Integer | False | 视频素材模型训练配置,模型尺寸,默认为0,表示2k精度模型;1表示4k精度模型 |
stage1Template | Integer | False | 人物模型口型训练配置,默认为0表示生成原始口型模型 ; 1 表示生成通用口型模型 ,后续用户可根据实际效果选择手动切换两种口型模型 |
# 请求样例
当segmentStyle=0的示例
{
"materialName": "534",
"segmentStyle": 1,
"assetScale": 1,
"videoCrfQuality": 21,
"stage1Template": 0,
"devStage2Config": 0,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
当segmentStyle=1的示例
{
"materialName": "534",
"segmentStyle": 1,
"assetScale": 1,
"devStage2Config": 0,
"greenParamsRefinethHBgr": 167,
"greenParamsRefinethLBgr": 17,
"greenParamsBlurKs": 7,
"greenParamsColorbalance": 97,
"greenParamsSpillByalpha": 0.3,
"greenParamsSamplePointBgr": [
7,
275,
7
],
"videoCrfQuality": 21,
"stage1Template": 0,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
当segmentStyle=2的示例,仅greenParamsSpillByalpha可变更取值,其他参数将按照默认值传入
{
"materialName": "534",
"segmentStyle": 2,
"devStage2Config": 0,
"stage1Template": 0,
"removeGreenEdge" : true,
"assetScale": 1,
"greenParamsSpillByalpha": 0.3,
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
当segmentStyle=3的示例
{
"materialName": "534",
"segmentStyle": 3,
"assetScale": 1,
"devStage2Config": 0,
"stage1Template": 0,
"greenParamsRefinethHBgr": 167,
"greenParamsRefinethLBgr": 17,
"greenParamsBlurKs": 7,
"greenParamsColorbalance": 97,
"greenParamsSpillByalpha": 0.3,
"greenParamsSamplePointBgr": [
7,
275,
7
],
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
# 参数说明
通常情况下,默认参数即可适配大部分场景,但因场景表现不同出现效果问题时,参数也需要针对调整,下面就一些典型场景提供对应的参数建议。
1)通用场景参数(默认)
此场景为适配大多数场景参数,即上述提供的默认参数取值。
2)数字人画面不清晰调整参数
方法1:将视频编码质量参数(videoCrfQuality)调小,当设置值为14时,数字人素材与原始人物素材清晰度对齐,此方法可能会轻微增大素材大小;
方法2:合成视频或创建直播的输入请求中适当添加锐化sharp值,具体可参考 json 定义说明中 beautify 对象下的 sharpen 取值调大;
方法3:选择4k版本训练数字人
3)人物边缘出现黑边且有轻微反绿调整参数(出现频率高,尤其是白衣服场景易出现)
请参考下面的参数进行人物模型更新(rebuilding),同时调低背景保留程度与人物边缘保留宽度,此方法主要适配绿幕分割场景。参考取值如下:
{
"materialName": "534",
"segmentStyle": 1,
"removeGreenEdge": false ,
"assetScale": 1,
"devStage2Config":0,
"stage1Template": 0,
"greenParamsRefinethHBgr": 90,
"greenParamsRefinethLBgr": 10,
"greenParamsBlurKs": 3,
"greenParamsColorbalance": 100,
"greenParamsSpillByalpha": -0.3,
"greenParamsSamplePointBgr": [
0,
275,
0
],
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
5)人物边缘有绿边或整体泛绿调整参数
可以调小去绿平衡参数,参数越小去绿力度越高,也更容易偏色,例如将柠檬黄色抠除绿元素而变成橙色,建议最小设为-0.3。此方法可增强色彩,适合画面中没有黄色时,同时支持绿幕分割与普通分割。参考取值如下:
{
"materialName": "534",
"segmentStyle": 2,
"removeGreenEdge": true ,
"devStage2Config": 0,
"stage1Template": 0,
"greenParamsSpillByalpha": -0.3,
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
6)人物说话脸颊幅度大且在脸颊或脖子位置出现灰边调整参数
此种情况发生原因为初始素材分割结果与驱动后的数字人脸颊边缘不匹配,需要选择绿幕分割后处理(segmentStyle=3)方式训练,主要适合绿幕分割处理的数字人。
# 响应元素
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
code | Integer | True | 0 - 成功, 其他 - 异常 |
message | String | True | 异常详细信息 |
data | Object | False | 任务id |
# 响应样例
{
"code": 0,
"message": "success",
"data": 1
}
# 创建人物形象模型更新任务
# 接口描述
2D数字人展示的动作片段是从训练视频中抽取的,默认情况下是从说话的第一秒到3分半的时长。如果对2D数字人的动作片段不满意,可以通过此接口进行动作片段修改,调整展示的动作时长和内容。需要注意的是使用人物形象模型更新功能时,建议背景分割方式与原模型文件生成时选择的背景分割方式一致,变更分割方式可能会引起效果异常问题。 PaaS平台支持7天在线存储,需要及时转存,7天后生成内容将无法下载。
# 请求地址
POST
/api/2dvh/v1/material/2davatar/model/rebuilding/video
# 请求头
Content-Type:
application/json
# 请求参数
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
materialName | String | True | 人物模型素材名称 |
videoUrl | String | True | 视频素材下载地址 |
modelUrl | String | True | 已生成的原模型文件下载地址 |
segmentStyle | Integer | True | 背景分割方式:0:不分割,1:绿幕分割,2:普通分割,3:sdk做绿幕分割后处理(视频合成时gpu后处理) |
removeGreenEdge | Boolean | False | 当segmentStyle=2时,设置有效,默认为false,去除人物边缘绿边功能 |
greenParamsRefinethHBgr | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 160,范围0-255; refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
greenParamsRefinethLBgr | Integer | False | 当segmentStyle=1 或 3时,设置有效, 默认 40, 范围0-255; refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
greenParamsBlurKs | Integer | False | 当segmentStyle=1或 3时,设置有效, 默认 3,平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低 |
greenParamsColorbalance | Integer | False | 当segmentStyle=1 或 3时, 设置有效,默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
greenParamsSpillByalpha | Double | False | 当segmentStyle=1和3时,设置有效, 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
greenParamsSamplePointBgr | int[] | False | 当segmentStyle=1 或 3时,设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
videoCrfQuality | Integer | False | 视频编码质量的参数crf, 参数越小质量越好但文件越大,默认23,允许范围0-51,建议14-28 |
assetStart | Float | False | 裁剪视频素材起始时间(秒) |
assetEnd | Float | False | 裁剪视频素材终止时间(秒) |
assetScale | Float | False | 视频素材缩放比例(默认1.0) |
actionChange | Object | False | 动静切换参数 |
- support | Boolean | True | 是否支持素材动作切换 |
- staticRangeStart | Float | True | 静态素材开始时间(秒) |
- staticRangeEnd | Float | True | 静态素材结束时间(秒) |
- dynamicRangeStart | Float | True | 动态素材开始时间(秒) |
- dynamicRangeEnd | Float | True | 动态素材结束时间(秒) |
- gap | Integer | False | 切出点最大间隔帧数(默认75) |
actionEdit | Object | False | 动作列表相关参数,此组参数support=true时有效 |
- support | Boolean | True | 是否支持支持动作编辑,true支持。 |
- videoPath | String | True | 动态素材文件地址 |
- gap | Integer | False | 切出点最大间隔帧数(默认25) |
- actionList | Array | True | 动作列表 |
- - name | String | True | 动作名称 |
- - clipRangeStart | Float | True | 开始时间(秒) |
- - clipRangeEnd | Float | True | 结束时间(秒) |
- - description | String | False | 动作的文字描述 |
# 请求样例
{
"materialName": "2d任务A",
"videoUrl": "https://xxx.oss-cn-hangzhou.aliyuncs.com/xxx/audio1.mp4",
"modelUrl": "https://xxx.oss-cn-hangzhou.aliyuncs.com/xxx/model1.zip",
"assetStart": 0.0,
"assetEnd": 120.0,
"assetScale": 1.0,
"segmentStyle": 1,
"devStage2Config": 0,
"stage1Template": 0,
"greenParamsRefinethHBgr": 167,
"greenParamsRefinethLBgr": 17,
"greenParamsBlurKs": 7,
"segmentGreenUseGpu":false,
"greenParamsColorbalance": 97,
"greenParamsSpillByalpha": 0.3,
"greenParamsSamplePointBgr": [
7,
275,
7
],
"videoCrfQuality": 21
}
# 参数说明
通常情况下,默认参数即可适配大部分场景,但因场景表现不同出现效果问题时,参数也需要针对调整,下面就一些典型场景提供对应的参数建议。
1)通用场景参数(默认)
此场景为适配大多数场景参数,即上述提供的默认参数取值。
2)数字人画面不清晰调整参数
方法1:将视频编码质量参数(videoCrfQuality)调小,当设置值为14时,数字人素材与原始人物素材清晰度对齐,此方法可能会轻微增大素材大小;
方法2:合成视频或创建直播的输入请求中适当添加锐化sharp值,具体可参考 json 定义说明中 beautify 对象下的 sharpen 取值调大;
方法3:选择4k版本训练数字人,但更新时不支持修改分辨率
3)人物边缘出现黑边且有轻微反绿调整参数(出现频率高,尤其是白衣服场景易出现)
请参考下面的参数进行人物模型更新(rebuilding),同时调低背景保留程度与人物边缘保留宽度,此方法主要适配绿幕分割场景。参考取值如下:
{
"materialName": "534",
"segmentStyle": 1,
"removeGreenEdge": false ,
"assetScale": 1,
"greenParamsRefinethHBgr": 90,
"greenParamsRefinethLBgr": 10,
"greenParamsBlurKs": 3,
"greenParamsColorbalance": 100,
"greenParamsSpillByalpha": -0.3,
"greenParamsSamplePointBgr": [
0,
275,
0
],
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
5)人物边缘有绿边或整体泛绿调整参数
可以调小去绿平衡参数,参数越小去绿力度越高,也更容易偏色,例如将柠檬黄色抠除绿元素而变成橙色,建议最小设为-0.3。此方法可增强色彩,适合画面中没有黄色时,同时支持绿幕分割与普通分割。参考取值如下:
{
"materialName": "534",
"segmentStyle": 2,
"removeGreenEdge": true ,
"greenParamsSpillByalpha": -0.3,
"videoCrfQuality": 21,
"videoUrl": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4"
}
6)人物说话脸颊幅度大且在脸颊或脖子位置出现灰边调整参数
此种情况发生原因为初始素材分割结果与驱动后的数字人脸颊边缘不匹配,需要选择绿幕分割后处理(segmentStyle=3)方式训练,主要适合绿幕分割处理的数字人。
# 响应元素
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
code | Integer | True | 0 - 成功, 其他 - 异常 |
message | String | True | 异常详细信息 |
data | Object | False | 任务id |
# 响应样例
{
"code": 0,
"message": "success",
"data": 1
}
# 创建图片绿幕分割效果预览任务
# 接口描述
图片绿幕分割效果预览
# 请求地址
POST
/api/2dvh/v1/material/2davatar/model/green/segment/image/create
# 请求头
Content-Type:
application/json
# 请求参数
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
materialName | String | True | 图片绿幕分割效果预览任务名称 |
url | String | True | 图片素材下载地址 |
param | String | True | 图片绿幕分割效果预览任务需要传入正确的param信息,其中包括各类参数(该参数为json转义后的字符串),请参考下面的参数说明和 json 示例 |
# param参数说明
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
greenParamsRefinethHBgr | Integer | False | 默认 160,范围70-220。refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
greenParamsRefinethLBgr | Integer | False | 默认 40, 范围10-80。refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
greenParamsBlurKs | Integer | False | 默认 3,范围:1-24。平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低。 |
greenParamsColorbalance | Integer | False | 默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
greenParamsSpillByalpha | Double | False | 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
greenParamsSamplePointBgr | int[] | False | 设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
greenParamsSampleBackground | object | False | 背景参数,请参考下面的参数说明和 json 示例 |
# greenParamsSampleBackground参数说明
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
color | int[] | False | 默认 [0,255,0], rgb颜色值,范围0-255 |
# 请求样例
{
"materialName": "534",
"url": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4",
"param": "{\"green_params_refineth_h_bgr\":230,\"green_params_refineth_l_bgr\":70,\"green_params_blur_ks\":3,\"green_params_colorbalance\":100,\"green_params_spill_byalpha\":0,\"green_params_sample_point_bgr\":[0,255,0],\"green_params_sample_background\":{\"color\":[0,100,255]}}"
}
# 响应元素
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
code | Integer | True | 0 - 成功, 其他 - 异常 |
message | String | True | 异常详细信息 |
data | Object | False | 任务信息 |
- id | Long | True | 任务id |
- url | String | True | 图片地址 |
# 响应样例
{
"code": 0,
"message": "success",
"data": 1
}
# 视频绿幕分割效果预览
# 接口描述
视频绿幕分割效果预览
# 请求地址
POST
/api/2dvh/v1/material/2davatar/model/green/segment/video/create
# 请求头
Content-Type:
application/json
# 请求参数
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
materialName | String | True | 视频绿幕分割效果预览任名称 |
url | String | True | 基础base视频素材下载地址 ,基础视频时长要求必须在6min以上 |
param | String | True | 视频绿幕分割效果预览任务需要传入正确的param信息,其中包括各类参数(该参数为json转义后的字符串),请参考下面的参数说明和 json 示例 |
# param参数说明
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
greenParamsRefinethHBgr | Integer | False | 默认 160,范围70-220。refine alpha 高阈值 (对于背景为红绿蓝),用于调整背景保留程度,值越大背景保留程度越大 |
greenParamsRefinethLBgr | Integer | False | 默认 40, 范围10-80。refine alpha 低阈值 (对于背景为红绿蓝),用于调整人体/物体边缘保留宽度,值越大保留越多 |
greenParamsBlurKs | Integer | False | 默认 3,范围:1-24。平滑度; 去噪点的blur系数,大于等于0,平滑度越大越平滑,对边缘有影响,若边缘出现黑边异色可以将该值升高,若边缘出现内蚀可以该值适当降低 |
greenParamsColorbalance | Integer | False | 默认100, 去绿程度,范围0-100,取值越大,去绿程度越高 |
greenParamsSpillByalpha | Double | False | 默认 0.5,去绿色彩平衡,范围[-1.0 ~ 1.0],0 ~ 1 是减少偏色,-1 ~ 0 是增强色彩,小于0.5黄色会偏色,大于0.5青蓝色会偏色,若使用蓝幕分割,则默认值需要改为 0.0 |
greenParamsSamplePointBgr | int[] | False | 设置有效,采样颜色,由三个数值组成,各自取值范围0-255,例如[0, 255, 0] ,若使用蓝幕分割,则默认值需要改为 [255, 0, 0] |
greenParamsSampleBackground | object | False | 背景参数,请参考下面的参数说明和 json 示例 |
# greenParamsSampleBackground参数说明
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
color | int[] | False | 默认 [0,255,0], rgb颜色值,范围0-255 |
# 请求样例
{
"materialName": "534",
"url": "https://xxx/materials/33/demo_20230228104258028_20230720185601860.mp4",
"param": "{\"green_params_refineth_h_bgr\":230,\"green_params_refineth_l_bgr\":70,\"green_params_blur_ks\":3,\"green_params_colorbalance\":100,\"green_params_spill_byalpha\":0,\"green_params_sample_point_bgr\":[0,255,0],\"green_params_sample_background\":{\"color\":[0,100,255]}}"
}
# 响应元素
字段 | 类型 | 必填 | 描述 |
---|---|---|---|
code | Integer | True | 0 - 成功, 其他 - 异常 |
message | String | True | 异常详细信息 |
data | Object | False | 任务id |
# 响应样例
{
"code": 0,
"message": "success",
"data": 1
}
以上即为平台可以提供的全部算法能力。
← 如影数字人/如影声音复刻采集标准 视频合成 →