管理模型 登录智能数据洞察控制台。 单击控制台上方“模型管理”,进入模型服务界面。 单击“创建模型服务”,支持对接各种接口形式的模型,参数说明请参见表2。 图2 新增模型 表2 创建模型服务参数说明 参数 说明 示例 名称 设置模型的名称。只能包含中文、英文、数字、空格、下划线(_)和中划线(_),且开头和结尾不能有空格,长度为1-64个字符。 盘古大模型测试 模型类型 设置模型类型。 盘古大模型(云底座):盘古大模型服务购买部署的大模型。 开源大模型(昇腾云):昇腾云服务部署的开源大模型。 开源大模型(裸机):自定义裸机部署的开源大模型。 盘古大模型(裸机):裸机部署的盘古大模型。 盘古大模型(云底座) 所属项目 指定拥有该模型使用权限的项目空间,为空则表示全部空间拥有该模型使用权限。 test 任务类型 当前接入模型可应用的任务类型。任务类型:NL2SQL、智能见解 NL2SQL、智能见解 接入网络类型 模型网络接入方式。 公网:需模型地址为公网
域名 或IP地址,可直接访问。 终端节点服务:通过vpcEp打通DataArtsInsight与大模型之间的网路,多用于大模型裸机部署场景。 公网 访问地址 大模型问答访问地址。 https://test.com/v1/infers/gpt/query?endpoint=infer-app 认证类型
IAM 认证 租户名:华为云租户名称,即主账号名称。 用户名:用户名称,即拥有大模型访问权限用户名称。 密码:用户登录密码。 项目名称:华为云项目名称。 租户名:domain_name 用户名:sub_user_name 密码:password 项目名称:cn-north-4 AKSK认证 AK:访问密钥ID。 SK:访问密码。 项目名称:华为云项目名称。 AK:test SK:test 项目名称:cn-north-4 AppCode认证 AppCode:API网关访问场景,对应应用的AppCode。 yourAppCode 委托认证 账户名称:委托方账户名称。 委托名称:委托方创建的委托名。 项目名称:华为云项目名称。 账户名称:domain_name 委托名称:agency_name 项目名称:cn-north-4 自定义认证 标头键:请求头key。 标头值:请求头value。 标头键:X-Test-Header 标头值:testHeader 参数设置完成后,单击“连通性测试”,测试通过后单击“确认”,模型创建成功。 单击“NL2SQL默认模型”、“智能见解默认模型”下拉菜单可以设置默认模型。设置完成后,新建智能分析助手NL2SQL、智能见解所使用的模型将自动使用选择的默认模型。