企业推理服务配置
企业管理员可通过模型服务配置,完成私有化模型的接入,并且可以对智能问答和 AI 程序员不同场景,灵活配置插件端可选模型,实现精准管控,满足不同业务场景的需求。
企业推理服务配置与模型选择
自有模型配置
- 登录灵码控制台,在左侧导航栏选择策略配置 > 推理服务配置。
- 在推理服务配置页面中,针对所需的场景(这里以AI程序员场景为例),完成模型服务配置:
- 启用模型服务配置的开关。
- 填写模型的URL地址、模型名称、API密钥信息。
- 单击测试连接并保存配置。
- 成功提示:模型服务连接成功。
- 失败提示:模型服务连接失败,请确保配置内容准确后重新测试。
模型选择配置与使用
在模型选择页面中,针对智能问答和 AI 程序员场景,分别完成模型服务的选择。
在 IDE 中,登录企业版账号,在所对应场景标签里,即可看到所配置的模型。