企业推理服务配置

企业管理员可通过模型服务配置,完成私有化模型的接入,并且可以对智能问答和 AI 程序员不同场景,灵活配置插件端可选模型,实现精准管控,满足不同业务场景的需求。

企业推理服务配置与模型选择

自有模型配置

  1. 登录灵码控制台,在左侧导航栏选择策略配置 > 推理服务配置。
  2. 在推理服务配置页面中,针对所需的场景(这里以AI程序员场景为例),完成模型服务配置:
  3. 启用模型服务配置的开关。
  4. 填写模型的URL地址、模型名称、API密钥信息。

image

  1. 单击测试连接并保存配置。
  2. 成功提示:模型服务连接成功。
  3. 失败提示:模型服务连接失败,请确保配置内容准确后重新测试。

模型选择配置与使用

在模型选择页面中,针对智能问答和 AI 程序员场景,分别完成模型服务的选择。

image

在 IDE 中,登录企业版账号,在所对应场景标签里,即可看到所配置的模型。

results matching ""

    No results matching ""