添加语言模型连接
在“AI 配置 → LLM 管理”新增连接,填写名称、提供商类型、接口基础地址、模型标识与密钥,再使用“测试连接”检查当前表单内容。地址通常包含服务要求的 API 前缀,例如 /v1,不要填入完整的聊天接口路径。
当前提供商类型为 OpenAI 兼容协议。支持该协议的网关或自托管服务可配置接入;Anthropic、Gemini 原生协议不在当前提供商类型中。所选模型需要支持工具调用,才能按需查询平台数据。
启用、默认与指定模型
多个连接可以同时启用。普通提问、未指定模型的 Skill 和定时任务使用默认连接;没有显式默认时,使用最早启用的连接。默认连接必须启用。Skill 与定时任务也可单独指定模型。
LLM 管理只管理语言模型。预测管理中的“模型管理”配置 Chronos 等时序模型,负责生成数值预测,两类连接分别维护。
高级设置
| 设置 | 作用 |
|---|---|
| 请求超时 | 默认 90 秒,范围 5~600 秒,限制单次模型请求。 |
| 工具读取轮数 | 默认 6,范围 1~12,限制一次提问中模型继续调用工具的轮数。 |
| Temperature | 可选,控制回答采样;是否生效取决于服务对该字段的支持。 |
| 最大 Tokens | 限制单次回答长度;0 不发送此限制,由服务决定。 |
| 上下文长度 | 配置模型的上下文预算,过长对话从最旧消息开始裁剪;0 表示未知、不按此设置裁剪。 |
| 代理与 TLS | 配置代理地址,或按连接设置跳过 TLS 证书验证;正常证书连接保留验证。 |
| 自定义请求头 | 为网关附加请求头,值加密保存;编辑时不会返回已保存的明文。 |
| 自定义参数 JSON | 附加服务参数,不能覆盖 model、messages、tools、stream 等平台管理字段。 |
“测试连接”使用当前表单中的地址、模型和高级设置;编辑时可复用已保存的密钥。通过后再保存,检查默认状态是否符合预期。
凭据与权限
密钥和自定义请求头值加密保存,不以明文返回列表或编辑表单。连接管理权限与聊天权限分开授予,能聊天不代表可以编辑模型连接。
系统参数中仅保留助手总开关 assistant.enabled。模型地址、密钥与限额在 LLM 管理维护;旧版参数会在显式数据库迁移时转入连接记录。
接入后检查
- 测试连接,确认模型标识与密钥有效。
- 启用并设为默认,打开助手提出需要查询平台数据的问题。
- 检查工具读取与回答,确认服务兼容工具调用。
- 为有不同需要的 Skill 或定时任务指定其他已启用模型。