|
1 | | -# 模型概述 |
| 1 | +# AI 模型配置 |
2 | 2 |
|
3 | 3 | ## 1 功能概述 |
4 | 4 |
|
5 | | - |
6 | 5 | !!! Abstract "" |
7 | | - MaxKB 支持与多种供应商模型的集成，支持对接当前主流的大型模型。这包括但不限于本地部署的私有模型如 Llama 3 和 Qwen 2，国内提供的公共模型服务例如 DeepSeek、SILICONFLOW、Kimi、智谱 AI 和百度千帆，以及国际知名的公共模型服务如 OpenAI、Azure OpenAI、Anthropic 和 Gemini。集成的模型类型广泛，涵盖文本生成、向量分析、排序算法、语音识别、语音合成、计算机视觉模型以及图像生成等，满足多样化的业务需求和应用场景。 |
| 6 | + SQLBot 支持集成主流大语言模型（LLM），如 DeepSeek、阿里云百炼、百度千帆等，用户可在系统中配置模型接入信息，实现基于自然语言的智能问数能力。 |
8 | 7 |
|
| 8 | + 模型配置集中在【AI 模型配置】页面进行管理，支持添加、编辑、删除模型，以及设置默认模型，用于控制智能问数时的底层模型调用逻辑。 |
9 | 9 |
|
10 | | - 【模型】用来管理各类大型模型，为后续知识库和应用提供模型使用； |
11 | 10 |
|
12 | | - - 共享模型：系统管理员在【共享资源】中创建共享模型后，可以授权给指定工作空间。 |
13 | | - - 全部工具：用户可以创建模型，其他用户[**资源授权**](../../user_manual/X-Pack/authorization_resources.md)后可以查看、使用和维护。 |
14 | | - |
15 | | - **注意**：共享资源为企业版 X-Pack 功能。 |
| 11 | + |
16 | 12 |
|
17 | | - |
| 13 | +## 2 模型管理 |
18 | 14 |
|
19 | | -## 3 模型管理 |
| 15 | +### 2.1 添加模型 |
20 | 16 |
|
21 | 17 | !!! Abstract "" |
22 | | - 左侧选择全部模型后，选择对应供应商，【添加模型】进行模型添加。 |
| 18 | + 点击【添加模型】，可选择模型提供商（如 DeepSeek、阿里云百炼等），填写模型名称、基础模型类型、API 地址、Key、模型参数（如温度、最大响应长度等）后保存，即可完成配置。 |
23 | 19 |
|
24 | | - |
| 20 | + 模型参数需与所接入平台保持一致，确保调用成功。 |
25 | 21 |
|
26 | | -!!! Abstract "" |
27 | | - 支持编辑、模型参数设置和删除。 |
28 | | - |
| 22 | + |
| 23 | + |
| 24 | + |
29 | 25 |
|
| 26 | + |
| 27 | +### 2.2 编辑模型 |
30 | 28 | !!! Abstract "" |
31 | | - 支持按模型名称、模型类型、创建者查询。 |
| 29 | + 已配置的模型支持随时调整参数，点击【编辑】可修改模型名称、API Key、地址及模型参数等信息，保存后生效。 |
| 30 | + |
| 31 | + 建议在不影响当前业务使用的情况下进行编辑操作。 |
32 | 32 |
|
33 | | - |
| 33 | + |
| 34 | + |
| 35 | + |
| 36 | + |
| 37 | +### 2.3 删除模型 |
34 | 38 |
|
35 | 39 | !!! Abstract "" |
36 | | - 模型删除需要二次确认，确认后将直接删除模型。 |
| 40 | + 如某模型已废弃或不再使用，点击【删除】确认后移除。删除后该模型将不可被问数功能调用。 |
37 | 41 |
|
38 | | - |
| 42 | + |
39 | 43 |
|
40 | 44 |
|
| 45 | +### 2.4 系统默认模型 |
41 | 46 |
|
42 | | -## 3 支持的供应商及模型 |
43 | 47 | !!! Abstract "" |
| 48 | + 当系统配置了多个模型时，可在页面右上角点击【系统默认模型】，从下拉列表中选择一个模型作为默认使用模型。 |
| 49 | + |
| 50 | + 默认模型将作为 SQLBot 智能问数时的首选调用对象，直接影响问数结果表现。切换默认模型后立即生效，建议结合模型质量与稳定性做出选择。 |
44 | 51 |
|
45 | | - 各供应商支持的类型详情见下表（按字母排序）： |
46 | | - |
47 | | - | | 大语言模型 | 向量模型 | 重排模型 | 语音识别 | 语音合成 | 视觉模型 | 图片生成 | |
48 | | - |-----------------|:--------:|:---------:|:----------:|:----------:|:----------:|:----------:|:----------:| |
49 | | - |阿里云百炼 | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
50 | | - |Anthropic | ✔ | | | | | ✔ | | |
51 | | - |Amazon Bedrock | ✔ | ✔ | | | | | | |
52 | | - |Azure OpenAI | ✔ | ✔ | | ✔ | ✔ | ✔ | ✔ | |
53 | | - |DeepSeek | ✔ | | | | | | | |
54 | | - |Gemini | ✔ | ✔ | | ✔ | | ✔ | | |
55 | | - |kimi | ✔ | | | | | | | |
56 | | - |OpenAI | ✔ | ✔ | | ✔ | ✔ | ✔ | ✔ | |
57 | | - |SILICONFLOW | ✔ | ✔ | ✔ | ✔ | | | ✔ | |
58 | | - |腾讯云 | ✔ | | | | | | | |
59 | | - |腾讯混元 | ✔ | ✔ | | | | ✔ | ✔ | |
60 | | - |火山引擎 | ✔ | ✔ | | ✔ | ✔ | ✔ | ✔ | |
61 | | - |千帆大模型 | ✔ | ✔ | | | | | | |
62 | | - |讯飞星火 | ✔ | ✔ | | ✔ | ✔ | | | |
63 | | - |智谱 AI | ✔ | | | | | ✔ | ✔ | |
64 | | - |本地模型 | | ✔ | ✔ | | | | | |
65 | | - |Ollama | ✔ | ✔ | ✔ | | | ✔ | | |
66 | | - |vLLM | ✔ | ✔ | | | | ✔ | | |
67 | | - |Xorbits Inference| ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | ✔ | |
68 | 52 |
|
| 53 | + |
69 | 54 |
|
70 | 55 |
|
71 | 56 |
|
|
0 commit comments