跳转到主内容
版本：开发版

配置模型 API 密钥

RAGFlow 需要 API 密钥才能与在线 AI 模型交互。本指南提供了在 RAGFlow 中设置模型 API 密钥的信息。

获取模型 API 密钥​

RAGFlow 支持大多数主流的 LLM。有关支持的模型的完整列表，请参阅支持的模型。您需要在线申请您的模型 API 密钥。请注意，大多数 LLM 提供商会为新创建的账户提供试用信用额度，该额度将在几个月内过期，或提供一定数量的免费配额。

注意

如果您发现您使用的在线 LLM 不在列表中，请不要灰心。该列表正在不断扩展，您可以向我们提交功能请求！或者，如果您有自定义或本地部署的模型，您可以使用 Ollama、Xinference 或 LocalAI 将它们绑定到 RAGFlow。

配置模型 API 密钥​

您有两种配置模型 API 密钥的选项

  • 在启动 RAGFlow 之前，在 service_conf.yaml.template 中进行配置。
  • 登录 RAGFlow 后，在 模型提供商 页面进行配置。

启动 RAGFlow 前配置模型 API 密钥​

  1. 导航到 ./docker/ragflow。
  2. 找到 user_default_llm 条目。
    • 使用您选择的 LLM 更新 factory。
    • 用您的密钥更新 api_key。
    • 如果您使用代理连接远程服务，请更新 base_url。
  3. 重启系统使您的更改生效。
  4. 登录 RAGFlow。
    登录 RAGFlow 后，您会发现您选择的模型出现在 模型提供商 页面的 已添加模型 下。

登录 RAGFlow 后配置模型 API 密钥​

警告

登录 RAGFlow 后，通过 service_conf.yaml.template 文件配置模型 API 密钥将不再生效。

登录 RAGFlow 后，您只能在 模型提供商 页面配置 API 密钥。

  1. 点击页面右上角的您的头像 > 模型提供商。
  2. 在 待添加模型 下找到您的模型卡片，然后点击 添加模型： add model
  3. 粘贴您的模型 API 密钥。
  4. 如果您使用代理连接远程服务，请填写您的 base URL。
  5. 点击 确定 以确认您的更改。
注意

要更新现有的模型 API 密钥： update api key