跳到主要内容
版本：DEV

配置模型API密钥

RAGFlow 需要 API 密钥才能与在线 AI 模型交互。本指南提供有关在 RAGFlow 中设置模型 API 密钥的信息。

获取模型API密钥​

RAGFlow 支持大多数主流 LLM。请参阅 支持的模型 以获取支持模型的完整列表。您需要在网上申请您的模型 API 密钥。请注意，大多数 LLM 提供商会为新创建的账户提供试用额度，该额度将在几个月后过期，或提供一定金额的免费额度作为推广。

注意

如果您发现您的在线 LLM 不在列表中，请不要灰心。列表正在不断扩展，您可以 向我们提交功能请求！此外，如果您有定制或本地部署的模型，您可以使用 Ollama、Xinference 或 LocalAI 将它们绑定到 RAGFlow。

配置模型API密钥​

您有两种配置模型 API 密钥的选项

  • 在启动 RAGFlow 前，在 service_conf.yaml.template 中配置。
  • 登录 RAGFlow 后，在 模型提供商 页面上配置。

在启动 RAGFlow 前配置模型 API 密钥​

  1. 导航到 ./docker/ragflow。
  2. 找到条目 user_default_llm
    • 将 factory 更新为您选择的 LLM。
    • 将 api_key 更新为您的 API 密钥。
    • 如果您使用代理连接到远程服务，请更新 base_url。
  3. 重启系统以使您的更改生效。
  4. 登录 RAGFlow。
    登录 RAGFlow 后，您将在 模型提供商 页面的 已添加模型 下找到您选择的模型。

登录 RAGFlow 后配置模型 API 密钥​

警告

登录 RAGFlow 后，通过 service_conf.yaml.template 文件配置模型 API 密钥将不再生效。

登录 RAGFlow 后，您只能在 模型提供商 页面上配置 API 密钥

  1. 点击页面右上角的头像 > 模型提供商。
  2. 在 待添加模型 下找到您的模型卡并点击 添加模型: add model
  3. 粘贴您的模型 API 密钥。
  4. 如果您使用代理连接到远程服务，请填写您的基础 URL。
  5. 点击 确定 确认您的更改。
注意

稍后更新现有模型 API 密钥：update api key