最近在尝试构建企业级知识库系统时，发现单纯依赖大模型API进行问答，存在成本高、回答不准确、无法利用私有数据等问题。经过调研，Dify作为一款开源的LLM应用开发平台，结合DeepSeek这类高性能模型，能够快速搭建一个功能强大、可私有化部署的RAG知识库。本文将手把手带你完成从零到一的完整搭建过程，涵盖环境部署、模型配置、知识库构建、工作流设计以及生产级优化，无论你是个人开发者还是企业技术负责人，都能获得一套可直接复用的解决方案。

1. 背景与核心概念：为什么选择 Dify + DeepSeek？

在深入实操之前，有必要厘清几个核心概念，理解这套技术栈的价值所在。

1.1 Dify：LLM应用的低代码开发平台

Dify 并非一个简单的聊天界面，而是一个旨在降低大模型应用开发门槛的平台。你可以把它理解为一个“大模型应用的操作系统”。它的核心价值在于：

  • 可视化工作流 ：通过拖拽节点的方式，编排复杂的AI应用逻辑，如知识库问答、文本处理、条件分支等，无需编写大量胶水代码。
  • 统一的知识库管理 ：支持从多种数据源（文本、PDF、Word、网页）导入文档，自动进行切片、向量化，并提供统一的检索接口。它解决了RAG（检索增强生成）中文本预处理、向量存储和检索的复杂性。
  • 多模型支持 ：作为一个中间层，Dify 可以对接 OpenAI、Azure、DeepSeek、通义千问等多种模型API，实现模型的无缝切换和对比。
  • 应用管理与监控 ：提供完整的应用发布、API密钥管理、对话日志和Token消耗统计功能，便于生产环境运维。

1.2 DeepSeek：高性价比的国产大模型

DeepSeek 以其出色的性能、极长的上下文窗口（如128K、256K）和极具竞争力的价格，迅速成为开发者构建应用的热门选择。对于知识库场景，其优势尤为明显：

  • 强大的中文理解与生成能力 ：在处理中文文档和回答中文问题时表现优异。
  • 超长上下文 ：能够一次性处理非常长的文档，在RAG中，即使检索到的文档片段较长，模型也能很好地理解和整合。
  • API成本可控 ：相比国际主流模型，其API调用成本更低，使得构建高频使用的知识库应用在经济上可行。

1.3 RAG（检索增强生成）知识库

这是本文构建系统的核心技术范式。传统大模型回答基于其训练时的“记忆”，存在信息滞后、可能“胡编乱造”（幻觉）的问题。RAG通过以下流程解决：

  1. 索引 ：将你的私有文档（如产品手册、公司制度、技术文档）进行切分，并转换为向量（Embedding），存入向量数据库。
  2. 检索 ：当用户提问时，将问题也转换为向量，在向量数据库中搜索与之最相关的文档片段。
  3. 增强 ：将检索到的相关片段作为“参考材料”，连同用户问题一起提交给大模型。
  4. 生成 ：大模型基于提供的“参考材料”生成答案，从而确保答案的准确性和时效性。

Dify 的核心作用，就是为我们自动化地完成了步骤1、2、3的复杂工程，让我们可以专注于业务逻辑和提示词优化。

2. 环境准备与版本说明

在开始部署前，请确保你的服务器或本地开发环境满足以下要求。本文将提供两种主流的部署方式：Docker Compose（推荐）和直接安装。

2.1 基础环境要求

  • 操作系统 ：Ubuntu 20.04/22.04 LTS, CentOS 7/8, 或 macOS (用于开发测试)。Windows 用户建议使用 WSL2 或 Docker Desktop。
  • CPU与内存 ：最低配置 2核 CPU，4GB 内存。对于生产环境或有大量文档需要处理，建议 4核 CPU，8GB 内存以上。
  • 磁盘空间 ：至少 10GB 可用空间，用于存放Dify服务、数据库和向量索引。
  • 网络 ：服务器需要能访问互联网，以下载Docker镜像和调用DeepSeek API。如需完全内网部署，需提前准备离线镜像。

2.2 软件依赖版本

本文以当前稳定版本为例，实际操作时请以Dify官方GitHub仓库的最新Release为准。

  • Docker ：20.10.0 或更高版本。
  • Docker Compose ：v2.0.0 或更高版本。
  • Python ：3.8+（如果你选择直接安装Dify后端）。
  • DeepSeek API Key ：你需要前往 DeepSeek 开放平台 注册账号并获取API Key。

2.3 部署方式选择

  • Docker Compose（推荐） ：最简单、最标准的方式，一键启动所有依赖服务（PostgreSQL, Redis, 向量数据库等），隔离性好，易于维护和升级。
  • 直接安装 ：适合深度定制或对Docker有排斥的环境，但需要手动安装和配置所有依赖，过程较为复杂。

本文将主要采用 Docker Compose 方式进行演示，这是官方推荐且最省心的方案。

3. 使用 Docker Compose 部署 Dify

我们将从零开始，完成Dify的完整部署和初始化访问。

3.1 获取部署文件

首先，在服务器上创建一个工作目录并进入。 

mkdir dify && cd dify

从 Dify 官方 GitHub 仓库下载最新的 docker-compose.yaml 配置文件。建议始终使用最新稳定版。 

# 下载 docker-compose 配置文件
wget https://github.com/langgenius/dify/blob/main/docker/docker-compose.yaml
# 下载环境变量配置文件
wget https://github.com/langgenius/dify/blob/main/docker/.env.example -O .env

3.2 配置环境变量

编辑 .env 文件，这是配置Dify行为的关键。我们主要关注以下几个核心配置： 

# 编辑 .env 文件
vim .env

找到并修改以下配置项： 

# 设置Dify对外访问的地址，如果是本地测试，可以是 http://localhost
# 如果是服务器部署，请替换为你的服务器IP或域名，如 http://your-server-ip
APP_URL=http://localhost

# 设置一个安全的密钥，用于加密会话，可以使用 openssl 生成
# 在终端运行：openssl rand -base64 32
SECRET_KEY=your_generated_secure_secret_key_here

# 数据库配置（通常使用默认即可，Docker Compose会创建容器内网络）
DB_USERNAME=postgres
DB_PASSWORD=difyai123456
DB_HOST=db
DB_PORT=5432
DB_DATABASE=dify

# Redis配置
REDIS_HOST=redis
REDIS_PORT=6379
REDIS_PASSWORD=

# 向量数据库配置 - Dify 默认使用 Weaviate，也支持 Qdrant, PGVector 等。
# 我们使用默认的 Weaviate 即可。
VECTOR_STORE=weaviate
WEAVIATE_ENDPOINT=http://weaviate:8080

保存并退出编辑器。

3.3 启动 Dify 服务

在 dify 目录下，运行以下命令启动所有服务。这个过程会拉取多个Docker镜像，首次执行可能需要几分钟。 

# 启动服务（在后台运行）
docker-compose up -d

使用以下命令查看服务启动状态，直到所有容器状态均为 healthy 或 Up 。 

# 查看容器状态
docker-compose ps
# 查看实时日志
docker-compose logs -f

当看到日志中出现 Application startup complete. 或类似信息时，说明Dify已启动成功。

3.4 访问并初始化 Dify

打开浏览器，访问你在 .env 文件中设置的 APP_URL （例如 http://localhost 或 http://your-server-ip ）。

  1. 你将看到 Dify 的初始化页面。
  2. 按照提示，设置管理员账号（邮箱）和密码。 请务必牢记此密码 。
  3. 完成初始化后，使用刚设置的账号登录，即可进入 Dify 主控制台。

至此，Dify 平台本身已经部署完成。接下来，我们需要将其与大脑——DeepSeek 模型连接起来。

4. 配置 DeepSeek 模型作为推理引擎

Dify 本身不提供模型能力，它需要一个“模型供应商”。我们需要在 Dify 中配置 DeepSeek 的 API。

4.1 获取 DeepSeek API Key

  1. 访问 DeepSeek 开放平台 。
  2. 注册并登录账号。
  3. 在控制台中，找到“API Keys” section。
  4. 点击“Create new API key”，为其命名（如 dify-knowledge-base ），并复制生成的密钥。 此密钥仅显示一次，请妥善保存。

4.2 在 Dify 中添加模型供应商

  1. 登录 Dify 控制台。
  2. 点击左侧导航栏底部的 “设置” （齿轮图标）。
  3. 在设置页面，选择 “模型供应商” 标签页。
  4. 点击 “添加模型供应商” 按钮。
  5. 在模型供应商列表中，找到并选择 “DeepSeek” 。
    • 如果列表中没有，可以选择“OpenAI Compatible”，因为DeepSeek API与OpenAI格式兼容。

4.3 配置 DeepSeek API 参数

根据你选择的配置方式，填写以下信息：

方式一：直接使用 DeepSeek 选项（如果列表有）

  • 模型供应商 ：DeepSeek
  • API Key ：粘贴你从 DeepSeek 平台获取的密钥。
  • API Base URL ：通常为 https://api.deepseek.com （请以官方文档为准）。

方式二：使用 OpenAI Compatible 选项（通用方法）

  • 模型供应商 ：OpenAI Compatible
  • API Key ：粘贴你从 DeepSeek 平台获取的密钥。
  • API Base URL ：填写 https://api.deepseek.com/v1 （注意 /v1 路径）。
  • 模型名称 ：这里需要填写具体的模型名，例如 deepseek-chat 。 这是关键！ 你必须查阅 DeepSeek 最新文档，确认可用的模型名称（如 deepseek-chat , deepseek-coder 等）。

填写完成后，点击“保存”。系统会测试连接是否成功。如果看到“验证成功”的提示，说明模型供应商已配置完成。

4.4 配置 Embedding 模型

知识库的向量化（Embedding）同样需要模型支持。Dify 默认可能使用 OpenAI 的 text-embedding-ada-002 ，但这会产生费用且可能慢。

  • 推荐方案 ：使用开源 Embedding 模型，如 bge-large-zh ，它在中文文本上表现优异，且可以本地部署，免费。
  • 配置路径 ：在“设置” -> “模型供应商”中，添加或选择一个支持 Embedding 的供应商。例如，如果你在服务器上通过 Ollama 部署了 nomic-embed-text 模型，可以添加一个“Ollama”供应商，并配置其 Embedding 模型。

为了简化，我们可以在首次创建知识库时，在知识库设置中选择系统已配置的 Embedding 模型。 确保你为知识库选择了一个可用的 Embedding 模型，否则知识库索引将无法创建。

5. 构建你的第一个知识库

现在，Dify 平台和 DeepSeek 模型都已就绪，可以开始构建核心的知识库了。

5.1 创建知识库

  1. 在 Dify 控制台左侧导航栏，点击 “知识库” 。
  2. 点击右上角的 “创建知识库” 按钮。
  3. 填写知识库基本信息：
    • 名称 ：例如“产品手册知识库”。
    • 描述 ：（可选）简要描述此知识库的用途。
    • 权限 ：选择“仅团队可用”或“公开”，根据你的协作需求设定。
  4. 点击“创建”，进入知识库管理页面。

5.2 配置索引方法

在知识库管理页面，点击上方的 “数据处理” -> “索引设置” 。

  • 分词方式 ：对于中文文档，选择“细分”或“标准”通常效果较好。“细分”会将文本切得更碎，召回可能更高，但可能影响精度。可以先使用“标准”。
  • 向量化模型 ：选择你在 4.4 步骤中配置好的 Embedding 模型。 这是必选项 。
  • 检索方式 ：默认“向量检索”即可。高级版本支持“混合检索”（向量+全文关键词）。
  • 相似度阈值 ：可以保留默认值（如0.8）。当用户问题与文档片段的相似度低于此值时，该片段不会被检索出来。可以根据效果微调。

5.3 上传并处理文档

  1. 在“数据处理”标签页，点击 “上传文件” 或直接将文件拖入区域。
  2. Dify 支持多种格式：TXT, PDF, Word, Excel, PowerPoint, Markdown, HTML。 对于PDF和扫描件，确保文字是可提取的 ，图片形式的PDF需要先进行OCR。
  3. 选择文件后，点击“上传并处理”。Dify 会自动执行以下流程：
    • 文本提取 ：从文件中提取纯文本。
    • 文本清洗与分割 ：按照你设置的规则进行分段。
    • 向量化 ：使用你选择的 Embedding 模型，将每一段文本转换为向量。
    • 存入向量数据库 ：将向量和元数据存入 Weaviate。
  4. 你可以在“文件列表”中查看处理状态。状态变为“已完成”，且“段落数”有数值，说明索引构建成功。

5.4 测试知识库检索

在知识库页面，点击上方的 “测试” 标签页。

  • 在输入框中，输入一个与你上传文档相关的问题，例如，如果你上传了产品手册，可以问“这款产品的主要特性是什么？”。
  • 点击“测试”。
  • 右侧会显示：
    • 检索结果 ：系统检索到的相关文本片段及其相似度分数。
    • 预览回答 ：Dify会调用你配置的对话模型（DeepSeek），基于检索到的片段生成一个预览答案。

通过这个测试，你可以初步验证知识库的检索质量和模型的回答效果。

6. 创建基于知识库的 AI 应用（智能助手）

知识库本身不会直接对外提供服务，我们需要创建一个“应用”来封装问答能力。

6.1 创建文本生成型应用

  1. 点击左侧导航栏的 “应用” 。
  2. 点击 “创建应用” 。
  3. 选择应用类型： “文本生成型应用” （这是最常用的对话型应用）。
  4. 输入应用名称，如“智能产品客服助手”，点击“创建”。

6.2 配置应用提示词与上下文

进入应用编排界面，主要关注两个部分：

  1. 提示词编排（Prompt Engineering） ：

    • 在“对话开场白”中，可以设置助手的欢迎语，如“您好，我是基于产品手册的智能助手，请问有什么可以帮您？”
    • 在“提示词”区域，编写系统指令。这是控制AI行为的关键。一个基础的RAG提示词模板如下： 
      你是一个专业的客服助手，请严格根据以下提供的上下文信息来回答问题。
如果上下文信息中没有相关答案，请直接说“根据现有资料，我无法回答这个问题”，不要编造信息。

上下文：
{context}

问题：
{query}

请根据上下文，用中文友好、专业地回答问题：
    • 这里的 {context} 和 {query} 是Dify的预置变量，会在运行时被自动替换。

  2. 上下文（Context）配置 ：

    • 在界面左侧或提示词区域附近，找到“添加上下文”或“知识库”选项。
    • 点击后，选择你在第5步创建的“产品手册知识库”。
    • 可以设置“召回数量”（如3-5条），即每次从知识库中检索多少条相关片段提供给模型。

6.3 关联 DeepSeek 模型

  1. 在应用编排界面，找到模型选择区域（通常在提示词下方或侧边栏）。
  2. 在“模型”下拉框中，选择你之前配置好的 DeepSeek 模型供应商及具体模型（如 deepseek-chat ）。
  3. 可以调整模型参数，如“温度”（Temperature，控制创造性，知识库问答建议调低，如0.1-0.3）、“最大生成长度”等。

6.4 测试与发布应用

  1. 点击右上角的 “预览” 按钮，在右侧的聊天窗口中进行测试。问一些知识库内有的和没有的问题，观察回答是否符合预期（基于上下文、不胡编乱造）。
  2. 测试无误后，点击右上角的 “发布” 。
    • 选择“直接发布”或“API访问”。
    • 直接发布 ：会生成一个可分享的Web聊天链接，适合内部使用或嵌入网站。
    • API访问 ：会提供API端点（Endpoint）和密钥（App Key），允许你通过编程方式集成该助手到你的业务系统中。

至此，一个具备私有知识库问答能力的AI助手就创建完成了。你可以通过Web链接直接使用，也可以通过API集成。

7. 高级功能与优化实践

基础功能搭建完成后，可以探索Dify的更多能力来优化你的知识库系统。

7.1 工作流编排

对于更复杂的场景，可以使用“工作流”功能。例如：

  • 多知识库联合查询 ：创建一个工作流，先判断用户问题类型，然后分别从“产品知识库”和“技术问题库”中检索，最后合并结果生成答案。
  • 问答结果后处理 ：在模型生成答案后，自动调用一个文本检查节点，过滤敏感词或格式化输出。
  • 条件分支 ：根据用户问题中是否包含特定关键词（如“投诉”、“升级”），走不同的处理流程，最终可能转交人工或调用其他API。

工作流通过可视化的拖拽节点连接，大大降低了复杂逻辑的开发难度。

7.2 优化检索效果

如果发现问答准确率不高，可以从以下几个方面优化：

  1. 文档预处理 ：
    • 确保上传的文档质量高，格式规范。
    • 对于复杂的PDF或扫描件，考虑先用专业的OCR工具（如Adobe Acrobat, ABBYY）处理，再上传纯文本或Markdown。
  2. 调整文本分割策略 ：
    • 在知识库的“索引设置”中，尝试不同的“分词方式”。
    • 对于结构化文档（如API文档），可以尝试按标题进行“自定义分段”，效果可能更好。
  3. 优化提示词 ：
    • 在系统提示词中更明确地指令模型“严格依据上下文”。
    • 可以要求模型在答案后引用来源片段的序号，增加可信度。
  4. 混合检索 ：如果可用，开启“关键词+向量”的混合检索模式，有时能结合两者的优势。

7.3 生产环境部署建议

  1. 安全 ：
    • 为Dify设置强密码，并定期更换。
    • 将 APP_URL 设置为HTTPS地址，并配置SSL证书。
    • 在防火墙中限制对Dify端口的访问，仅允许可信IP。
    • 妥善保管 .env 文件中的 SECRET_KEY 和数据库密码。
  2. 性能与高可用 ：
    • 为Docker容器配置资源限制（CPU，内存）。
    • 考虑将 PostgreSQL、Redis、Weaviate 等数据服务部署在独立的、更具弹性的基础设施上，而非简单的 docker-compose 内。
    • 定期备份数据库。
  3. 监控 ：
    • 利用Dify内置的“日志与标注”功能，分析用户问题与回答质量。
    • 监控服务器的CPU、内存、磁盘使用情况。
    • 关注DeepSeek API的调用费用和速率限制。

8. 常见问题与故障排查

在搭建和使用过程中，你可能会遇到以下问题：

问题现象 可能原因 排查思路与解决方案
Docker Compose 启动失败，端口冲突 本地已有服务占用了5432（PostgreSQL）、6379（Redis）、8080（Weaviate）等端口。 1. 使用 docker-compose ps 查看冲突容器。
2. 停止冲突容器，或修改 docker-compose.yaml 中服务的端口映射（如 "5433:5432" ）。
访问 APP_URL 显示连接失败或空白页。 1. 服务未完全启动。
2. .env 中 APP_URL 配置错误。
3. 服务器防火墙未开放端口。 		1. 运行 docker-compose logs -f 查看各容器日志，等待启动完成。
2. 检查 .env 文件，本地运行应为 http://localhost 。
3. 检查服务器安全组/防火墙规则，是否放行了80/443端口。
知识库文件处理状态一直为“处理中”或失败。 1. Embedding 模型未正确配置或不可用。
2. 文件格式不支持或已损坏。
3. 服务器资源（内存）不足。 		1. 检查“设置-模型供应商”中Embedding模型是否验证成功。
2. 尝试上传一个简单的 .txt 文件测试。
3. 查看 docker-compose logs weaviate 和 dify-api 的日志输出。
应用测试时，回答内容与知识库无关（幻觉）。 1. 提示词未强制模型使用上下文。
2. 检索到的片段相关度太低（相似度阈值过低）。
3. 模型温度参数过高。 		1. 强化提示词，例如开头写明“请严格根据以下上下文”。
2. 在知识库“索引设置”中调高“相似度阈值”。
3. 在模型配置中，将“温度”调至0.1左右。
调用应用API返回 401 Unauthorized 。 API密钥（App Key）错误或未传递。 1. 在应用“发布”页面，确认你使用的是正确的“API访问”密钥。
2. 检查API请求头是否正确携带了 Authorization: Bearer app-xxx 。
DeepSeek 模型连接测试失败。 1. API Key 错误或过期。
2. API Base URL 填写错误。
3. 网络问题导致无法访问 api.deepseek.com 。 		1. 在DeepSeek平台确认API Key有效且未过期。
2. 核对Base URL，确保是 https://api.deepseek.com/v1 。
3. 在服务器上使用 curl 命令测试网络连通性。

这套基于 Dify 和 DeepSeek 的知识库解决方案，将复杂的 RAG 系统工程封装成了可视化的操作，让开发者能快速聚焦于业务数据和提示词优化。从本地测试到生产部署，它提供了一条清晰的路径。建议你先在测试环境完成全部流程，熟悉各个配置项的作用，然后再迁移到生产服务器。过程中多利用“测试”功能验证效果，持续迭代你的文档质量和提示词，才能打造出一个真正好用、可信的智能知识库助手。

# DeepSeek # RAG
Logo
码道开发者社区

码道开发者社区，聚焦华为云码道 CodeArts 代码智能体，沉淀 Agent、Skill、鸿蒙开发实战内容，供开发者查阅资料、交流技术、分享工程实践

更多推荐

cover

AI 已经能直接改设计稿了:Windows部署Penpot，接入Codex MCP实测

avatar 码道开发者社区
cover

【AI大模型】-DeepSeek Harness 深度解析

avatar 码道开发者社区
cover

实测推荐 3 个 Skill，轻松上手 Codex 网页设计与交付流程

avatar 码道开发者社区