DeepSeek-R1-Distill-Qwen-1.5B一键部署：Docker镜像快速启动实操指南

想不想在本地电脑上，用不到6GB的显存，跑出一个数学能考80多分、代码能力还不错的AI助手？而且部署过程简单到像装个普通软件一样？今天要聊的DeepSeek-R1-Distill-Qwen-1.5B，就是这样一个“小钢炮”模型。

简单来说，它是个1.5B参数的“小个子”，但经过特殊训练后，推理能力能达到7B参数模型的水平。最吸引人的是，它只需要3GB左右的显存就能跑起来，甚至能在手机或者树莓派上运行。这篇文章，我就手把手带你用Docker镜像，快速把这个模型部署起来，并配上vLLM和Open WebUI，打造一个体验流畅的对话应用。

整个过程大概10-15分钟，你只需要会几条简单的命令。准备好了吗？我们开始吧。

1. 部署前准备：了解你的“小钢炮”

在动手之前，我们先花两分钟搞清楚我们要部署的是什么，以及它有什么能耐。这样用起来心里更有底。

1.1 模型核心特点：小而强大

DeepSeek-R1-Distill-Qwen-1.5B，这个名字有点长，我们拆开看：

• DeepSeek-R1：说明它使用了DeepSeek的R1推理链数据进行训练。你可以把“推理链”想象成模型思考的步骤，有了它，模型解题更靠谱。
• Distill：意思是“蒸馏”。技术团队用80万条高质量的推理数据，把大模型的能力“教”给了这个小模型。
• Qwen-1.5B：它的基础是通义千问的1.5B参数架构。

关键就在这里：它只有15亿参数（1.5B），模型文件用fp16精度存储大约是3.0GB。如果用GGUF-Q4量化一下，能压缩到0.8GB。但它的数学能力（在MATH数据集上）能超过80分，代码能力（HumanEval）也能过50分，保留了原版R1大约85%的推理链能力。

1.2 你的硬件够用吗？

这是大家最关心的问题。我来给你几个参考：

• 最低配置：如果你用量化后的版本（GGUF），显存有4GB就够尝试了。
• 流畅运行：想要比较好的速度，建议有6GB及以上显存。在一张RTX 3060（12GB）上，用fp16精度跑，速度大概能达到每秒200个token。
• 更神奇的场景：它甚至能在苹果A17芯片的手机上跑（量化版速度约120 tokens/s），或者在RK3588这类嵌入式开发板上运行，实测16秒能完成1000个token的推理。

所以，只要你不是特别老的显卡，大概率都能跑起来。它使用的Apache 2.0协议，意味着个人和商用都是免费的。

2. 一键部署实战：Docker拉取与启动

理论说完了，我们进入实战环节。这里假设你已经安装了Docker和NVIDIA Docker运行时（如果你用N卡的话）。如果还没装，网上搜一下“Docker安装”和“NVIDIA Container Toolkit安装”，教程很多，半小时内肯定能搞定。

2.1 获取Docker镜像

一切就绪后，打开你的终端（Linux/macOS）或命令提示符/PowerShell（Windows）。部署只需要一条命令。

我强烈建议你使用配置了vLLM推理后端和Open WebUI界面的完整镜像，这样省去自己拼装的麻烦。

docker pull csdns/llm_inference:deepseek-r1-distill-qwen-1.5b-vllm-webui

执行这条命令后，Docker就会从镜像仓库拉取我们准备好的完整环境。镜像大小在几个GB左右，具体时间取决于你的网速。泡杯茶，稍等片刻。

2.2 启动容器服务

镜像拉取成功后，我们需要运行一个容器。下面这条命令是关键：

docker run -d --gpus all --restart always --name deepseek-r1-1.5b \
  -p 7860:7860 \
  -p 8888:8888 \
  csdns/llm_inference:deepseek-r1-distill-qwen-1.5b-vllm-webui

我来解释一下这条命令在干什么：

• docker run -d：以后台模式运行一个容器。
• --gpus all：将宿主机的所有GPU资源分配给容器使用。如果你没有NVIDIA GPU，或者不想用GPU，请将这部分去掉，模型会使用CPU运行，但速度会慢很多。
• --restart always：设置容器总是自动重启，这样即使服务器重启，服务也能自己恢复。
• --name deepseek-r1-1.5b：给这个容器起个名字，方便管理。
• -p 7860:7860：将容器内部的7860端口映射到宿主机的7860端口。这个端口就是Open WebUI的访问入口。
• -p 8888:8888：将容器内部的8888端口映射到宿主机的8888端口。这个是Jupyter Lab服务的端口，可用于一些高级操作或查看日志。
• 最后一行就是指定我们刚才拉取的镜像。

运行命令后，终端会输出一长串容器ID，这就说明容器启动成功了。

3. 等待与访问：启动你的AI对话助手

启动容器不是结束，我们还需要等里面的服务完全启动好。

3.1 耐心等待服务初始化

容器启动后，内部会做两件主要的事：

1. 启动vLLM推理服务器：加载DeepSeek-R1-Distill-Qwen-1.5B模型到内存或显存中。
2. 启动Open WebUI服务：启动我们即将用到的网页聊天界面。

这个过程需要几分钟时间，具体时长取决于你的硬件速度。你可以通过查看容器日志来了解进度：

docker logs -f deepseek-r1-1.5b

使用 -f 参数可以实时跟踪日志。当你看到日志中出现类似“vLLM engine started”、“Open WebUI running on...”或者“Uvicorn running on...”这样的字样时，就说明服务启动好了。

3.2 登录WebUI开始聊天

服务启动完成后，打开你的浏览器，在地址栏输入：

http://你的服务器IP地址:7860

如果你是在自己的电脑上部署的，就输入 http://localhost:7860 或 http://127.0.0.1:7860。

你会看到Open WebUI的登录界面。为了方便大家快速体验，镜像里已经预置了一个演示账号：

• 账号：kakajiang@kakajiang.com
• 密码：kakajiang

输入账号密码登录，你就进入了主界面。界面干净清爽，中间是大大的对话框，左侧是聊天历史记录。现在，你就可以像使用任何其他聊天工具一样，开始和你的“小钢炮”AI对话了。

3.3 （备用访问方式）通过Jupyter端口

如果你在浏览器里访问7860端口没反应，也可以尝试通过Jupyter Lab的端口来重定向访问。在浏览器中输入：

http://你的服务器IP地址:8888

进入Jupyter Lab界面后，新建一个终端，输入以下命令，然后访问 http://你的服务器IP地址:7860 应该就能正常打开了。不过，绝大多数情况下直接访问7860端口即可。

4. 快速上手体验：试试它的本事

登录成功，面对一个空白的对话框，你可能想问：“我该问点啥？” 别急，我来给你几个方向，试试这个模型的深浅。

4.1 测试基础问答与逻辑

先从简单的开始，看看它的理解能力：

• “你能做什么？” – 让它做个自我介绍。
• “请用Python写一个函数，计算斐波那契数列的第n项。” – 测试基础代码能力。
• “如果我有3个苹果，吃了1个，又买了5个，最后送给朋友2个，还剩几个？” – 测试基础数学和逻辑。

4.2 挑战数学推理能力

这是它的强项，可以试试中等难度的题目：

• “一个水池有一个进水口和一个出水口。单独开进水口，4小时能注满水池；单独开出水口，6小时能放空满池的水。如果水池原来是空的，同时打开进水和出水口，需要多少小时能注满水池？”
• “解方程：2x^2 + 5x - 3 = 0。”

你可以观察它的回复，是不是会一步步列出计算过程（这就是R1推理链的体现），而不仅仅是直接给出答案。

4.3 尝试实用场景

看看它能不能处理一些日常任务：

• “帮我写一封简短的邮件，向同事说明项目会议推迟到明天下午三点。”
• “为我的健康沙拉外卖店想五条社交媒体广告文案。”
• “用JSON格式描述一本书，包含书名、作者、出版年份和三个标签。” – 测试它对结构化格式的理解。

在测试过程中，你可以感受一下它的响应速度。在RTX 3060上，回答一个中等长度的问题应该在几秒内完成。响应快、有逻辑步骤，这就是vLLM推理后端带来的优势。

5. 使用技巧与注意事项

用了几次之后，你可能会想怎么让它更好用。这里有几个小建议。

5.1 获得更好回答的提示

这个模型虽然小，但遵循一些提示技巧能让它表现更好：

• 问题要具体：与其问“怎么写代码？”，不如问“用Python的Pandas库，如何读取一个CSV文件并显示前5行？”
• 可以要求分步骤：在问题前加上“请一步步思考并解答：”，更能激发它的推理链能力。
• 上下文有限：请注意，它的上下文长度是4K token（大约3000个汉字）。对于很长的文档总结，可能需要你分段输入。
• 善用系统提示：在Open WebUI中，你可以设置“系统提示词”来固定AI的角色，比如“你是一个专业的Python编程助手，回答要简洁并附带代码示例。”

5.2 性能与资源管理

• 监控资源占用：你可以用 nvidia-smi（N卡）或 docker stats 命令查看容器的GPU和内存使用情况。正常情况下，它应该稳定占用3-6GB的显存。
• 关于停止和重启：
  • 停止容器：docker stop deepseek-r1-1.5b
  • 启动容器：docker start deepseek-r1-1.5b
  • 删除容器（谨慎操作，会清空对话历史）：docker rm -f deepseek-r1-1.5b
• 对话历史：你的所有聊天记录都保存在容器内部。如果你删除了容器，这些记录也会消失。如果对话历史很重要，可以考虑将容器内的存储目录映射到宿主机（这需要更高级的Docker命令）。

6. 总结

好了，走到这里，你已经成功在本地部署了一个能力不俗的轻量级AI模型。我们来简单回顾一下：

整个过程的核心就是 “一条拉取命令，一条运行命令，然后打开浏览器”。我们利用集成了vLLM和Open WebUI的Docker镜像，跳过了繁琐的环境配置、模型下载和软件整合步骤，直接获得了一个开箱即用的AI对话应用。

DeepSeek-R1-Distill-Qwen-1.5B这个模型，最大的优势就是在极低的资源消耗下（约3GB显存），提供了超越其参数规模的推理能力，特别是在数学和代码场景下。无论是用于学习、简单的编程辅助、逻辑问答，还是作为嵌入式设备的智能内核，它都是一个非常经济且高效的选择。

现在，它就在你的电脑上运行着。接下来做什么，就完全取决于你的想象力了。去和它聊聊天，让它帮你解决点小问题，亲自感受一下这个“小钢炮”的威力吧。

---

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。