阿里云-300-部署-deepseek-R1-8B

以 300 元为历史预算假设的阿里云 GPU 实验方案，区分模型版本、网络连接、实际计费和待实测部署步骤。

#howto #growing

[!info] related notes

容器基础: Docker

阿里云-300-部署-deepseek-R1-8B

记录范围

原记录提出“300 元阿里云学生代金券 + 抢占式 GPU + Ollama + Open WebUI”的实验方案，没有提供订单、券适用范围或运行结果。本页保留为部署规划与操作参考，不视为已购买或已成功部署的服务资产。

300 元是历史预算假设，不能据此确定当前账号有可用额度。使用前需核对优惠券能否抵扣所选实例、地域、计费模式和其他资源。

先明确模型身份

原文的 DeepSeek-R1-Distill-Qwen-8B 混淆了不同模型：

最初的 DeepSeek-R1 蒸馏系列中，8B 是 DeepSeek-R1-Distill-Llama-8B，另有 Qwen 系列的 1.5B、7B、14B、32B。
2026-10-06 查阅 Ollama 的 deepseek-r1:8b 页面，显示的是 Qwen3 架构、8.19B、Q4_K_M、约 5.2GB，对应页面介绍中的 DeepSeek-R1-0528-Qwen3-8B。

因此不能仅凭 :8b 推断它始终对应旧 Llama 蒸馏版。实验应记录实际 tag、模型 ID、量化与上下文配置；更新可变 tag 后重新核验。

模型文件大小不等于总显存需求。KV cache、上下文长度、并发和运行时开销都会占用内存，不能仅用“5–8GB”保证任意场景可运行。

资源与预算核对

旧稿举过 T4 16GB 的 ecs.gn6i-c4g1.xlarge、A10 24GB 的 ecs.gn7i-c8g1.2xlarge，以及约 1.2 / 2.2 元每小时的估计；这些不是当前可购规格或报价。

下单前核对：

地域、可用区、GPU 实际规格、库存、配额和镜像驱动支持。
按量与抢占式的总成本、回收机制，以及实验是否能接受中断。
系统盘容量与模型、容器卷的实际存放位置；100GB 只是旧方案示例。
实例、云盘、快照、镜像、公网资源等分别如何计费，优惠券覆盖哪些项目。

阿里云 ECS 静态公网 IPv4 的官方计费说明区分出方向和入方向：公网入流量免费，出流量计费。因此不能把“向服务器下载 5GB 模型”直接计算为 5GB 公网出流量费用。EIP、NAT Gateway 等产品还有各自规则。

带宽峰值不等于模型生成速度。100Mbps 也不能保证下载源或实际推理响应达到某个速度。

实验网络拓扑

原方案把 Ollama 安装在宿主机，再给容器增加 host.docker.internal。这个名字只解决寻址；Ollama 默认绑定宿主机 127.0.x.x:11434，桥接容器不一定能经宿主网关访问该监听地址。

下面改用同一 Docker 网络的两个容器作为 Linux GPU 实验示例：

本地浏览器 → SSH 隧道 → 服务器 127.0.x.x:3000
                         → Open WebUI 容器
                         → ollama:11434（容器网络）

Ollama 不发布宿主机端口，WebUI 只绑定服务器 loopback。安全组无需为此向公网开放 3000 或 11434；SSH 本身仍需按现有访问策略配置。

准备与启动示例

先按官方文档安装 Docker、GPU 驱动和 NVIDIA Container Toolkit。宿主机 nvidia-smi 正常只证明驱动可见，不证明 Docker 已能使用 GPU。

以下是假设新建实验环境的命令模板。先选择并设置 OLLAMA_IMAGE、WEBUI_IMAGE 为已核对的镜像版本或 digest；不要直接复用会冲突的容器名称，也不要将 main/latest 当成可复现版本。

# 所选镜像须分别来自 ollama/ollama 与 ghcr.io/open-webui/open-webui
: "${OLLAMA_IMAGE:?先设置已核对的 Ollama 镜像版本或 digest}"
: "${WEBUI_IMAGE:?先设置已核对的 Open WebUI 镜像版本或 digest}"

docker network create llm-demo

docker run -d --name ollama --network llm-demo --gpus all \
  -e OLLAMA_HOST=0.0.x.x:11434 \
  -v ollama:/root/.ollama "$OLLAMA_IMAGE"

docker exec -it ollama ollama pull deepseek-r1:8b
docker exec -it ollama ollama run deepseek-r1:8b
# 退出交互会话后继续；常见交互退出命令为 /bye。

docker run -d --name open-webui --network llm-demo \
  -p 127.0.x.x:3000:8080 \
  -e OLLAMA_BASE_URL=http://ollama:11434 \
  -v open-webui:/app/backend/data "$WEBUI_IMAGE"

首次初始化账号、认证与密钥配置按所选 Open WebUI 版本处理。镜像不同版本的配置项可能变化，应先阅读对应版本说明。

在本地电脑建立 SSH 隧道（替换账号与服务器地址）：

ssh -N -L 3000:127.0.x.x:3000 user@server

然后打开 http://127.0.x.x:3000。首次创建管理员时保持访问范围受控，不关闭认证来掩盖连接配置问题。

验证与结束实验

检查容器日志，确认 Open WebUI 能连接 Ollama 并列出模型。
用 docker exec ollama ollama list 记录模型 ID，在模型运行时用 docker exec ollama ollama ps、GPU 指标和实际请求确认是否使用 GPU。
测试所需上下文和并发下的延迟、显存与失败行为；页面能打开不等于推理链路已验证。
检查 3000 仅监听 loopback、11434 没有发布到宿主机，并确认 SSH 隧道可正常访问。
释放实例前先确认模型卷、WebUI 数据与配置的备份位置，并实际验证所需恢复步骤。快照有成本，也不保证固定“5 分钟恢复”。
停止容器不停止 ECS 计费；停止 ECS、节省停机模式与释放实例的计费效果也不同。释放后仍需检查保留云盘、快照、EIP 等资源，不把“释放实例”理解为所有费用归零。

上述拓扑和命令已按文档核对，本记录没有 GPU 主机上的端到端部署测试结果。