1
# 更新软件包索引
2
sudo apt update
3

4
# 安装 Docker 及其依赖
5
sudo apt install -y docker.io docker-compose-v2
6

7
# 启动并设置开机自启
8
sudo systemctl enable --now docker

1
# 加入 Docker 组
2
sudo usermod -aG docker $USER
3

4
# 加入 GPU 访问组 ( 针对 AMD 核显 )
5
sudo usermod -aG render $USER
6
sudo usermod -aG video $USER

1
docker --version
2
docker compose version

1
# ========== AMD GPU 驱动与内核支持配置 ==========
2
# 更新软件包列表并安装 NUMA（非统一内存访问）开发库
3
sudo apt update && sudo apt install -y libnuma-dev
4
# 将当前用户加入 render 和 video 组以获得 GPU 访问权限
5
sudo usermod -aG render $USER
6
sudo usermod -aG video $USER

1
version: '3.8' # Docker Compose 版本声明
2

3
services:
4
  # --- Ollama 服务：AI 推理引擎主体 ---
5
  ollama:
6
    image: ollama/ollama:latest # 使用官方最新的 Ollama 镜像
7
    container_name: ollama # 容器名称，方便后续通过 docker exec 调用
8
    volumes:
9
      - ./ollama:/root/.ollama # 将模型文件持久化存储在当前目录的 ollama 文件夹中
10
    ports:
11
      - "11434:11434" # 映射 11434 端口，允许宿主机或局域网访问 API
12
    devices:
13
      - "/dev/kfd:/dev/kfd" # AMD GPU 核心计算接口，必选
14
      - "/dev/dri:/dev/dri" # 显卡渲染与显示接口，必选
15
    restart: unless-stopped # 除非手动停止，否则始终自动重启（如机器开机自动运行）
16
    environment:
17
      # 针对 8845HS/780M 核显的关键黑科技：
18
      # 由于 ROCm 可能不原生支持消费级 RDNA3 架构，强制指定版本号 11.0.2 开启加速
19
      - HSA_OVERRIDE_GFX_VERSION=11.0.2
20
      # 启用 Vulkan 实验性支持，提升在 Ubuntu 24.04 下的兼容性与显存利用率
21
      - OLLAMA_VULKAN=1
22
      # 允许跨域请求，防止 WebUI 访问时出现 403 错误
23
      - OLLAMA_ORIGINS=*
24

25
  # --- Open WebUI 服务：类似 ChatGPT 的交互界面 ---
26
  open-webui:
27
    image: ghcr.io/open-webui/open-webui:main # 使用 GitHub 官方源的镜像
28
    container_name: open-webui
29
    volumes:
30
      - ./webui-data:/app/data # 持久化存储用户信息、聊天记录和 RAG 文档
31
    ports:
32
      - "3000:8080" # 映射到 3000 端口，浏览器访问 http://localhost:3000
33
    environment:
34
      # 容器间通信配置：
35
      # 指向上面定义的 ollama 服务名，Docker 会自动解析为内网 IP
36
      - 'OLLAMA_BASE_URL=http://ollama:11434'
37
      # 用于加密本地数据库会话的密钥，建议保持默认或随意修改
38
      - 'WEBUI_SECRET_KEY=imini_pro_8845hs_secret'
39
    extra_hosts:
40
      # 允许容器通过 host.docker.internal 访问宿主机服务
41
      - "host.docker.internal:host-gateway"
42
    depends_on:
43
      - ollama # 确保 Ollama 引擎启动并准备好后，再启动 Web 界面
44
    restart: unless-stopped

1
docker compose up -d

1
sudo nano /etc/docker/daemon.json

1
sudo systemctl daemon-reload
2
sudo systemctl restart docker

1
docker compose up -d

1
docker logs ollama | grep -i "amdgpu"

1
docker ps

1
http://<IP>:3000/

1
# 如果没安装就先安装：sudo apt install radeontop
2
sudo radeontop

1
docker exec -it ollama ollama run qwen2.5:14b

1
#Qwen 2.5 7B ( 最推荐的生产力工具 )
2
docker exec -it ollama ollama run qwen2.5:7b
3

4
#Llama 3.1 8B ( 国际通用标准 )
5
docker exec -it ollama ollama run llama3.1:8b
6

7
#Mistral NeMo 12B ( 平衡之选 )
8
docker exec -it ollama ollama run mistral-nemo
9

10
#GLM-4 9B ( 中文长文本专家 )
11
docker exec -it ollama ollama run glm4