本地部署安装 Llama 3.2 大模型，支持1B、3B、11B、90B 模型

2089485250 2025-03-17 20:11 8次浏览 0 条评论线报

安装步骤：

1、通过Ollama进行部署，支持多平台！Windows / Mac /Linux 都可以运行【点击下载】

并在 Windows 上打开 WSL 功能：

2、安装Docker Desktop ：【点击前往】

然后本地安装webUI

(1)在CPU下运行：

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

(2)支持GPU运行：

docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

安装完成通过本地地址：http://127.0.0.1:3000 进行访问，然后在里面下载安装Llama 3.2 模型