本地ollama+webUI

一、安装ollama

选择对应版本安装即可

安装好后可以打开cmd查看是否成功安装

二、开启WSL功能

控制面板中的程序与功能，进入后左侧显示,开启或关闭功能，打开wsl.

三、安装Docker Desktop

选择版本对应安装即可，同样使用cmd查看安装情况

四、安装WEBUI

使用

1
docker run -d -p 3000:8080 --gpus=all -v ollama:/root/.ollama -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:ollama

等待安装完成，打开http://localhost:3000即可访问

五、安装模型

  1. 右上角，设置、管理员面板，模型选项，选择从ollama.com下载模型
  2. 在Hugging Face下载GGUI模型文件，在webUI导入，

六、愉快使用