00.安装Ollama

PS：Ollama存在一些BUG，并且没有遵守上游llama.cpp的开源协议，建议使用LM Studio以获得更好的可视化及性能体验。

简介：介绍各平台安装ollama方法
更新时间：2024年10月9日

Docker

Docker compose

创建docker-compose.yml文件并写入：

name: ollama
services:
    ollama:
        deploy:
            resources:
                reservations:
                    devices:
                        - driver: nvidia
                          count: all
                          capabilities:
                              - gpu
        volumes:
            - ./data/ollama:/root/.ollama
        ports:
            - 11434:11434
        container_name: ollama
        restart: always
        image: ollama/ollama:latest
    ollama-webui:
        ports:
            - 11435:8080
        extra_hosts:
            - host.docker.internal:host-gateway
        container_name: ollama-webui
        restart: always
        image: ghcr.io/ollama-webui/ollama-webui:main

打开IP:11435即可使用面板连接ollama