Skip to main content

Ollama - установка в Docker

ЗАПУСК ПО ОТДЕЛЬНОСТИ
----------------------------------------------------------

1a. Запуск контейнера ollama без поддержки GPU
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

1b. Запуск контейнера ollama с поддержкой GPU 
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama

1c. Ещё один вариант запуска:
docker run -d \
  --name ollama \
  -p 11434:11434 \
  -v ollama_volume:/root/.ollama \
  ollama/ollama:latest
  
2. Проверяем, запущен ли контейнер
docker ps

3. Проверяем соединение
curl localhost: 11434

Вывод примерно такой должен быть:
Ollama is running
  
----------------------------------------------------------

4. Для работы с Ollama через веб-интерфейс нужно установить Open Web UI. Для этого выполните следующую команду:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
=========================================================

ЗАПУСК ЧЕРЕЗ Docker Compose
---------------------------------------------------------