Ollama - установка в Docker
ЗАПУСК ПО ОТДЕЛЬНОСТИ
----------------------------------------------------------
1a. Запуск контейнера ollama без поддержки GPU
docker run -d -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
1b. Запуск контейнера ollama с поддержкой GPU
docker run -d --gpus=all -v ollama:/root/.ollama -p 11434:11434 --name ollama ollama/ollama
1c. Ещё один вариант запуска:
docker run -d \
--name ollama \
-p 11434:11434 \
-v ollama_volume:/root/.ollama \
ollama/ollama:latest
2. Проверяем, запущен ли контейнер
docker ps
3. Проверяем соединение
curl localhost: 11434
Вывод примерно такой должен быть:
Ollama is running
----------------------------------------------------------
4. Для работы с Ollama через веб-интерфейс нужно установить Open Web UI. Для этого выполните следующую команду:
docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
=========================================================
ЗАПУСК ЧЕРЕЗ Docker Compose
---------------------------------------------------------
No Comments