Подключаем локальную модель через Ollama

Если Ollama работает на том же компьютере, контейнеру нужен адрес хоста, а не localhost: внутри контейнера localhost указывает на сам контейнер.

Проверяем Ollama

ollama list

Если моделей пока нет, загрузите небольшую модель, подходящую вашему компьютеру. Название и размер выбирайте по актуальному каталогу Ollama.

Адрес соединения

В Open WebUI откройте Admin Settings → Connections → Ollama. Для Docker Desktop обычно используется:

http://host.docker.internal:11434

На Linux имя host.docker.internal может потребовать явного сопоставления. Тогда контейнер пересоздают с параметром:

--add-host=host.docker.internal:host-gateway

При пересоздании обязательно повторите том -v open-webui:/app/backend/data: именно он сохраняет данные.

Проверяем не «зелёную галочку», а работу

1. Сохраните соединение.
2. Обновите список моделей.
3. Выберите локальную модель в новом чате.
4. Задайте короткий вопрос и убедитесь, что появился полный ответ.

Если модель видна, но ответ не начинается, проверьте ресурсы компьютера и логи Ollama. Если модели нет в списке, сначала проверяйте адрес и сетевую доступность.