Как подключить локальную Ollama к внешним сервисам? Делаем на примере Cursor и VS Code.

Доступ к полному просмотру и файлам открыт только для активных участников ИИшенка Pro.

Локальные модели Ollama можно подключить к Cursor и VS Code и даже открыть наружу через туннель. За 13 минут: запуск Ollama в Docker, обращение к ней через API и работа в плагине Continue с бесплатной локальной моделью.

Чему научишься

Запускать Ollama в Docker с переменной окружения, чтобы к ней можно было обращаться не только с localhost
Отправлять запросы к модели через эндпоинт api/generate и понимать, как работает параметр stream
Настраивать туннель к порту Ollama (11434) и обращаться к локальной модели по публичному URL
Подключать Ollama к Cursor и VS Code через плагин Continue и работать в режиме агента
Оценивать качество результата в зависимости от размера модели и мощности компьютера

Тайм-коды

00:00Зачем подключать локальную Ollama к другим инструментам
01:30Запуск Ollama в Docker с переменной окружения
03:00Проверка порта 11434 и эндпоинты API
04:02Список моделей и запуск из терминала
05:34Запрос к модели через api/generate и параметр stream
06:35Туннель к локальной Ollama и публичный URL
08:05Ограничения Cursor при работе с внешними моделями
09:06Установка плагина Continue
09:36Подключение провайдера Ollama и автоопределение моделей
11:06Режим агента: правка Dockerfile локальной моделью
12:07Тот же сценарий в VS Code
13:08Итоги: локальные модели бесплатно в любых приложениях

Проверяем доступ...