Как Pi Использовать с Локальными Моделями?

Доступ к полному просмотру и файлам открыт только для активных участников ИИшенка Pro.

Агент Pi (в расшифровке «Py») — минималистичная оболочка для ИИ-моделей, которую можно подключить к локальным моделям через LM Studio. За 11 минут проходим весь путь: от запуска сервера до первого ответа модели в Pi, плюс готовые расширения, которые упрощают настройку.

Чему научишься

Включать Developer Mode в LM Studio и поднимать локальный API-сервер
Загружать модель в память и задавать идентификатор и окно контекста
Создавать файл models.json в папке Pi: провайдер, base URL, тип API, идентификатор модели и reasoning
Выбирать подключённую локальную модель в Pi командой /model и проверять работу по логам LM Studio
Находить в packages расширения для llama-cpp и LM Studio, которые автоматизируют настройку

Тайм-коды

00:00Зачем разбирать Pi и локальные модели
01:02Минимализм Pi и совместимость с локальными моделями
02:03Подготовка: установка LM Studio и Developer Mode
03:04Выбор и загрузка модели, идентификатор и контекст
04:35Проверка модели в чате LM Studio
05:05Локальный сервер: URL API и логи
06:05Где у Pi лежат настройки и файл models.json
06:37Документация Pi: раздел Custom models
07:36Разбор models.json: провайдер, URL, API, модель
08:38Перезапуск Pi и выбор модели через /model
09:39Первый диалог с моделью через Pi
10:30Расширения в packages: pi-llama-cpp
11:10Расширение для LM Studio и итоги

Проверяем доступ...