Выбирайте по способу работы
| Программа | Для чего | Особенность |
|---|---|---|
| LM Studio | Первый локальный чат, работа через графический интерфейс | Загрузка моделей, настройка диалога, локальный API-сервер |
| Ollama | Запуск моделей и подключение к приложениям | CLI и API; отдельно проверяйте, локальная ли выбрана модель |
| llama.cpp | Точный контроль запуска и встраивание | Инструменты для inference, GGUF и разных вычислительных backend |
| ComfyUI | Генерация изображений и другие визуальные процессы | Узловые workflow; модели и дополнительные компоненты подбираются к конкретной схеме |
Первый запуск без лишней сложности
- Проверьте поддержку ОС, процессора и видеокарты в документации программы.
- Установите приложение с официального сайта. Для начала используйте одну модель.
- Сверьте формат, объём файла и лицензию перед скачиванием.
- Выставьте умеренный контекст и отправьте короткий тестовый запрос.
- Проверьте потребление памяти, затем попробуйте обычную рабочую задачу.
В LM Studio можно начать с графического интерфейса. Для подключения собственной программы используйте его локальный сервер. Не открывайте его в интернет просто ради теста.
Как проверить Ollama
Команда ollama ps показывает загруженные модели. В колонке PROCESSOR видно, выполняется ли модель на GPU, CPU или частично на обоих. Это помогает отличить реальное ускорение от запуска только на процессоре.
Для режима без облачных функций документация предлагает переменную OLLAMA_NO_CLOUD=1 и перезапуск Ollama. Она не отключает сеть у других приложений и подключённых инструментов. Установка и первоначальное скачивание модели всё равно требуют доступа к файлам.
Если нужны изображения
В ComfyUI начните с документированного workflow без сторонних узлов. Сначала получите один результат, затем меняйте разрешение и компоненты. Требования относятся к конкретной модели и процессу: факт установки программы не означает, что памяти хватит на любую генерацию.
Дополнительные узлы исполняют код. Проверяйте источник, зависимости и совместимость перед установкой; сохраните рабочую версию workflow.
Практический маршрут
Нужен чат — начните с LM Studio. Нужна связь с собственным приложением — изучите Ollama или API LM Studio. Хотите управлять параметрами движка — смотрите llama.cpp. Нужен визуальный процесс генерации — ComfyUI. Это редакционные ориентиры, а не результат сравнительного теста производительности.
LM Studio: начало работы · Локальный сервер · Ollama FAQ · llama.cpp · ComfyUI: требования.
Выберите сценарий и получите короткий план первого опыта.
Собрать свой план