Гайд · локальный ИИ · октябрь 2026

ИИ без интернета: какую из 3 программ ставить первой, 2026

Первой ставь Jan: это окно-чат вроде привычного ChatGPT, но нейросеть OpenAI gpt-oss-20b в нём работает у тебя на компьютере. Нужны 16 ГБ памяти и около 11 ГБ свободного места, вводить команды не придётся. После скачивания модели интернет можно выключить, ответы всё равно придут.

Если ты открыл три сайта, в каждом свои названия, и непонятно, что из этого нужно именно тебе: одна программа вместо трёх. Скачай файлы Jan на странице релиза (она открывается и без сайта программы):

https://github.com/janhq/jan/releases/latest

Для Mac бери файл Jan_…_universal.dmg, для Windows Jan_…_x64-setup.exe. Дальше в Jan: вкладка Hub, поиск «gpt-oss», кнопка Download, потом New Chat. Две остальные программы нужны не всем, ниже разобрано, кому и зачем

Первой ставь Jan: это обычное окно-чат, модель gpt-oss-20b в нём скачивается кнопкой, вводить команды не придётся. Памяти нужно 16 ГБ, места на диске около 11 ГБ. Ollama нужна, если хочешь запускать модель командой, а AnythingLLM только если собираешься задавать вопросы по своим файлам

Какая программа нужна именно тебе

Все три программы бесплатные и делают разное, поэтому «лучшей» среди них нет. Выбор идёт по тому, что ты хочешь получить на экране

Что тебе нужноСтавь первойПочему
Просто чат с нейросетью у себя, как в браузереJanодно окно, модель скачивается кнопкой Download внутри программы
Задавать вопросы по своим PDF, договорам, документамOllama, потом AnythingLLMAnythingLLM читает файлы, а саму нейросеть ему даёт Ollama
Запускать модель командой или подключать её к другим программамOllamaэто движок: он держит модель и отдаёт её другим программам
Mac с процессором IntelAnythingLLM (версия для Intel) или Ollamaпроизводитель Jan пишет, что Mac на Intel он не поддерживает, Ollama на Intel считает только процессором (медленнее)
Памяти меньше 16 ГБJan с маленькой модельюgpt-oss-20b на 8 ГБ не запустится, ниже таблица памяти

Таблица прокручивается вбок →

Эта таблица и есть шпаргалка: сохрани её или скопируй памятку в конце. Как узнать свой процессор на Mac: меню Apple в левом верхнем углу, пункт «Об этом Mac», строка «Чип» или «Процессор»

Потянет ли твой компьютер

Свободное место на диске покажет проводник на Windows и раздел «Хранилище» в настройках Mac. Объём оперативной памяти смотри так. На Mac: меню Apple, «Об этом Mac», строка «Память». На Windows: нажми Ctrl+Shift+Esc, вкладка «Производительность», пункт «Память», справа сверху будет общий объём. Видеокарта для первого запуска не обязательна, но с ней модель отвечает быстрее

ПамятьЧто запуститсяЧто с этим делать
8 ГБтолько маленькие модели, примерно до 3 миллиардов «параметров» (так считают размер нейросети). gpt-oss-20b нет: Jan прямо пишет, что Mac с 8 ГБ для неё не подходитставь Jan и бери маленькую модель из того же Hub
16 ГБgpt-oss-20b впритык: OpenAI пишет, что ей хватает 16 ГБзакрой браузер и тяжёлые программы перед запуском, первый ответ будет медленным
32 ГБ и большеgpt-oss-20b свободното, что рекомендует Jan: 32 ГБ памяти и 25 ГБ свободного места

Таблица прокручивается вбок →

Модель gpt-oss-20b на Hugging Face: лицензия Apache 2.0 и 21 миллиард параметров
Модель на Hugging Face, 11 октября 2026: лицензия Apache 2.0 и 21 миллиард параметров

В описании модели сказано, что из 21 миллиарда параметров на каждом шаге работают 3,6 миллиарда, а OpenAI пишет, что ей хватает 16 ГБ. Скорость по данным самого Jan: на компьютере с 16 ГБ и без видеокарты первый ответ приходит за 30-45 секунд, следующие за 3-6 секунд, а на 32 ГБ с видеокартой заметно быстрее. Это цифры Jan, не мои замеры. Если нужно понять память глубже, как считать «модель занимает вдвое больше своего файла», это разобрано в гайде про локальные нейросети

Откуда скачать gpt-oss-20b

Это название модели, а не программы: сама модель OpenAI с лицензией Apache 2.0, её можно использовать и в работе. Скачивается она не отдельно, а через программу. Два рабочих пути, в обоих файл берётся из надёжного места:

  • Через Jan: Hub, поиск «gpt-oss», кнопка Download. По описанию Jan это около 11 ГБ
  • Через Ollama: команда ollama run gpt-oss:20b, скачивание 14 ГБ

Файлы на странице Hugging Face (адрес huggingface.co/openai/gpt-oss-20b) это исходные веса для разработчиков, новичку там искать нечего. Ещё две ловушки в названиях: gpt-oss:120b весит 65 ГБ и просит видеокарту на 80 ГБ, а gpt-oss:20b-cloud работает на чужих компьютерах в интернете, то есть это уже не «у тебя на компьютере»

Таблица версий gpt-oss на сайте Ollama: версия 20b занимает 14 ГБ, версия 120b 65 ГБ
Таблица версий gpt-oss на сайте Ollama, 11 октября 2026: 20b весит 14 ГБ, 120b 65 ГБ, варианты с приставкой cloud работают на чужих компьютерах и размера не имеют

Шаг 1. Jan: чат с gpt-oss-20b

Установку я на своём Mac не запускал: шаги сверены с официальными страницами Jan и страницей релиза на 11 октября 2026, названия кнопок взяты из документации Jan. Если у тебя экран выглядит иначе, верь экрану

  1. Открой страницу https://github.com/janhq/jan/releases/latest, внизу раздел Assets, в нём файлы. Mac: Jan_0.8.6_universal.dmg, 95,7 МБ. Windows: Jan_0.8.6_x64-setup.exe, 531 МБ (если процессор ARM, файл arm64-setup.exe). Номер версии у тебя может быть новее. Системы нужны не старее: Mac с macOS 13.6 и новее, Windows 10 и новее (по документации Jan)
  2. Mac: открой скачанный .dmg и перетащи Jan в «Программы». Windows: запусти setup.exe и дождись окончания установки. Откроется окно Jan, слева в нём боковая панель, а в ней пункт Hub: это каталог моделей, откуда они скачиваются
  3. При первом запуске Jan сам скачивает свою базовую маленькую модель, так что чат заработает сразу. Это не gpt-oss, это проба
  4. Нужная модель: слева открой Hub, в поиске набери gpt-oss, он будет первым в списке, нажми Download. Ждать скачивания 11 ГБ, время зависит от твоего интернета
  5. Нажми New Chat, в выборе модели укажи gpt-oss-20b и отправь вопрос. Если gpt-oss-20b в списке нет, скачивание в Hub ещё не закончилось (так по описанию Jan: модель появляется в выборе после загрузки). Первый ответ медленный, это нормально: потом быстрее
Список файлов релиза Jan на GitHub: файл dmg для Mac и setup.exe для Windows
Список файлов релиза Jan 0.8.6 на GitHub, 11 октября 2026: для Mac файл universal.dmg, для Windows x64-setup.exe

Проверка, что работает без интернета: выключи Wi-Fi и задай новый вопрос. Ответ должен прийти. Если в выборе модели ты выбрал облачную (для неё Jan просит ключ), без сети она, конечно, молчит: нужна именно gpt-oss-20b, скачанная в Hub

Шаг 2. Ollama: когда нужна модель командой

Ollama не окно-чат, а «движок»: она хранит модель и отдаёт её другим программам, в том числе AnythingLLM. Если тебе нужен просто чат, этот шаг можно пропустить

Чтобы вставить команду, нужно окно для команд. На Mac нажми Cmd+Пробел, набери «Терминал» и Enter. На Windows нажми «Пуск», набери PowerShell и открой

  1. Mac: на странице https://ollama.com/download выбери macOS и нажми «Download manually», скачается Ollama.dmg (около 200 МБ), нужен macOS Sonoma (14) или новее. Windows: скачай OllamaSetup.exe на той же странице, нужна Windows 10 версии 22H2 или новее, права администратора не нужны
  2. Mac: открой Ollama.dmg и перетащи значок Ollama в «Программы», при первом запуске она может спросить разрешение добавить команду ollama в систему, разреши. Windows: запусти OllamaSetup.exe, установщик сам положит программу в твою папку пользователя
  3. В окне для команд (Терминал на Mac, PowerShell на Windows) вставь строку и нажми Enter:
ollama run gpt-oss:20b

Ollama скачает 14 ГБ и начнёт чат прямо в этом окне. Чтобы выйти, набери /bye

Загрузка Ollama: выбор системы, команда установки и ссылка Download manually
Загрузка Ollama, 11 октября 2026: выбери свою систему, для установки без команд нажми «Download manually»

Бесплатного в Ollama хватает для всего выше. Облачные модели Ollama (в названии есть слово cloud) тарифицируются: на бесплатном тарифе дают небольшой стартовый объём, дальше платишь за использование. Для работы без подписки они не нужны

Шаг 3. AnythingLLM: вопросы по твоим файлам

Это третья программа, и она нужна только тем, кто хочет загрузить договоры, PDF или документы клиента и задавать по ним вопросы. Регистрация и карта не нужны. С локальной моделью файлы остаются у тебя

  1. Скачай на странице релиза https://github.com/Mintplex-Labs/anything-llm/releases/latest (раздел Assets). Mac на чипе M1 и новее: AnythingLLMDesktop-Silicon.dmg, 540 МБ. Mac на Intel: AnythingLLMDesktop.dmg без слова Silicon, 507 МБ (на сайте программы этой версии соответствует кнопка Apple Intel). Windows: AnythingLLMDesktop.exe, 391 МБ, для процессора ARM AnythingLLMDesktop-Arm64.exe
  2. Mac: открой .dmg и перетащи в «Программы», браузер может пометить файл как непроверенный, тогда выбери «Keep»
  3. Подключи модель из Ollama. По документации AnythingLLM: в Settings выбери провайдера Ollama, адрес оставь http://127.0.0.1:11434 и укажи модель gpt-oss:20b. Названия полей сверь на экране, в документации они не названы
  4. Создай рабочую область (workspace), загрузи документ и задай вопрос. Режим чата меняется в настройках рабочей области: значок шестерёнки, вкладка Chat Settings. Query отвечает только по твоим файлам и честно говорит, если ответа в них нет, Chat смешивает файлы и общие знания, а Agent (его документация советует по умолчанию) нужен для задач с инструментами, для вопросов по файлам выбирай Query

Эту связку (AnythingLLM + Ollama + gpt-oss-20b) я не запускал, она собрана по документациям обеих программ. В AnythingLLM есть и свой встроенный вариант модели («AnythingLLM Default»), но какие там модели, в документации не названо, поэтому надёжный путь здесь через Ollama. Памяти на связку нужно столько же, сколько модели: сам AnythingLLM лёгкий, тяжёлая в ней нейросеть

Список файлов релиза AnythingLLM на GitHub: версии dmg для M-чипа и Intel, exe для Windows
Список файлов релиза AnythingLLM 1.17.0 на GitHub, 11 октября 2026: отдельные файлы для Mac на M-чипе, Mac на Intel и Windows
Размеры файлов на страницах релизов, 11 октября 2026
Jan, Mac (universal.dmg)               95,7 МБ
Jan, Windows (x64-setup.exe)           530,6 МБ
AnythingLLM, Mac на M-чипе (Silicon.dmg)  540 МБ
AnythingLLM, Mac на Intel (.dmg)       507 МБ
AnythingLLM, Windows (.exe)            391 МБ
Модель gpt-oss-20b: Jan около 11 ГБ, Ollama 14 ГБ

Если ты в России: что открывается

Мои запросы идут из Нидерландов, поэтому «у меня открывается» ничего не доказывает. Адреса проверены из трёх российских точек публичного сервиса check-host.net, 11 октября 2026

Hugging Face, страница модели      200 200 200
Сайт Ollama, загрузка и модели     200 200 200
Сайт Jan                           301 301 301 (перенаправление на нужную страницу)
Страницы релизов Jan и AnythingLLM на GitHub   302 302 302 (перенаправление на релиз)
Сайт AnythingLLM и его документация   403 403 403
Прямая загрузка Jan                500 302 302

Что из этого следует. Hugging Face, Ollama и страницы релизов на GitHub открываются, поэтому все скачивания в этой статье идут через них. Сайт AnythingLLM и его документация из всех трёх точек отвечали 403, то есть «доступ запрещён»: это может быть защита сервиса от проверяющих роботов, а у живого человека страница открывается, но надёжнее брать установщик с GitHub, как в шаге 3. Прямая ссылка загрузки Jan на одной из точек дала сбой, потому в шаге 1 она заменена страницей релиза. У твоего провайдера может быть иначе, гарантий нет, и обходные пути я не описываю

Что платное, а что нет

Jan, AnythingLLM и Ollama бесплатные, модель gpt-oss-20b тоже: лицензия Apache 2.0. Платить придётся только за две вещи. Облачные модели, если подключишь их вместо локальных (в Ollama после небольшого стартового объёма и в Jan через ключ поставщика). И за место на диске: 11-14 ГБ на одну модель. Электричество и нагрев ноутбука при долгой работе нейросети тоже есть, это цена работы без подписки

Что ломается и что делать

Что видишьЧто случилосьЧто сделать
Первый ответ приходит 30-45 секундэто штатно: по описанию Jan первый ответ на 16 ГБ без видеокарты долгий, дальше быстрееподожди, следующие ответы будут быстрее
Ошибка про нехватку памяти (Out of memory)не хватило оперативной памятизакрой браузер, игры, видеоредакторы и перезапусти Jan
Ошибка про нехватку памяти видеокартымодель не влезла в память видеокартыуменьши длину контекста в настройках Jan либо переключи его на работу процессором. Названия пунктов сверь на экране
Jan не запускается на Mac с Intelпроизводитель пишет, что Intel-маки не поддерживаютсяпоставь AnythingLLM (на его сайте для Intel отдельная кнопка «Download for Apple Intel») или Ollama: по документации на Mac с Intel она считает только процессором, то есть заметно медленнее
Скачивается не та модель, ответ идёт в интернетвыбрана облачная модель или вариант -cloudвыбери в Hub именно gpt-oss-20b, в Ollama команду без слова cloud
AnythingLLM в режиме Query пишет «No relevant information found»в документе такого сведения нет в том виде, как ты спросилв настройках поиска по документам (раздел Vector Database) поставь «Document similarity threshold» в «No restriction» и сформулируй вопрос словами документа
Сайт anythingllm.com не открываетсяиз России он может отвечать 403скачай установщик со страницы релиза на GitHub

Таблица прокручивается вбок →

Что смотреть дальше

Если захочется поставить другую программу для моделей, шаги и замеры скорости на другом железе есть в гайде про локальные нейросети (там программа LM Studio). Установку Ollama со всеми подробностями разбирает отдельный гайд про Ollama, а связку Ollama и LM Studio этот. Почему такие модели вообще раздают бесплатно, написано в материале про открытые инструменты ИИ. Как скачивать файлы со страницы релиза на Гитхабе, разобрано в гайде про скачивание с GitHub. А чтобы свои договоры не отправлять в чужое облако, пригодится разбор про данные для нейросети

Источники

Памятка: ИИ без интернета на своём компьютере

Здесь всё, что нужно, чтобы вернуться и не открывать статью заново

Сохрани себе

  • Сначала память: Mac, меню Apple, «Об этом Mac»; Windows, Ctrl+Shift+Esc, «Производительность», «Память». Нужно 16 ГБ и свободных 11-14 ГБ на диске, лучше 32 ГБ и 25 ГБ
  • Первой ставь Jan: страница файлов github.com/janhq/jan/releases/latest, Mac universal.dmg, Windows x64-setup.exe
  • В Jan: Hub, поиск gpt-oss, Download, New Chat, выбрать gpt-oss-20b
  • Ollama нужна для запуска командой: ollama run gpt-oss:20b (скачает 14 ГБ), выход /bye. Не бери варианты со словом cloud
  • AnythingLLM нужен для вопросов по своим файлам: установщик на github.com/Mintplex-Labs/anything-llm/releases/latest, провайдер Ollama, адрес http://127.0.0.1:11434, режим Query
  • Mac с Intel: Jan не подойдёт, бери AnythingLLM (файл без Silicon) или Ollama, но будет медленно
  • Всё бесплатное, платными бывают только облачные модели Ollama и чужие облака в Jan
  • Проверка без интернета: выключи Wi-Fi и задай вопрос в Jan

Куда это ведёт

Помощник на твоём компьютере это первый шаг. Следующий: чтобы он делал твою работу

Ты поставил нейросеть, которая отвечает без интернета и без подписки. Но вопросы и ответы в чате это лишь малая часть: письма, сводки, подготовка к встречам, ответы клиентам повторяются из недели в неделю, и именно эту работу отдают помощнику

На Концентрате три вечера: в первый собираем команду ИИ-агентов на Hermes, во второй разбираем шесть связок монетизации, в третий контент-завод на бесплатном трафике

Заходи, если хочешь, чтобы нейросеть на твоём компьютере не просто отвечала, а работала

Забрать место на Концентрате

Откроется в Telegram: 13-15 октября, 19:00 по Москве, онлайн. Участие бесплатное, регистрация до 14 октября

Частые вопросы

Какую программу ставить первой: Jan, Ollama или AnythingLLM?

Для чата Jan: он один скачивает и запускает модель, команды вводить не нужно. Ollama нужна, если запускаешь модель командой, а AnythingLLM только для вопросов по своим файлам, и тогда обычно в паре с Ollama

Сколько памяти нужно, чтобы запустить gpt-oss-20b?

OpenAI пишет, что модели хватает 16 ГБ памяти. Jan называет минимум 16 ГБ и рекомендует 32 ГБ, на 8 ГБ эта модель не запустится

Нужна ли видеокарта?

Нет. По данным Jan, модель работает и на процессоре, просто медленнее: на 16 ГБ без видеокарты ответ появляется со скоростью 3-8 кусочков слов в секунду, то есть заметно по частям

Правда ли, что после скачивания интернет не нужен?

Для локальной модели да: Jan пишет, что локальные модели работают на твоём компьютере полностью автономно. Облачные модели, которые Jan тоже умеет подключать, без сети работать не будут

Это бесплатно?

Программы Jan, AnythingLLM и Ollama бесплатные, модель gpt-oss-20b тоже (лицензия Apache 2.0). Платными бывают только облачные модели: у Ollama после небольшого стартового объёма, у Jan через ключ чужого поставщика

Читать дальше

Я соло-предприниматель на Claude, ChatGPT и агентах

Всё, что не влезает в статью, лежит у меня в канале: как я делаю контент с нейросетями каждый день, новые функции раньше, чем о них снимают ролики, и внутрянка моих вайб-маркетинговых проектов

Читать канал

Открытый канал, подписка в одно нажатие