Гайд · локальный ИИ · октябрь 2026
ИИ без интернета: какую из 3 программ ставить первой, 2026
Первой ставь Jan: это окно-чат вроде привычного ChatGPT, но нейросеть OpenAI gpt-oss-20b в нём работает у тебя на компьютере. Нужны 16 ГБ памяти и около 11 ГБ свободного места, вводить команды не придётся. После скачивания модели интернет можно выключить, ответы всё равно придут.
Если ты открыл три сайта, в каждом свои названия, и непонятно, что из этого нужно именно тебе: одна программа вместо трёх. Скачай файлы Jan на странице релиза (она открывается и без сайта программы):
https://github.com/janhq/jan/releases/latest
Для Mac бери файл Jan_…_universal.dmg, для Windows Jan_…_x64-setup.exe. Дальше в Jan: вкладка Hub, поиск «gpt-oss», кнопка Download, потом New Chat. Две остальные программы нужны не всем, ниже разобрано, кому и зачем
Первой ставь Jan: это обычное окно-чат, модель gpt-oss-20b в нём скачивается кнопкой, вводить команды не придётся. Памяти нужно 16 ГБ, места на диске около 11 ГБ. Ollama нужна, если хочешь запускать модель командой, а AnythingLLM только если собираешься задавать вопросы по своим файлам
Какая программа нужна именно тебе
Все три программы бесплатные и делают разное, поэтому «лучшей» среди них нет. Выбор идёт по тому, что ты хочешь получить на экране
| Что тебе нужно | Ставь первой | Почему |
|---|---|---|
| Просто чат с нейросетью у себя, как в браузере | Jan | одно окно, модель скачивается кнопкой Download внутри программы |
| Задавать вопросы по своим PDF, договорам, документам | Ollama, потом AnythingLLM | AnythingLLM читает файлы, а саму нейросеть ему даёт Ollama |
| Запускать модель командой или подключать её к другим программам | Ollama | это движок: он держит модель и отдаёт её другим программам |
| Mac с процессором Intel | AnythingLLM (версия для Intel) или Ollama | производитель Jan пишет, что Mac на Intel он не поддерживает, Ollama на Intel считает только процессором (медленнее) |
| Памяти меньше 16 ГБ | Jan с маленькой моделью | gpt-oss-20b на 8 ГБ не запустится, ниже таблица памяти |
Таблица прокручивается вбок →
Эта таблица и есть шпаргалка: сохрани её или скопируй памятку в конце. Как узнать свой процессор на Mac: меню Apple в левом верхнем углу, пункт «Об этом Mac», строка «Чип» или «Процессор»
Потянет ли твой компьютер
Свободное место на диске покажет проводник на Windows и раздел «Хранилище» в настройках Mac. Объём оперативной памяти смотри так. На Mac: меню Apple, «Об этом Mac», строка «Память». На Windows: нажми Ctrl+Shift+Esc, вкладка «Производительность», пункт «Память», справа сверху будет общий объём. Видеокарта для первого запуска не обязательна, но с ней модель отвечает быстрее
| Память | Что запустится | Что с этим делать |
|---|---|---|
| 8 ГБ | только маленькие модели, примерно до 3 миллиардов «параметров» (так считают размер нейросети). gpt-oss-20b нет: Jan прямо пишет, что Mac с 8 ГБ для неё не подходит | ставь Jan и бери маленькую модель из того же Hub |
| 16 ГБ | gpt-oss-20b впритык: OpenAI пишет, что ей хватает 16 ГБ | закрой браузер и тяжёлые программы перед запуском, первый ответ будет медленным |
| 32 ГБ и больше | gpt-oss-20b свободно | то, что рекомендует Jan: 32 ГБ памяти и 25 ГБ свободного места |
Таблица прокручивается вбок →
В описании модели сказано, что из 21 миллиарда параметров на каждом шаге работают 3,6 миллиарда, а OpenAI пишет, что ей хватает 16 ГБ. Скорость по данным самого Jan: на компьютере с 16 ГБ и без видеокарты первый ответ приходит за 30-45 секунд, следующие за 3-6 секунд, а на 32 ГБ с видеокартой заметно быстрее. Это цифры Jan, не мои замеры. Если нужно понять память глубже, как считать «модель занимает вдвое больше своего файла», это разобрано в гайде про локальные нейросети
Откуда скачать gpt-oss-20b
Это название модели, а не программы: сама модель OpenAI с лицензией Apache 2.0, её можно использовать и в работе. Скачивается она не отдельно, а через программу. Два рабочих пути, в обоих файл берётся из надёжного места:
- Через Jan: Hub, поиск «gpt-oss», кнопка Download. По описанию Jan это около 11 ГБ
- Через Ollama: команда
ollama run gpt-oss:20b, скачивание 14 ГБ
Файлы на странице Hugging Face (адрес huggingface.co/openai/gpt-oss-20b) это исходные веса для разработчиков, новичку там искать нечего. Ещё две ловушки в названиях: gpt-oss:120b весит 65 ГБ и просит видеокарту на 80 ГБ, а gpt-oss:20b-cloud работает на чужих компьютерах в интернете, то есть это уже не «у тебя на компьютере»
Шаг 1. Jan: чат с gpt-oss-20b
Установку я на своём Mac не запускал: шаги сверены с официальными страницами Jan и страницей релиза на 11 октября 2026, названия кнопок взяты из документации Jan. Если у тебя экран выглядит иначе, верь экрану
- Открой страницу
https://github.com/janhq/jan/releases/latest, внизу раздел Assets, в нём файлы. Mac:Jan_0.8.6_universal.dmg, 95,7 МБ. Windows:Jan_0.8.6_x64-setup.exe, 531 МБ (если процессор ARM, файлarm64-setup.exe). Номер версии у тебя может быть новее. Системы нужны не старее: Mac с macOS 13.6 и новее, Windows 10 и новее (по документации Jan) - Mac: открой скачанный
.dmgи перетащи Jan в «Программы». Windows: запустиsetup.exeи дождись окончания установки. Откроется окно Jan, слева в нём боковая панель, а в ней пункт Hub: это каталог моделей, откуда они скачиваются - При первом запуске Jan сам скачивает свою базовую маленькую модель, так что чат заработает сразу. Это не gpt-oss, это проба
- Нужная модель: слева открой Hub, в поиске набери
gpt-oss, он будет первым в списке, нажми Download. Ждать скачивания 11 ГБ, время зависит от твоего интернета - Нажми New Chat, в выборе модели укажи gpt-oss-20b и отправь вопрос. Если gpt-oss-20b в списке нет, скачивание в Hub ещё не закончилось (так по описанию Jan: модель появляется в выборе после загрузки). Первый ответ медленный, это нормально: потом быстрее
Проверка, что работает без интернета: выключи Wi-Fi и задай новый вопрос. Ответ должен прийти. Если в выборе модели ты выбрал облачную (для неё Jan просит ключ), без сети она, конечно, молчит: нужна именно gpt-oss-20b, скачанная в Hub
Шаг 2. Ollama: когда нужна модель командой
Ollama не окно-чат, а «движок»: она хранит модель и отдаёт её другим программам, в том числе AnythingLLM. Если тебе нужен просто чат, этот шаг можно пропустить
Чтобы вставить команду, нужно окно для команд. На Mac нажми Cmd+Пробел, набери «Терминал» и Enter. На Windows нажми «Пуск», набери PowerShell и открой
- Mac: на странице
https://ollama.com/downloadвыбери macOS и нажми «Download manually», скачаетсяOllama.dmg(около 200 МБ), нужен macOS Sonoma (14) или новее. Windows: скачайOllamaSetup.exeна той же странице, нужна Windows 10 версии 22H2 или новее, права администратора не нужны - Mac: открой
Ollama.dmgи перетащи значок Ollama в «Программы», при первом запуске она может спросить разрешение добавить командуollamaв систему, разреши. Windows: запустиOllamaSetup.exe, установщик сам положит программу в твою папку пользователя - В окне для команд (Терминал на Mac, PowerShell на Windows) вставь строку и нажми Enter:
ollama run gpt-oss:20b
Ollama скачает 14 ГБ и начнёт чат прямо в этом окне. Чтобы выйти, набери /bye
Бесплатного в Ollama хватает для всего выше. Облачные модели Ollama (в названии есть слово cloud) тарифицируются: на бесплатном тарифе дают небольшой стартовый объём, дальше платишь за использование. Для работы без подписки они не нужны
Шаг 3. AnythingLLM: вопросы по твоим файлам
Это третья программа, и она нужна только тем, кто хочет загрузить договоры, PDF или документы клиента и задавать по ним вопросы. Регистрация и карта не нужны. С локальной моделью файлы остаются у тебя
- Скачай на странице релиза
https://github.com/Mintplex-Labs/anything-llm/releases/latest(раздел Assets). Mac на чипе M1 и новее:AnythingLLMDesktop-Silicon.dmg, 540 МБ. Mac на Intel:AnythingLLMDesktop.dmgбез слова Silicon, 507 МБ (на сайте программы этой версии соответствует кнопка Apple Intel). Windows:AnythingLLMDesktop.exe, 391 МБ, для процессора ARMAnythingLLMDesktop-Arm64.exe - Mac: открой
.dmgи перетащи в «Программы», браузер может пометить файл как непроверенный, тогда выбери «Keep» - Подключи модель из Ollama. По документации AnythingLLM: в Settings выбери провайдера Ollama, адрес оставь
http://127.0.0.1:11434и укажи модельgpt-oss:20b. Названия полей сверь на экране, в документации они не названы - Создай рабочую область (workspace), загрузи документ и задай вопрос. Режим чата меняется в настройках рабочей области: значок шестерёнки, вкладка Chat Settings. Query отвечает только по твоим файлам и честно говорит, если ответа в них нет, Chat смешивает файлы и общие знания, а Agent (его документация советует по умолчанию) нужен для задач с инструментами, для вопросов по файлам выбирай Query
Эту связку (AnythingLLM + Ollama + gpt-oss-20b) я не запускал, она собрана по документациям обеих программ. В AnythingLLM есть и свой встроенный вариант модели («AnythingLLM Default»), но какие там модели, в документации не названо, поэтому надёжный путь здесь через Ollama. Памяти на связку нужно столько же, сколько модели: сам AnythingLLM лёгкий, тяжёлая в ней нейросеть
Размеры файлов на страницах релизов, 11 октября 2026
Jan, Mac (universal.dmg) 95,7 МБ
Jan, Windows (x64-setup.exe) 530,6 МБ
AnythingLLM, Mac на M-чипе (Silicon.dmg) 540 МБ
AnythingLLM, Mac на Intel (.dmg) 507 МБ
AnythingLLM, Windows (.exe) 391 МБ
Модель gpt-oss-20b: Jan около 11 ГБ, Ollama 14 ГБ
Если ты в России: что открывается
Мои запросы идут из Нидерландов, поэтому «у меня открывается» ничего не доказывает. Адреса проверены из трёх российских точек публичного сервиса check-host.net, 11 октября 2026
Hugging Face, страница модели 200 200 200
Сайт Ollama, загрузка и модели 200 200 200
Сайт Jan 301 301 301 (перенаправление на нужную страницу)
Страницы релизов Jan и AnythingLLM на GitHub 302 302 302 (перенаправление на релиз)
Сайт AnythingLLM и его документация 403 403 403
Прямая загрузка Jan 500 302 302
Что из этого следует. Hugging Face, Ollama и страницы релизов на GitHub открываются, поэтому все скачивания в этой статье идут через них. Сайт AnythingLLM и его документация из всех трёх точек отвечали 403, то есть «доступ запрещён»: это может быть защита сервиса от проверяющих роботов, а у живого человека страница открывается, но надёжнее брать установщик с GitHub, как в шаге 3. Прямая ссылка загрузки Jan на одной из точек дала сбой, потому в шаге 1 она заменена страницей релиза. У твоего провайдера может быть иначе, гарантий нет, и обходные пути я не описываю
Что платное, а что нет
Jan, AnythingLLM и Ollama бесплатные, модель gpt-oss-20b тоже: лицензия Apache 2.0. Платить придётся только за две вещи. Облачные модели, если подключишь их вместо локальных (в Ollama после небольшого стартового объёма и в Jan через ключ поставщика). И за место на диске: 11-14 ГБ на одну модель. Электричество и нагрев ноутбука при долгой работе нейросети тоже есть, это цена работы без подписки
Что ломается и что делать
| Что видишь | Что случилось | Что сделать |
|---|---|---|
| Первый ответ приходит 30-45 секунд | это штатно: по описанию Jan первый ответ на 16 ГБ без видеокарты долгий, дальше быстрее | подожди, следующие ответы будут быстрее |
| Ошибка про нехватку памяти (Out of memory) | не хватило оперативной памяти | закрой браузер, игры, видеоредакторы и перезапусти Jan |
| Ошибка про нехватку памяти видеокарты | модель не влезла в память видеокарты | уменьши длину контекста в настройках Jan либо переключи его на работу процессором. Названия пунктов сверь на экране |
| Jan не запускается на Mac с Intel | производитель пишет, что Intel-маки не поддерживаются | поставь AnythingLLM (на его сайте для Intel отдельная кнопка «Download for Apple Intel») или Ollama: по документации на Mac с Intel она считает только процессором, то есть заметно медленнее |
| Скачивается не та модель, ответ идёт в интернет | выбрана облачная модель или вариант -cloud | выбери в Hub именно gpt-oss-20b, в Ollama команду без слова cloud |
| AnythingLLM в режиме Query пишет «No relevant information found» | в документе такого сведения нет в том виде, как ты спросил | в настройках поиска по документам (раздел Vector Database) поставь «Document similarity threshold» в «No restriction» и сформулируй вопрос словами документа |
| Сайт anythingllm.com не открывается | из России он может отвечать 403 | скачай установщик со страницы релиза на GitHub |
Таблица прокручивается вбок →
Что смотреть дальше
Если захочется поставить другую программу для моделей, шаги и замеры скорости на другом железе есть в гайде про локальные нейросети (там программа LM Studio). Установку Ollama со всеми подробностями разбирает отдельный гайд про Ollama, а связку Ollama и LM Studio этот. Почему такие модели вообще раздают бесплатно, написано в материале про открытые инструменты ИИ. Как скачивать файлы со страницы релиза на Гитхабе, разобрано в гайде про скачивание с GitHub. А чтобы свои договоры не отправлять в чужое облако, пригодится разбор про данные для нейросети
Источники
- Модель gpt-oss-20b на Hugging Face - лицензия Apache 2.0, 21 млрд параметров, «within 16GB of memory»
- gpt-oss в каталоге моделей Ollama - размеры 14 ГБ и 65 ГБ, команда запуска
- Как запустить gpt-oss в Jan - Hub, Download, New Chat, требования и скорость
- Jan на GitHub - лицензия Apache 2.0, требования, файлы релиза
- Jan: установка на Mac - macOS 13.6 и новее, Intel-маки не поддерживаются
- AnythingLLM Desktop - бесплатная загрузка без регистрации
- AnythingLLM: подключение Ollama - как связать две программы
- AnythingLLM: режимы чата - Chat, Query, Agent
- Ollama: загрузка - установщики и бесплатный план облака
- Ollama на macOS - требования macOS 14
- Ollama на Windows - Windows 10 22H2, без прав администратора
- Проверка доступа check-host.net - три российские точки, 11 октября 2026
Памятка: ИИ без интернета на своём компьютере
Здесь всё, что нужно, чтобы вернуться и не открывать статью заново
Сохрани себе
- Сначала память: Mac, меню Apple, «Об этом Mac»; Windows, Ctrl+Shift+Esc, «Производительность», «Память». Нужно 16 ГБ и свободных 11-14 ГБ на диске, лучше 32 ГБ и 25 ГБ
- Первой ставь Jan: страница файлов github.com/janhq/jan/releases/latest, Mac universal.dmg, Windows x64-setup.exe
- В Jan: Hub, поиск gpt-oss, Download, New Chat, выбрать gpt-oss-20b
- Ollama нужна для запуска командой: ollama run gpt-oss:20b (скачает 14 ГБ), выход /bye. Не бери варианты со словом cloud
- AnythingLLM нужен для вопросов по своим файлам: установщик на github.com/Mintplex-Labs/anything-llm/releases/latest, провайдер Ollama, адрес http://127.0.0.1:11434, режим Query
- Mac с Intel: Jan не подойдёт, бери AnythingLLM (файл без Silicon) или Ollama, но будет медленно
- Всё бесплатное, платными бывают только облачные модели Ollama и чужие облака в Jan
- Проверка без интернета: выключи Wi-Fi и задай вопрос в Jan
Куда это ведёт
Помощник на твоём компьютере это первый шаг. Следующий: чтобы он делал твою работу
Ты поставил нейросеть, которая отвечает без интернета и без подписки. Но вопросы и ответы в чате это лишь малая часть: письма, сводки, подготовка к встречам, ответы клиентам повторяются из недели в неделю, и именно эту работу отдают помощнику
На Концентрате три вечера: в первый собираем команду ИИ-агентов на Hermes, во второй разбираем шесть связок монетизации, в третий контент-завод на бесплатном трафике
Заходи, если хочешь, чтобы нейросеть на твоём компьютере не просто отвечала, а работала
Откроется в Telegram: 13-15 октября, 19:00 по Москве, онлайн. Участие бесплатное, регистрация до 14 октября
Частые вопросы
Какую программу ставить первой: Jan, Ollama или AnythingLLM?
Для чата Jan: он один скачивает и запускает модель, команды вводить не нужно. Ollama нужна, если запускаешь модель командой, а AnythingLLM только для вопросов по своим файлам, и тогда обычно в паре с Ollama
Сколько памяти нужно, чтобы запустить gpt-oss-20b?
OpenAI пишет, что модели хватает 16 ГБ памяти. Jan называет минимум 16 ГБ и рекомендует 32 ГБ, на 8 ГБ эта модель не запустится
Нужна ли видеокарта?
Нет. По данным Jan, модель работает и на процессоре, просто медленнее: на 16 ГБ без видеокарты ответ появляется со скоростью 3-8 кусочков слов в секунду, то есть заметно по частям
Правда ли, что после скачивания интернет не нужен?
Для локальной модели да: Jan пишет, что локальные модели работают на твоём компьютере полностью автономно. Облачные модели, которые Jan тоже умеет подключать, без сети работать не будут
Это бесплатно?
Программы Jan, AnythingLLM и Ollama бесплатные, модель gpt-oss-20b тоже (лицензия Apache 2.0). Платными бывают только облачные модели: у Ollama после небольшого стартового объёма, у Jan через ключ чужого поставщика
Читать дальше
Я соло-предприниматель на Claude, ChatGPT и агентах
Всё, что не влезает в статью, лежит у меня в канале: как я делаю контент с нейросетями каждый день, новые функции раньше, чем о них снимают ролики, и внутрянка моих вайб-маркетинговых проектов
Открытый канал, подписка в одно нажатие