Компьютер для нейросетей: что нужно

Компьютер для нейросетей нужен мощный, только если модель работает у вас дома, а не в облаке. Допустим, вы присмотрели модель на 14 млрд параметров, а в системнике стоит видеокарта на 8 ГБ. Хватит ли её, зависит не от процессора, а от памяти видеокарты: модель должна туда поместиться.

Нужно ли вам мощное железо?

Если вы пишете в чат через браузер, не нужно ничего, кроме самого браузера. Подойдёт любой компьютер или телефон, потому что вычисления идут на чужих серверах. Мощное железо понадобится в двух случаях: вы запускаете модели у себя (через Ollama или LM Studio) или генерируете картинки на своей машине.

Зачем вообще запускать модель дома? Есть три причины: данные не должны уходить на чужой сервер, нужна работа без интернета, не хочется платить за каждый запрос. Платите вы тогда один раз, за железо. А если покупать компьютер не хочется, посмотрите аренду сервера с GPU.

Дальше речь только о локальном запуске. Программу вы ещё не выбрали? Тогда начните со сравнения Ollama и LM Studio. Установку и первый запуск описывает статья про локального AI-агента на ПК.

Почему модель должна влезть в память?

Нейросеть при работе читает все свои веса для каждого нового слова. Если веса лежат в видеопамяти (VRAM), видеокарта читает их быстро. Если не поместились, часть слоёв уходит в оперативную память и в процессор, и ответы замедляются. Увидеть это можно в Ollama: в колонке PROCESSOR команды ollama ps написано, какая доля модели работает на GPU, а какая на CPU.

Чтобы понять, влезет ли ваша модель, сложите три части.

• Вес модели. Параметры (в миллиардах) × бит на вес / 8 = гигабайты. Бит на вес зависит от квантования: сжатия, которое уменьшает точность весов ради размера.
• Контекст. Память под историю диалога растёт с длиной контекста. Ollama по умолчанию берёт контекст 4k токенов, если видеопамяти меньше 24 ГиБ, и 32k при 24–48 ГиБ. Для агентов и работы с кодом документация советует не меньше 64 000 токенов, а это требует больше памяти.
• Запас. Часть видеопамяти занимает система и браузер. Практический ориентир: оставляйте 1–2 ГБ свободными.

Теперь о квантовании. GGUF – формат файлов для llama.cpp, Ollama и LM Studio. В документации llama.cpp на примере Llama 3.1 8B указано: Q4_K_M – 4,89 бита на вес, Q8_0 – 8,50 бита, F16 – 16 бит. Для расчётов ниже округляем до 4,9, 8,5 и 16.

Вернёмся к вашей модели на 14 млрд параметров в Q4_K_M. Выходит 14 × 4,9 / 8 ≈ 8,6 ГБ только на веса. С контекстом и запасом нужно около 10–11 ГБ, так что видеокарты на 12 ГБ хватит, а вашей на 8 ГБ нет.

Для своей модели посчитайте то же самое в калькуляторе ниже.

Сколько памяти съест нужная вам модель?

Если считать вручную лень, вот готовые значения. В таблице вес модели без контекста и запаса. Значения посчитаны по формуле выше, в гигабайтах (10⁹ байт).

Размер модели	Q4_K_M (4,9 бита)	Q8_0 (8,5 бита)	FP16 (16 бит)
4B	2,5 ГБ	4,3 ГБ	8 ГБ
8B	4,9 ГБ	8,5 ГБ	16 ГБ
14B	8,6 ГБ	14,9 ГБ	28 ГБ
32B	19,6 ГБ	34 ГБ	64 ГБ
70B	42,9 ГБ	74,4 ГБ	140 ГБ

Проверить расчёт можно по ollama.com/library. Реальные файлы немного отличаются, потому что у моделей не ровно столько параметров, сколько написано в названии. Там Llama 3.1 8B весит 4,9 ГБ, Llama 3.1 70B – 43 ГБ, Qwen3 14B – 9,3 ГБ, Qwen3 32B – 20 ГБ. Формула попадает в эти размеры с точностью до нескольких процентов.

Q8_0 весит почти вдвое больше Q4_K_M, зато сохраняет больше точности весов. Какие модели подходят под ваш объём памяти, читайте в статьях про выбор модели в LM Studio и про модели для Ollama.

Какая видеокарта вам нужна?

Для локальных моделей проще всего брать видеокарту Nvidia: Ollama поддерживает карты Nvidia с вычислительной способностью (compute capability) 5.0 и выше, а в списке документации есть все современные GeForce. Объём памяти важнее скорости ядер: быстрая карта на 8 ГБ не запустит модель, которой нужно 20.

Чтобы выбрать карту под ваш объём, начните с таблицы. Объёмы памяти в ней даны по данным nvidia.com (сравнение серий GeForce):

Видеопамять	Видеокарты
8 ГБ	RTX 5060, RTX 5050, RTX 4060, версия RTX 4060 Ti на 8 ГБ, версия RTX 5060 Ti на 8 ГБ
12 ГБ	RTX 5070, RTX 4070 Ti, RTX 4070 SUPER, RTX 4070, RTX 3060 (версия на 12 ГБ)
16 ГБ	RTX 5080, RTX 5070 Ti, версия RTX 5060 Ti на 16 ГБ, RTX 4080 SUPER, RTX 4080, RTX 4070 Ti SUPER, версия RTX 4060 Ti на 16 ГБ
24 ГБ	RTX 4090, RTX 3090, RTX 3090 Ti
32 ГБ	RTX 5090

В магазине смотрите на объём, а не на серию. У RTX 5060 Ti и RTX 4060 Ti бывают версии с 8 и с 16 ГБ, у RTX 3060 – с 12 и с 8 ГБ. Поэтому объём ищите в названии конкретной модели.

Теперь сложим обе таблицы и посмотрим, что поместится на каждой карте:

• 8 ГБ: модели до 8B в Q4_K_M (4,9 ГБ) с небольшим контекстом.
• 12 ГБ: 8B в Q8_0 (8,5 ГБ) или 14B в Q4_K_M (8,6 ГБ).
• 16 ГБ: 14B в Q4_K_M с запасом под длинный контекст. 14B в Q8_0 (14,9 ГБ) без места под контекст не поместится.
• 24 ГБ: 32B в Q4_K_M (19,6 ГБ). Например, Qwen3 32B весит 20 ГБ, gpt-oss 20B – 14 ГБ.
• 32 ГБ: 32B в Q4_K_M с длинным контекстом. 32B в Q8_0 (34 ГБ) не поместится.
• Модели 70B в Q4_K_M (42,9 ГБ) не помещаются ни в одну одиночную карту из списка. Нужны две видеокарты: в документации Ollama описан выбор подмножества GPU при нескольких картах, то есть программа умеет работать с несколькими.

Для вашей модели на 14B это значит: берите карту на 12 ГБ, а лучше на 16.

Подойдёт ли вам AMD или Intel?

Ollama поддерживает видеокарты AMD Radeon через ROCm (в документации перечислены RX 9000, RX 7000, RX 6000 и профессиональные серии). Остальные видеокарты Windows и Linux, включая Intel, она поддерживает через Vulkan. Перед покупкой сверьте конкретную модель со списком на docs.ollama.com/gpu. LM Studio в системных требованиях называет минимум в 4 ГБ выделенной видеопамяти, без привязки к производителю.

Что даст вам Mac на Apple Silicon?

Если у вас Mac, считать нужно иначе. В Mac на чипах Apple процессор и графика делят одну общую (unified) память. Поэтому модель не упирается в отдельный объём видеопамяти: берётся общая память компьютера. Ollama использует графику Apple через Metal.

На практике Mac с 32–64 ГБ памяти запускает модели 32B, а с 64–128 ГБ и модели 70B, на которые обычному ПК потребовались бы две видеокарты. Например, Mac Studio на M5 Max по данным apple.com начинается с 36 ГБ и настраивается до 128 ГБ. Часть памяти всегда занимает система, так что считайте с запасом.

Если вы выбираете LM Studio, учтите её требования. Для macOS нужен чип Apple Silicon (M1 и новее) и macOS 14 или новее, рекомендуется 16 ГБ и больше. На Mac с 8 ГБ запуск возможен, но только с небольшими моделями и коротким контекстом. Intel-based Mac LM Studio не поддерживает.

Справитесь ли вы без видеокарты?

Справитесь, если не ждёте скорости. Без видеокарты модели работают на процессоре и оперативной памяти. Это медленнее, но для проб подходит: Ollama и LM Studio запускаются и без GPU. Конкретных скоростей без замера на вашем железе называть не буду: они зависят от модели, квантования и памяти.

Если проверяете свой компьютер, сверьтесь с требованиями LM Studio для Windows и Linux по официальной странице:

• процессор с набором инструкций AVX2 (для x64), без него программа не запустится;
• оперативная память: рекомендуется от 16 ГБ;
• видеопамять: рекомендуется от 4 ГБ выделенной;
• Linux: Ubuntu 20.04 или новее, поддерживаются x64 и ARM64.

Поддерживаются и ARM-системы на Windows (Snapdragon X Elite). Если модель не помещается в видеопамять, недостающая часть уходит в ОЗУ. Поэтому оперативной памяти берите хотя бы столько же, сколько видеопамяти, а лучше вдвое больше. Это практический ориентир, а не требование программ.

Сколько места на диске понадобится?

Модели хранятся файлами и занимают места как их вес. По данным ollama.com/library: Llama 3.1 8B – 4,9 ГБ, Qwen3 14B – 9,3 ГБ, gpt-oss 120B – 65 ГБ. Если вы пробуете по десять моделей, на диск уйдут сотни гигабайт.

Берите SSD: файл в десятки гигабайт с жёсткого диска загружается в память заметно дольше. Под модели закладывайте от 200 ГБ свободного места, под большие – от 500 ГБ. Это ориентир на случай, когда вы держите несколько моделей и меняете их.

Какую конфигурацию выбрать вам?

Если вы всё ещё колеблетесь между картами и Mac, соберите итог по задачам. В таблице три варианта, от пробы до больших моделей.

Задача	Windows или Linux	Mac	Что запустится
Попробовать	Видеокарта 8 ГБ, ОЗУ 16 ГБ, SSD	16 ГБ памяти	Модели 4B–8B в Q4_K_M
Работать каждый день с моделями 14–32B	Видеокарта 16–24 ГБ, ОЗУ 32 ГБ, SSD от 500 ГБ	32–48 ГБ памяти	14B в Q4_K_M и Q8_0 (на 24 ГБ), 32B в Q4_K_M
Большие модели 70B	Две видеокарты по 24 ГБ (48 ГБ вместе), ОЗУ 64 ГБ	64–128 ГБ памяти	70B в Q4_K_M, при 128 ГБ ещё и Q8_0

Первый вариант годится, чтобы понять, нужно ли вам это вообще. Второй закрывает большинство задач: чат, код, документы. Третий нужен тем, кому не хватает качества 32B.

Что делать, если железо дорого?

Видеокарта на 24 ГБ и выше стоит заметных денег. Если вы запускаете крупную модель редко или хотите сначала проверить идею, арендуйте сервер с GPU на часы. В статье про аренду сервера с GPU разобрано, где его взять и как считать расходы. Для общей картины по моделям загляните в обзор локальных нейросетей 2026.

Что ещё вы хотите уточнить?

Хватит ли любого компьютера для ChatGPT?

Хватит любого, на котором открывается браузер. Вычисления идут на серверах сервиса. Отдельный вопрос – доступность сервиса из вашей страны: ChatGPT, Claude и Gemini официально в России не работают.

Запустится ли модель без видеокарты?

Да. Ollama и LM Studio работают на процессоре и оперативной памяти. Берите небольшие модели 4B–8B в Q4_K_M и ждите ответов дольше, чем на видеокарте.

Сколько видеопамяти нужно модели на 14B?

Вес в Q4_K_M около 8,6 ГБ. С контекстом и запасом нужно 10–12 ГБ, поэтому комфортно работает видеокарта на 12 ГБ, лучше на 16.

Что важнее: память или скорость карты?

Сначала объём. Если модель не помещается в память, часть работы уходит на процессор, и скорость падает. Быстрая карта на 8 ГБ не откроет модель, которой нужно 20 ГБ.

Подойдёт ли вам видеокарта AMD или Intel?

Часто да. Ollama поддерживает Radeon через ROCm, другие карты через Vulkan. Но список поддерживаемых моделей меняется, сверяйтесь с docs.ollama.com/gpu до покупки.

Чем Mac лучше ПК для больших моделей?

Общей памятью. В Mac на 64–128 ГБ модель 70B в Q4_K_M (около 43 ГБ) помещается целиком, а на ПК для неё нужны две видеокарты. Взамен в Mac нельзя добавить память позже: объём выбирают при покупке.

Нужен ли вам SSD для нейросетей?

Желателен. Файлы моделей весят от 2,5 до 65 ГБ и больше, SSD загружает их в память быстрее жёсткого диска.

Можно ли поставить две видеокарты?

Можно. Ollama умеет работать с несколькими видеокартами Nvidia: в документации описано, как ограничить программу частью карт. Две карты по 24 ГБ дают 48 ГБ, и этого хватает на 70B в Q4_K_M с небольшим запасом.

Что в итоге с вашей моделью на 14B?

Видеокарта на 8 ГБ её не потянет, а на 12 ГБ она заработает, и лучше взять 16. Если карту менять не хочется, поможет Mac или аренда сервера с GPU. Данные по системным требованиям и спецификациям взяты с официальных сайтов на октябрь 2026. Списки поддерживаемых видеокарт меняются, поэтому перед покупкой сверьтесь с docs.ollama.com/gpu.