<?xml version="1.0" encoding="utf-8"?>
<rss version="2.0" xmlns:atom="http://www.w3.org/2005/Atom">
    <channel>
        <title>Какую нейросеть ставить на 8, 16 и 24 ГБ  Проверил 9 моделей на русском, 2026</title>
        <link>https://peervideo.ru/videos/watch/b36a7420-f8b2-436a-921a-eacc283c339c</link>
        <description>46 292 просмотра  20 нояб. 2026 г.  #нейросети #локальныенейросети #llm 📌 Скрытый слой в Telegram: t.me/skrytyysloy Модель на 20,6 ГБ работает на видеокарте с 8 ГБ, и это не фокус. Какую нейросеть ставить на свою карту? Я проверил 9 локальных моделей на русском: 250 задач по математике, 160 задач по программированию и песня про видеокарту. Разбираем, что на самом деле занимает видеопамять: веса, кэш разговора, буферы и запас. Отсюда формула, по которой любую модель можно прикинуть за десять секунд. Дальше смесь экспертов: как Qwen3.6-35B-A3B с экспертами в оперативке работает на 8 ГБ со скоростью около 30 токенов в секунду и почему плотная модель в том же режиме выдаёт 3,5. Затем победители для 8, 16 и 24 ГБ, разница в скорости до пяти раз при почти одинаковом уме и почему скорость письма упирается в память. В конце шпаргалка по всем картам и пересчёт скорости на RTX 4060, 4060 Ti, 3060, 5060 и 5060 Ti. Модели: Gemma 4 (E4B, 12B, 26B-A4B, 31B), Qwen3.5-9B, Qwen3.6-35B-A3B, Qwen3.8-27B (и её сжатая версия Bonsai от PrismML), gpt-oss-20b, Ornith-1.5-9B. 📊 Таблица со всеми цифрами, скрипты замеров и ответы моделей на каждую задачу — в Telegram: t.me/skrytyysloy Таймкоды: 0:00 20 гигабайт в восьми 0:52 Что лежит в видеопамяти 2:37 8 ГБ: модель целиком 4:24 Эксперты в оперативке 6:51 16 ГБ: ум почти одинаковый, скорость — нет 8:54 24 ГБ: ум против скорости 9:48 Песня от нейросетей 11:09 Подвохи 13:12 Шпаргалка Модели из ролика — те самые файлы GGUF, которые я запускал: Gemma 4 E4B (Q4_K_M) — https://huggingface.co/unsloth/gemma-4-E4B-it-GGUF Gemma 4 12B (Q4_K_M и Q8_0) — https://huggingface.co/unsloth/gemma-4-12b-it-GGUF Gemma 4 26B-A4B (QAT Q4_0) — https://huggingface.co/lmstudio-community/gemma-4-26B-A4B-it-QAT-GGUF Gemma 4 31B (Q4_K_M) — https://huggingface.co/unsloth/gemma-4-31B-it-GGUF Qwen3.5-9B (Q4_K_M) — https://huggingface.co/unsloth/Qwen3.5-9B-GGUF Qwen3.6-35B-A3B (UD-Q4_K_M) — https://huggingface.co/unsloth/Qwen3.6-35B-A3B-GGUF Qwen3.8-27B (UD-Q4_K_M и UD-Q3_K_XL) — https://huggingface.co/unsloth/Qwen3.8-27B-GGUF Bonsai 2 — Qwen3.8-27B от PrismML (Q2_0) — https://huggingface.co/prism-ml/Ternary-Bonsai-2-27B-gguf gpt-oss-20b (MXFP4) — https://huggingface.co/ggml-org/gpt-oss-20b-GGUF Ornith-1.5-9B (Q4_K_M) — https://huggingface.co/ornith-ai/Ornith-1.5-9B-GGUF llama.cpp — https://github.com/ggml-org/llama.cpp Как мерил: Железо: RTX 3090 Ti 24 ГБ, 32 ГБ DDR4-3200, Core i7-12700, Windows 11. Запуск — llama.cpp (сборка b11889, Vulkan), файлы GGUF, в основном Q4_K_M. Как ограничивал видеопамять. Карта у меня одна, на 24 ГБ, поэтому классы карт задавал бюджетом: объём минус 0,5 ГБ на Windows и браузер — 7,5 ГБ для карты на 8 ГБ, 11,5 для 12 ГБ, 15,5 для 16 ГБ, 23,5 для 24 ГБ. Каждая модель запускалась в llama-server с контекстом 8192 токена, занятая видеопамять — пик по nvidia-smi минус фон до запуска. Если модель не укладывалась в бюджет, подбирал раскладку: сколько слоёв оставить на видеокарте (-ngl) или сколько слоёв экспертов отдать в оперативку (--n-cpu-moe) — самый быстрый вариант, который в бюджет влезает. Скорость: llama-bench с той же раскладкой, генерация 128 токенов. Математика: MGSM, русская часть — 250 школьных задач, temperature 0. Код: ruHumanEval из бенчмарка MERA — 160 из 164 задач (4 убрал: на них не проходит даже эталонное решение); код модели запускается на тестах набора. Рассуждения выключены у всех; у gpt-oss выключить нельзя — стоял минимальный уровень. Качество мерил с моделью целиком на видеокарте: где лежат веса, на ответы не влияет. Режим «эксперты в оперативке» перепроверил на 100 задачах — разница в одну. Песня: 2 задания × 2 запуска; рифма — простая автоматическая проверка, лучший текст — моя слепая оценка (10 текстов под буквами). Скорость на других картах — пересчёт по пропускной способности памяти из спецификаций. Это оценка, а не замер. Доли видеопамяти — Steam Hardware &amp; Software Survey, октябрь 2026. Песня «Цифровой сон»: текст — Gemma 4 31B, музыка — Suno.</description>
        <lastBuildDate>Sun, 22 Nov 2026 15:00:35 GMT</lastBuildDate>
        <docs>https://validator.w3.org/feed/docs/rss2.html</docs>
        <generator>PeerTube - https://peervideo.ru</generator>
        <image>
            <title>Какую нейросеть ставить на 8, 16 и 24 ГБ  Проверил 9 моделей на русском, 2026</title>
            <url>https://peervideo.ru/lazy-static/avatars/79a838b8-29fc-400e-b4c2-50634224b980.png</url>
            <link>https://peervideo.ru/videos/watch/b36a7420-f8b2-436a-921a-eacc283c339c</link>
        </image>
        <copyright>All rights reserved, unless otherwise specified in the terms specified at https://peervideo.ru/about and potential licenses granted by each content's rightholder.</copyright>
        <atom:link href="https://peervideo.ru/feeds/video-comments.xml?videoId=b36a7420-f8b2-436a-921a-eacc283c339c" rel="self" type="application/rss+xml"/>
    </channel>
</rss>