Как я приручил 30-миллиардник на RTX 3090: Тестируем Nemotron-Cascade-2 в домашнем сетапе
Привет, Хабр! Сегодня хочу поделиться опытом подбора «идеальной» локальной модели для повседневной работы: от быстрой помощи в кодинге до глубоких рассуждений в физике и биологии.
Мой домашний сетап: NUC 64GB + RTX 3090 (24GB) через Thunderbolt + Windows 11 + WSL2. Мне нужна была модель, которая станет основным помощником: быстро набросать скрипт для Proxmox, объяснить научный термин или вытащить данные из кучи документов (RAG)…
Почему Nemotron-Cascade-2