Tag: llama.cpp

Como rodar uma IA de 80B no notebook com 32 GB

Janas-LLM (prabanta-dev/janas) streama experts MoE do NVMe e roda Qwen3-Next-80B em laptop de 32 GB mais rápido que llama.cpp no mesmo teste. Como baixar e o que ainda é experimental.