MiniMax M3.1 Flash GGUF: локальный запуск, память и API
Для первого запуска Unsloth Q2 заложите 160 GiB памяти, для Q4 — 256 GiB. Соберите ветку llama.cpp с поддержкой MiniMax, запустите сервер с контекстом 16K и проверьте ответ API и чтение файла через OpenCode. Сравните GGUF, MLX для Apple Silicon, EXL3 для DGX Spark и вариант AMD. Разберитесь, что показывают метрики квантования и как сопоставить локальные расходы с оплатой API.
Читать материал