menu readfrog
分类 aiInfra 下的文章
docker下vllm推理qwen3.5-27b-GPTQ-Int4
2026-07-13 |0 条评论
概述我的机器是1x3090ti 24GB,使用的模型是llmfan46/Qwen3.6-27B-uncensored-heretic-v2-Native-MTP-Preserved-GPTQ-I...
加载中... 到底了啦
到底了啦