12GB 显存跑通 262K 上下文：MiMo-V2.6-Distill-Qwen-9B 本地部署方案
MiMo-V2.6-Distill-Qwen-9B 本地部署方案：单张 12GB RTX 3060 跑 262K 上下文，Q5_K_M 量化配 Q8 KV 缓存与 Flash...
本地部署
该标签共 1 篇
输入关键词后回车，支持中文与英文。
该标签共 1 篇
MiMo-V2.6-Distill-Qwen-9B 本地部署方案：单张 12GB RTX 3060 跑 262K 上下文，Q5_K_M 量化配 Q8 KV 缓存与 Flash...
您好，这里是网站客服，请问有什么可以帮您？
对方正在输入…
会话已关闭，发送消息会重新开启。
当前会话已被管理员关闭，你暂时不能发言。
昵称只保存在你自己的浏览器里，用来显示你的评论与留言，不需要注册。
昵称需要 2 - 20 个字符。