本地跑不动 QwQ？快用 CNB，免费运行满血 QwQ！

前言

阿里搞了新的推理模型？https://qwenlm.github.io/zh/blog/qwq-32b/

🌟本地跑不动 QwQ？快用https://cnb.cool ，免费运行满血火力全开！🌟

作为一名开发者/科研党/数据极客，你是否经历过这些崩溃瞬间？

• 本地跑个Transformer模型，风扇狂转宛如直升机起飞🛩️

• 点下训练按钮，眼睁睁看着进度条像蜗牛散步🐌

• 想试新框架却发现显卡显存又双叒叕不够了💥

别让硬件成为创意的枷锁！CNB——你的云端算力救星已上线！

准备工作

• 基本语文素养

• 微信号一个

教程开始

1. 打开项目地址

点击上面卡片进入https://cnb.cool，点击右上角的 Fork 按钮。

按照要求使用微信扫码登录

2. 创建组织

如果是首次使用https://cnb.cool，需要创建一个组织来保存仓库。

3. 启动！

Fork 完成后，点击 云原生开发 ，进入环境。

4. 使用 WebIDE 打开

5. 开始对话

根据文档要求，在命令行中输入

ollama run QwQ:32b

即可开始对话体验。

回答测试

Q：1.9和1.11谁更大

total duration:       2.74408212s
load duration:        13.8633ms
prompt eval count:    46 token(s)
prompt eval duration: 30ms
prompt eval rate:     1533.33 tokens/s
eval count:           129 token(s)
eval duration:        2.696s
eval rate:            47.85 tokens/s

参考资料

1. https://cnb.cool/Anyexyz/QwQ

2. https://cnb.cool/examples/ecosystem/deepseek

3. https://ollama.com/library/qwq/tags

4. https://qwenlm.github.io/zh/blog/qwq-32b/