Anye
Anye
Published on 2025-03-08 / 283 Visits
2
2

本地跑不动 QwQ?快用 CNB,免费运行满血 QwQ!

前言

阿里搞了新的推理模型?https://qwenlm.github.io/zh/blog/qwq-32b/

🌟本地跑不动 QwQ?快用https://cnb.cool ,免费运行满血火力全开!🌟

作为一名开发者/科研党/数据极客,你是否经历过这些崩溃瞬间?

  • 本地跑个Transformer模型,风扇狂转宛如直升机起飞🛩️

  • 点下训练按钮,眼睁睁看着进度条像蜗牛散步🐌

  • 想试新框架却发现显卡显存又双叒叕不够了💥

别让硬件成为创意的枷锁!CNB——你的云端算力救星已上线!

准备工作

  • 基本语文素养

  • 微信号一个

教程开始

1. 打开项目地址

https://cnb.cool/Anyexyz/QwQ

点击上面卡片进入https://cnb.cool,点击右上角的 Fork 按钮。

按照要求使用微信扫码登录

2. 创建组织

如果是首次使用https://cnb.cool,需要创建一个组织来保存仓库。

3. 启动!

Fork 完成后,点击 云原生开发 ,进入环境。

4. 使用 WebIDE 打开

5. 开始对话

根据文档要求,在命令行中输入

ollama run $ds

即可开始对话体验。

6. 进阶体验

可以通过切换 32b-fp16 分支重新运行开发环境来体验满血 QwQ!

回答测试

main 分支(32b-q4_K_M)

Q:1.9和1.11谁更大

""

要比较1.9和1.11的大小,我们可以直接观察它们的小数部分:

  • 1.9可以看作是1.90。
  • 1.11则是1.11。

比较小数时,先比整数部分,两者都是1,所以继续比较十分位:

  • 1.90的十分位是9,
  • 1.11的十分位是1。

因为9大于1,所以1.9(即1.90)比1.11更大。

答案: 1.9更大。

total duration:       2.74408212s
load duration:        13.8633ms
prompt eval count:    46 token(s)
prompt eval duration: 30ms
prompt eval rate:     1533.33 tokens/s
eval count:           129 token(s)
eval duration:        2.696s
eval rate:            47.85 tokens/s

32b-fp16 分支

嗯,用户问的是“1.9和1.11谁更大”。首先,我需要确定这是一个关于数字大小比较的问题。看起来用户可能是在学习小数的比较,或者是日常生活中的某个 场景需要用到这个比较。

先想一下,通常比较两个小数的时候,应该从高位开始逐位比较。这里两个数都是以1开头的小数,整数部分都是1,所以接下来要看小数点后的第一位。第 一个数是1.9,也就是1.90,而第二个数是1.11,也就是1.11。这时候,小数点后第一位,1.9的十分位是9,而1.11的十分位是1。显然,9比1大,所以1.9应 该更大。

不过,用户可能在这里会有疑问,比如会不会因为后面的数字更多而影响大小?比如有人可能会误以为位数多的数值更大,比如认为1.11有两位小数,所以 比只有一位小数的1.9大。这时候就需要解释清楚比较的方法:从高位到低位逐位对比,而不是看小数点后的位数多少。

另外,也有可能用户是输入错误,比如原本想问的是1.09和1.11之类的,但根据当前的问题,必须严格按照给出的数字来解答。需要确认自己是否正确理解 了问题中的数值,避免误解。

再进一步思考,可能用户的实际应用场景是什么?例如在购物时比较价格,或者在测量数据中判断哪个更大。这时候明确说明比较过程会更有帮助,确保用 户不仅知道答案,还能掌握方法。

另外,考虑到可能存在不同的数字表示方式,比如1.9是否等于1.900,而1.11则是两位小数,但数学上它们的数值大小只取决于每一位上的数字,而不是位 数的长短。因此,关键点在于比较每一位直到分出大小为止。

总结一下,步骤应该是:

  1. 比较小数点前的部分:两者都是1,相等。
  2. 进到十分位:9 vs 1,显然9更大,所以1.9更大。
  3. 即使后面还有百分位(比如1.11的百分位是1),但因为前面已经分出大小了,后面的可以不用考虑。

可能用户需要的是这个步骤的详细解释,而不仅仅是答案。因此在回答时应该分步说明,并指出常见的误解点,确保他们理解正确的方法。

1.9 比 1.11 更大。

具体分析:

  1. 比较整数部分
    两个数字的整数部分都是 1,因此需要进一步比较小数部分。

  2. 比较十分位(第一位小数)

    • 1.9 的十分位是 9
    • 1.11 的十分位是 1
      → 由于 9 > 1,因此 1.9 > 1.11
  3. 无需比较百分位(第二位小数)
    因为在十分位已经分出大小,后续的小数位不再影响结果。


常见误解:

有人可能误以为 1.11 更大,因为它的位数更多(两位小数)。但 数值的大小取决于每一位的实际值,而非小数点后的位数。例如:

  • 1.9 = 1.90 = 1.900(数值相同),而 1.11 的十分位只有 1,明显小于 9

结论:

1.9 > 1.11,因为它的十分位数字更大。

total duration:       29.450194804s
load duration:        13.515248ms
prompt eval count:    353 token(s)
prompt eval duration: 42ms
prompt eval rate:     8404.76 tokens/s
eval count:           801 token(s)
eval duration:        29.381s
eval rate:            27.26 tokens/s

参考资料

  1. https://cnb.cool/Anyexyz/QwQ

  2. https://cnb.cool/examples/ecosystem/deepseek

  3. https://ollama.com/library/qwq/tags

  4. https://qwenlm.github.io/zh/blog/qwq-32b/


Comment