跳到正文

推理模型

国际

推理模型的成本战:价格为什么还在降

推理模型刚出现时,一次复杂任务的成本让很多团队望而却步。现在同样的任务,成本已经降到可以日常使用的水平。降价的三个来源 图解:降价的三个来源 一是推理框架优化:批处理、KV 缓存复用、投机解码,把单位 token 的算力压下来;二是模型结构优化:更高效的注意力机制和稀疏激活;三是算力供给增加,单位 GPU 小时的价格在降。对使用者的意义 图解:对使用者的意义 以前「要不要开推理模式」是个成本问题,现在更多是效果问题。该开就开,不必为了省钱让模型硬答。别忽略的隐性成本推理模型输出更长,同样的任务消耗的 token 更多。按 token 计费时,单价降了但总量涨了,实际支出未必同比例下降。一个观察价格战最终会停在「够用就好」的水平。真正的差异会回到效果、稳定性和工具链,而不是每百万 token 差几毛钱。

AI教程

深度思考模式怎么用:什么时候开,怎么读它的推理过程

DeepSeek 的推理模式(R1 系列)会在回答前先展开一段思考过程。很多人开了之后觉得「慢又啰嗦」,其实是任务不匹配。什么时候该开 图解:什么时候该开 数学计算、逻辑推理、条件判断代码调试:它能顺着执行路径推多约束的规划问题(排班、路线、预算分配)需要「先想清楚再回答」的分析题什么时候别开 图解:什么时候别开 写文案、写邮件:创意任务不需要推导翻译、润色:直接给结果更快简单问答:开了只是多等十几秒怎么读它的思考过程思维链的价值不在于「看它想什么」,而在于发现它在哪里走错。常见三种错误:前提读错:把你说的条件理解反了中途跳步:结论对不上过程自我怀疑后又改回去:说明它不确定看到第二种和第三种,就要追问:你第三步到第四步之间跳过了什么?请补上推导。一个实用技巧:让它先列假设在回答前,先列出你需要的假设。如果假设不成立,请指出来并停下来问我。这能避免它在错误前提上一路推到底。别迷信「思考得久」思考长度和正确率不是正相关。有些题它想了两百字就答对,有些想了两千字还是在原地打转。判断标准永远是:结论能不能被验证。