【译】告知您的模型何时需要进行深度思考

并非每个问题都值得投入同等程度的思考。重命名一个变量与调试内存泄漏并不一样二者也不需要同等层级的思考。那么您的模型为何每次都要以相同方式对待它们呢从 Visual Studio 18.9 Insiders 2 开始就无需如此了。受支持的模型现已具备思考强度控制功能遇到真正棘手的问题时您可以调高思考强度问题难度不高时则可以调低该参数。这是一个小巧但收效显著的调节选项能够获得更贴合需求的回答同时您可以更好控制获取回答所消耗的额度。旋钮而非开关思考强度顾名思义就是模型在给出答案前进行推理的程度。它表现为一系列已命名的等级而您所能获得的等级取决于所用的模型。以下是各个等级的用途- Low—— 响应速度快推理过程极简。适合简单直白的问题与日常代码建议同时消耗的 AI 额度更少。- Medium—— 推理能力与响应速度均衡通常为默认设置非常适合常规编码任务。- High—— 针对复杂问题进行深度推理。当您面对棘手的算法、架构选型或是难以解决的程序缺陷时可以选用该模式。- Extra High 和 Max—— 部分模型所能提供的最强推理能力适用于最棘手的问题可让模型竭尽所能输出全部思考。所显示的层级取决于您选择的模型因此您看到的列表是针对该模型实际支持的内容定制的。部分模型完全不会提供思考控制选项这也属于正常情况这类模型会显示一个破折号并按照原有方式继续运行。把它放置到您日常工作的地方设置操作十分快捷。打开模型选择器点击 Manage models 调出扩展模型管理窗口即可在该窗口内调整各个模型的思考等级。从管理视角来看思考强度拥有独立一栏与各模型的能力、上下文窗口大小以及成本并列。因此您原本用来对比模型的位置现在也可以调整模型的思考强度。选择一个模型快速浏览其能力与成本同时设定模型的思考投入程度全部操作一次即可完成。在关键用途上消耗您的额度这就是一整天累积消耗的关键所在。更高的思考等级会进行更多推理进而消耗更多额度。更低的思考强度消耗的额度则更少。当您将思考强度等级与任务相匹配时面对浅推理类问题就不会消耗超出实际所需的额度。这意味着在一次普通会话中遇到大量细碎的小请求时您可以将模型维持在低档位遇到真正需要强算力的难题时再将其切换至高档位。使用同一个模型、同一段对话每次都匹配恰到好处的思考强度。您的使用额度可以发挥更大效用并且由您来决定算力资源的分配方向。试一试思考强度是一项隐性功能它会改变日常使用体验简单问题无需过多等待疑难问题则可实现更深层次的处理。该功能位于模型管理界面而该界面的功能远不止这一项设置。如需完整了解可参阅之前文章。请在 Visual Studio 18.9 Insiders 2 或更高版本中试用并告诉我们您的使用感受。更多内容即将推出原文链接https://devblogs.microsoft.com/visualstudio/tell-your-model-when-to-think-harder/