关于关闭内部请求think模式的疑问

[DefTruth]

@Vizards 我关注到PR #137 关闭了同一个session中helper requests的思考模式，想请教一下这样做的原因是什么？我比较担心这个修改会对DSv4的效果有影响，如果大量的helper请求都不开think，那么如何确保模型的效果不退化。是否把这个功能做成可配置的更合适？

[Vizards]

Good question.

本次更新周期拖延也是因为我还在测试这些关闭 thinking 的入口是否能较好地完成任务，以决定最终关闭名单。
动机：希望能够使用 non-thinking 来提升小任务的完成速度、降低用户的 token 成本.
限制：copilot 并不能配置某些 helper 模型的 thinking mode. 它提供的设置粒度太粗，导致很多小任务也在使用 high thinking, 增加了token 消耗，拖慢了速度

我整理了大部分能够从源代码识别的“小任务”：

建议 kind	高置信信号	源码入口	thinking effort 建议
todo-tracker	只有 manage_todo_list 工具；或首段 You are a background task tracker... / final review 变体	extensions/copilot/src/extension/prompts/node/agent/backgroundTodoPrompt.tsx、backgroundTodoProcessor.ts	固定 none；后台 bookkeeping，短输出，质量风险低
prompt-categorizer	工具 categorize_prompt；首段 You are an expert classifier for AI coding assistant prompts...	extensions/copilot/src/extension/prompt/node/promptCategorizer.ts、prompts/node/panel/promptCategorization.tsx	固定 none；分类输出空间小，速度影响路由体验
settings-resolver	首段 You are a Visual Studio Code assistant...returning settings...	extensions/copilot/src/extension/prompts/node/settingsEditor/settingsEditorSuggestQueryPrompt.tsx	固定 none；窄任务、结构化匹配、速度优先
chat-title	首段 You are an expert in crafting ultra-compact titles...；兼容 1.116/1.117 的 You are an expert in crafting pithy titles...	extensions/copilot/src/extension/prompt/node/title.ts	固定 none；短标题、可重算、不影响主链路
inline-progress-message	首段 You are an expert in writing short, catchy, and encouraging progress messages...	extensions/copilot/src/extension/inlineChat2/node/progressMessagesPrompt.tsx	固定 none；即时反馈文案，速度价值高
git-branch-name	首段 You are an expert in crafting pithy branch names...	extensions/copilot/src/extension/prompts/node/panel/gitBranch.tsx	固定 none；短命名，可编辑，低风险
conversation-summary	首段要求生成 comprehensive summary，或要求输出 <summary>...</summary>	extensions/copilot/src/extension/prompt/node/summarizer.ts、prompts/node/agent/summarizedConversationHistory.tsx	不覆盖；summary 会影响后续 agent 上下文
git-commit-message	首段 You are an AI programming assistant...best git commit message...	extensions/copilot/src/extension/prompts/node/git/gitCommitMessagePrompt.tsx	固定 none；用户触发后希望快，且提交信息可编辑
github-pr-title-description	首段 You are an AI assistant for a software developer who is about to make a pull request...	extensions/copilot/src/extension/prompts/node/github/pullRequestDescriptionPrompt.tsx	不覆盖；用户可见
intent-detection	prompt 要求从 available functions / Markdown category table 里选一个 category	extensions/copilot/src/extension/prompt/node/intentDetector.tsx	不覆盖；错分会导致后续路由错误
search-panel-ranking	首段 expert knowledge of the codebase...find the relevant piece of code...grep...	extensions/copilot/src/extension/prompts/node/panel/searchPanelPrompt.tsx	不覆盖；影响搜索结果
search-keywords	首段要求从相关 symbols 中找搜索关键词	extensions/copilot/src/extension/prompts/node/panel/searchPanelKeywordsPrompt.tsx	不覆盖；影响搜索召回
codebase-tool-loop	CodebaseToolCallingLoop.ID = codebaseTool；prompt 为 codebase agent，工具带 vscode_codesearch 标签	extensions/copilot/src/extension/prompt/node/codebaseToolCalling.ts	不覆盖；是真正工具 loop
mcp-setup-loop	MCP server setup prompt；工具为 quick input / quick pick	extensions/copilot/src/extension/mcp/vscode-node/mcpToolCallingLoop.tsx、mcpToolCallingLoopPrompt.tsx	不覆盖；会生成配置并可能询问用户
apply-patch-heal	首段 You are an expert in file editing...patch that failed to apply...	extensions/copilot/src/extension/tools/node/applyPatchTool.tsx	不覆盖；影响代码编辑正确性
string-replace-heal	debugName: healStringReplace；system 为 You are an expert at analyzing files and patterns.，user prompt 包含 string escaping / edit correction	extensions/copilot/src/extension/tools/node/editFileHealing.tsx	不覆盖；影响代码编辑正确性
terminal-quick-fix	首段 You are a programmer who specializes in using the command line...fix a command...	extensions/copilot/src/extension/prompts/node/panel/terminalQuickFix.tsx	不覆盖；用户会直接看到命令建议
terminal-steering	最新 user 文本匹配 \[Terminal ... notification:	terminal notification 路径	不覆盖；不要只因“后台”降级
start-debugging	首段 specializes in debugging and creating launch configurations...；子请求包括 debug type、reference files、最终 launch config	extensions/copilot/src/extension/prompts/node/panel/startDebugging.tsx	不覆盖；影响 launch.json / tasks.json
devcontainer-config	首段 helping a software developer to configure a Dev Container...	extensions/copilot/src/extension/prompts/node/devcontainer/devContainerConfigPrompt.tsx	不覆盖；用户可见配置
rename-suggestions	首段 You are a distinguished software engineer...JSON array of strings...	extensions/copilot/src/extension/renameSuggestions/node/renameSuggestionsPrompt.tsx	固定 none；候选建议型输出，用户可选可改
test-query-parser	首段 parses user queries...generate tests...JSON object...	extensions/copilot/src/extension/intents/node/testIntent/userQueryParser.tsx	不覆盖；影响后续测试生成上下文
setup-tests	首段 expert knowledge around software testing frameworks...；子请求 setupTestDeriveName	extensions/copilot/src/extension/intents/node/testIntent/setupTestsInvocation.tsx	不覆盖；影响测试 scaffold
workspace-mutation	首段 generate the project specification... 或 generate or edit a file...	extensions/copilot/src/extension/testing/node/setupTestsFileManager.tsx	不覆盖；会生成文件内容
new-workspace	首段 generate the contents of a file... / generate the project specification...	extensions/copilot/src/extension/intents/node/generateNewWorkspaceContent.ts、prompts/node/panel/newWorkspace/newWorkspaceContents.tsx	不覆盖；会生成项目文件
test-evaluation	首段 You are a world class examiner...PASS/FAIL...	extensions/copilot/src/extension/testing/node/aiEvaluationService.tsx	不覆盖；作为测试工作流判断器
fetch-tool-args	forced single tool_choice 生成工具参数；当前 request classifier 未读取 tool_choice 时只能依赖工具列表和 prompt	extensions/copilot/src/extension/prompts/node/panel/chatVariables.tsx	不覆盖；参数错会导致工具调用错
language-tools	首段 specialized for usage of command-line tools developers use to build software...	extensions/copilot/src/extension/onboardDebug/node/languageToolsProvider.tsx	不覆盖；影响 debug/onboard 推荐
feedback-generator	code review / feedback prompt	extensions/copilot/src/extension/prompt/node/feedbackGenerator.ts	不覆盖；用户可见 review

然后从这个表里根据速度要求和风险影响筛出了如下几个关闭 thinking 影响相对可控的类型：

kind	可能影响	风险判断
chat-title	标题没那么准/没那么好看	很低，可接受
inline-progress-message	进度文案普通一点	很低，可接受
git-branch-name	分支名不够贴切	低，用户可改
git-commit-message	commit message 不够准	低到中，用户提交前可改
rename-suggestions	重命名建议质量下降	低到中，用户可选可拒绝
todo-tracker	todo 状态可能漏更或误更	中，但不直接改代码
prompt-categorizer	prompt 分类错误，影响后续路由	中，需要观察
settings-resolver	settings 匹配不准	中，但输出空间小

另一个背景是：在 github copilot 订阅计划中，在 6月份 Copilot 决定让 GPT-4.1 退役之前，默认负责这些工作的常常是 GPT-4.1（动态路由策略）

如果你愿意 clone 代码做测试，欢迎提出意见，我们仍然可以再次缩窄/拓宽这个名单

[Vizards]

同步一下 #153
经过几天的测试，我将 thinking_effort 为 none 的白名单路由限制到了仅官方 deepseek api 生效。原因是：

1. 我发现一些第三方服务商对 none 的支持不好，有些有自己特殊的关闭 thinking 的参数要求
2. 我对这几个白名单路由做的效果测试只基于deepseek 官方 API，没有测第三方 API Provider. 为了不把影响面扩大，首个版本我选择保守一点

[DefTruth]

同步一下 #153 经过几天的测试，我将 thinking_effort 为 none 的白名单路由限制到了仅官方 deepseek api 生效。原因是：

1. 我发现一些第三方服务商对 none 的支持不好，有些有自己特殊的关闭 thinking 的参数要求
2. 我对这几个白名单路由做的效果测试只基于deepseek 官方 API，没有测第三方 API Provider. 为了不把影响面扩大，首个版本我选择保守一点

这个功能是否可以做成插件可配置？默认可以是True，但是允许用户关闭这个功能

[Vizards]

同步一下 #153 经过几天的测试，我将 thinking_effort 为 none 的白名单路由限制到了仅官方 deepseek api 生效。原因是：

1. 我发现一些第三方服务商对 none 的支持不好，有些有自己特殊的关闭 thinking 的参数要求
2. 我对这几个白名单路由做的效果测试只基于deepseek 官方 API，没有测第三方 API Provider. 为了不把影响面扩大，首个版本我选择保守一点

这个功能是否可以做成插件可配置？默认可以是True，但是允许用户关闭这个功能

我倾向于先跑一跑看看，因为最理想的实现方式是插件侧不关心这些设置调度，copilot 让模型只能把 utility 请求路由到属于同一个 Provider 内的其他模型或自己本身，vscode 1.125 已经要求插件上报自己是否是 BYOK 模型，如果 isBYOK 为 true，1.125 上的 subAgents 只会路由到模型自己，我猜测这可能是他们后续迭代的一个开始