11月12日,Anthropic为Claude API新增一项Beta功能,开发者可以在消息中调整effort,这意味着同一段对话不必始终沿用相同设置,开发者可根据后续任务需要,中途改变模型回答的努力程度。
effort可以理解为让Claude回答问题时投入多少功夫的档位,它帮助开发者在回答的充分程度、响应速度和使用成本之间做取舍。effort调整的不只是最后写多少字,还会影响模型在思考、调用工具和组织回答等环节的资源投入。
在操作方面,用户可以在消息序列中插入一条内容为空的system消息,并通过新的output_
网页链接设置目标等级,整个过程无需改动顶层配置,提示缓存仍可命中。该设置不会修改已经生成的内容,将从下一条带有新输入的用户消息起作用于后续回答,因此开发者需要留意调整消息的插入位置以及下一次用户输入出现的时点。在实际场景中,用户可以设置一段对话前半部分用于简单问答,后半部分转向复杂分析时,便可在任务切换处设置新的努力等级,而不必修改顶层配置。

来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。