发布: llm 0.33
我对本次发布的一些亮点总结:
我昨天发布了一个快速的 0.32.1 修复版本 来解决这个问题,但这次是更全面的修复。
llm embed和llm embed-multi现在支持--key。Python 的EmbeddingModel.embed()、EmbeddingModel.embed_multi()、Collection.embed()和Collection.embed_multi()方法也支持key=参数,将解析后的单次调用密钥传递给嵌入插件(embedding plugins),而不会改变共享的模型状态。现有的读取self.key的插件通过兼容性回退机制仍可继续工作。感谢 ChrisJr404。#757, #1620
嵌入模型(embedding models)现在使用与常规大语言模型(LLM models)相同的密钥模式。
llm prompt -t/--template现在可以重复使用,以按顺序组合模板。这允许将一个模板中的模型配置和选项与另一个模板中的提示词(prompt)结合使用。
这开启了一种巧妙的模式,你可以创建将模型与一组默认选项打包在一起的模板:
llm -m gpt-5.6-luna -o reasoning_effort high --save lhighllm "Generate an SVG of a pelican riding a bicycle" --save pelican# Combine and run the templatesllm -t lhigh -t pelican
- 具备推理能力的 Responses API 模型现在支持
reasoning_summary选项,其值可为auto、concise和detailed。这可以与 llm openai endpoint —responses 结合使用。#1600
这对于测试那些提供自己模仿 OpenAI Responses API 的不同模型特别有用。