跳转到内容
主站 新闻 控制台

llm 0.33

· Simon Willison
技巧LLM

发布: llm 0.33

我对本次发布的一些亮点总结:

  • 升级至 OpenAI Python 库 3.x,并将 HTTP 客户端依赖从 httpx 切换为 httpx2#1608, #1631

我昨天发布了一个快速的 0.32.1 修复版本 来解决这个问题,但这次是更全面的修复。

  • llm embedllm embed-multi 现在支持 --key。Python 的 EmbeddingModel.embed()EmbeddingModel.embed_multi()Collection.embed()Collection.embed_multi() 方法也支持 key= 参数,将解析后的单次调用密钥传递给嵌入插件(embedding plugins),而不会改变共享的模型状态。现有的读取 self.key 的插件通过兼容性回退机制仍可继续工作。感谢 ChrisJr404#757, #1620

嵌入模型(embedding models)现在使用与常规大语言模型(LLM models)相同的密钥模式。

  • llm prompt -t/--template 现在可以重复使用,以按顺序组合模板。这允许将一个模板中的模型配置和选项与另一个模板中的提示词(prompt)结合使用。

这开启了一种巧妙的模式,你可以创建将模型与一组默认选项打包在一起的模板:

llm -m gpt-5.6-luna -o reasoning_effort high --save lhigh
llm "Generate an SVG of a pelican riding a bicycle" --save pelican
# Combine and run the templates
llm -t lhigh -t pelican
  • 具备推理能力的 Responses API 模型现在支持 reasoning_summary 选项,其值可为 autoconcisedetailed。这可以与 llm openai endpoint —responses 结合使用。#1600

这对于测试那些提供自己模仿 OpenAI Responses API 的不同模型特别有用。