跳转到内容
主站 新闻 控制台

推理工程大师班 — Philip Kiely

· Latent Space
播客深度访谈

我们去年在 DeepSeek 热度达到巅峰时首次报道了 Baseten。如今,他们已经完成了高达 130 亿美元的巨额融资,并成为新一批 AI 基础设施超级独角兽(AI Infra decacorns)之一。与英伟达(Nvidia)、英特尔(Intel)以及半导体综合体一样,它们是推理拐点(Inference Inflection)的最大受益者。

我们在 2026 年开源权重辩论(Open Weights debate)达到顶峰之际,再次将目光投向 Baseten。Ali 发布了一篇关于 Kimi K3 的病毒式拆解分析:

ali (@waterloo_intern) 我花了 48 小时研究 Kimi K3 的模型代码。

这消耗了:

  • 650 毫克咖啡因(必须的)
  • 40 罐 LaCroix 气泡水(可选的……世界纪录(?))
  • 8 篇论文
  • 缩短了 6 个月的寿命

终于彻底搞懂了 Kimi K3 的整个演进脉络以及我们是如何走到这一步的……自那以后的每一步

自从你上次见到他以来,Philip 已经在 AI Engineer 大会上发表了演讲,并撰写了在旧金山随处可见的《推理工程权威指南》(definitive book on Inference Engineering)

Image

三年前,推理工程(inference engineering)作为一个类别几乎还不存在。

如今,它是 AI 领域最关键的学科之一。推理工程本质上解决的是一个与标准模型训练完全不同的问题:“如何将训练得到的权重转化为一个在大规模应用下依然快速、可靠且成本可控的产品?” 专注于这些问题创造了一个全新的优化难题。