新出现
Kimi 开源模型架构创新并开放 API 使用
Kimi 系列开源模型在注意力架构(线性注意力、LatentMoE)和推理效率上取得进展,并已通过 Telnyx API 提供 2.8T 参数模型。
独立开发者可直接评估和采用这些架构与 API,降低长上下文推理的 KV 缓存成本,并挑战线性注意力不如全注意力的既有认知。
- You Could Have Come Up With Kimi Delta Attention Lobsters #16
- Kimi K3 Architecture Overview and Notes Hacker News #19
- Kimi Linear: An Expressive, Efficient Attention Architecture Hacker News #21
- Kimi K3 Now Available via Telnyx Inference API Hacker News #23