SemiAnalysis：Kimi K3 降低 KV 传输带宽，AI 网络需求不减

SemiAnalysis 表示，Kimi K3 采用 KDA 技术将 KV 缓存传输带宽降低最多 10 倍，但 AI 网络需求不会收缩。Kimi K3 拥有 2.8 万亿参数，每次前向计算需约 1.5TB HBM 带宽，仍需通过 GB300 NVL72 等高带宽网络连接芯片。WideEP 将 896 个专家模型分散至多个 GPU，单次前向计算需执行 120 次以上，大规模专家模型带来的扩展网络需求超过 KDA 节省的带宽。更高效的注意力机制可能推动上下文长度从 100 万 Token 提升至 500 万 Token 以上，效率提升将扩大 AI 使用规模并增加网络需求。