0:56 Ada-MK · MegaKernel + TensorRT-LLM 异构拼接引擎 · Baidu 广告系统生产部署 · +50.2% vs vLLM / +23.6% vs TensorRT-LLM · 三维共享内存约束 + MLIR DAG 离线搜索 + Decode/Prefill 异构混合推理 2026-07-08 20:45
0:56 vLLM × MooncakeStoreConnector · agentic workload 分布式 KV 池复用 · 3.8× 吞吐 + 46× TTFT 降低 + 8.6× E2E 延迟降低 + 60 GB200 近线性扩展 2026-07-07 20:45
0:56 AI 辅助编程真实成本 · Simon Willison 用 Claude Fable 5 写 sqlite-utils 4.0rc2 · $149.25 / 50+ 文件上下文瓶颈 / 工具链版本同步问题 2026-07-07 14:45
0:56 NVIDIA KV cache 压缩的两大基础设施冲突 · TriAttention 几何表征是 2026 推理系统工程突破口 · MIT + NVIDIA + Zhejiang University · ICML 2026 2026-07-02 14:51