vLLM vs TensorRT-LLM vs SGLang：2026年推理引擎H100实测对比
在H100 80GB上对比vLLM、TensorRT-LLM和SGLang三大推理引擎：TensorRT-LLM吞吐量领先13%但需28分钟编译；vLLM支持最广冷启动最快；SGLang的RadixAttention在共享前缀场景下有独特优势。选型建议按prefix overlap比例决策。
按月归档： 10 月 2026
MCP 2026-07-28 规范发布：转向无状态协议核心，MRTR 替代长连接流
MCP 发布 2026-07-28 新规范，核心从双向有状态转为无状态协议，支持 MRTR 多轮往返请求、Header 路由、可缓存列表结果，并强化授权安全。TypeScript/Python/Go/C# 四大 SDK 均已同步支持。
Dify 开源 LLM 应用平台：139K stars 的可视化 Agent 工厂深度体验
Dify（langgenius/dify，139K stars，Apache 2.0）让产品经理也能搭生产级 AI 应用：可视化拖拽 Agent workflow、内置 RAG、100+ LLM providers、生产可观测性。本文详解 6 大特性 + vs LangChain 取舍 + 自部署实战。
AirLLM 实战：70B 大模型在 4GB 消费卡上跑起来，22K stars 的开源神器
AirLLM（lyogavin/airllm，22K stars，Apache 2.0）通过单层流式加载，让 Kimi K3（2.8 万亿参数！）也能在 4GB 消费级 GPU 上跑。支持训练（Qwen3.8-Flash-Next 125B 在 6GB VRAM 微调）。本文详解核心机制 + 6 个消费卡可跑模型 + vs llama.cpp 取舍。
HTMX vs React 2026：14KB 挑战 184KB，超媒体思想回归
2026 年前端圈 React 仍占 83.6% 但满意度下滑，14KB 的 htmx 用 HTML 属性挑战 200KB+ 的 React 工具链。Daily.dev 实测：做 OTP 倒计时按钮，React 3 天 vs HTMX 3 小时。本文详解 HTMX 是什么、bundle 差距、Core Web Vitals 表现、适用场景。
Python 3.15 正式发布：JIT 编译器升级、lazy imports 落地，12 个必知新特性
Python 3.15 2026 年 10 月 9 日发布：JIT 编译器性能提升 7-12%、PEP 810 lazy imports 加速启动、frozendict/sentinel 成内建类型、UTF-8 默认编码、Tachyon 采样 profiler。本文详解 12 个必知新特性 + 实操建议。
Speculative Decoding 深度解析：小模型猜 + 大模型验，零损失 3× 加速
Speculative Decoding 是 2026 年 LLM 推理服务的核心加速技术：用小模型先猜 4 个 token，大模型一次并行验证，接受率 ~50% 时单步生成 3 个 token，输出质量零损失（数学证明等价于原始大模型采样）。和 PagedAttention 叠加可让 Llama 70B 服务吞吐提升 8-14×。
PagedAttention 深度解析：vLLM 连续批处理与显存分页的工程奇迹
vLLM 凭什么一张 24GB 显卡顶住 30+ 路并发？靠 PagedAttention 把 OS 虚拟内存思想搬进 GPU，KV cache 从连续大块变可分散小块；连续批处理把 GPU 利用率从 30% 拉到 80%+。本文扒 vLLM 官方博客 + SOSP 论文讲清双引擎原理 + 实测性能。
LLM 量化技术速览：从 INT4 到 NVFP4，你的模型到底瘦了几圈
70B 模型从 BF16 的 140GB 一路压到 INT4 的 35GB，2026 年的 LLM 量化已让消费硬件跑得起千亿参数。本篇横向对比 GGUF、GPTQ、AWQ、NVFP4 四大路径，给出聊天/代码/长文档/企业部署四种场景的选型建议，看懂「量化不是免费午餐」这件事。
2026 主流 LLM 推理引擎横评：vLLM / llama.cpp / TensorRT-LLM / NInfer 怎么选
2026 推理引擎百花齐放，vLLM / llama.cpp / TensorRT-LLM / NInfer 各自站位不同。本篇用同一台 4×H100 + Llama-3.3 70B FP8 把四条赛道横向对比：吞吐、TTFT、上下文、硬件覆盖、部署难度、冷启动，再给出四个具体场景的选型建议，10 分钟内帮你挑到合适的引擎。
