分类: AI Agent
AI Agent 框架、workflow、function calling、MCP 协议
从提示工程到上下文工程:生产级 LLM 应用的实用指南
提示工程是一句话,上下文工程是产出这句话的整条流水线。本文拆解上下文工程四大支柱——指令、检索、记忆、工具,讲清如何在生产中构建扛得住的上下文流水线。
Push 胜过 Pull:vLLM 推送式 KV 传输让首 token 时延最多降 3 倍
vLLM 新增 push 式 NIXL KV 传输连接器:decode 端预注册目标块,prefill 端算完提示词后通过后台线程直接推送 KV,把拉取路径上的串行协调与设置移出首 token 关键路径。Qwen3-32B 1P1D 部署实测,高并发长提示下 TTFT 最多改善 3 倍,TPOT 提升约 30%。
微软 Agent Framework 全面解析:从原型到生产的 AI Agent 开发框架
微软 Agent Framework(MAF)是一款开源、生产级的多语言 AI Agent 开发框架,支持 Python、.NET、Go 三语言,覆盖从单 Agent 构建到多 Agent 编排、工作流图模式、AG-UI 交互层、Foundry 部署与弹性执行的完整链路,GitHub 14.1k Stars,生态成熟。





