快速过了一遍,内容比较全面,不不全是自己的私货。
Outline #
1. AI 原生应用及其架构 #
- 1.1 大模型技术发展回顾和产业价值 ··· 025
- 1.2 AI 时代应用架构的演进 ··· 027
- 1.3 AI 原生应用及其架构的定义 ··· 029
- 1.4 AI 原生应用架构成熟度 ··· 032
2. AI 原生应用的关键要素 #
- 2.1 模型 ··· 039
- 2.2 框架 ··· 041
- 2.3 提示词 ··· 046
- 2.4 RAG ··· 048
- 2.5 记忆 ··· 051
- 2.6 工具 ··· 054
- 2.7 网关 ··· 057
- 2.8 运行时 ··· 060
- 2.9 可观测 ··· 062
- 2.10 评估 ··· 063
- 2.11 安全 ··· 066
3. AI 应用开发框架 #
- 3.1 智能体的定义与主流开发范式 ··· 071
- 3.2 开发一个简单的智能体 ··· 076
- 3.3 工作流与多智能体 ··· 080
- 3.4 从单进程到分布式部署 ··· 089
- 3.5 消息驱动的智能体开发模式 ··· 101
- 3.6 基于统一元数据的 AI 协同开发模式 ··· 105
4. AI 上下文工程 #
- 4.1 提示词工程 ··· 109
- 4.2 上下文工程 ··· 112
- 4.3 RAG 技术原理与挑战 ··· 114
- 4.4 RAG 系统优化实践:索引构建 ··· 117
- 4.5 RAG 系统优化实践:检索流程 ··· 120
- 4.6 RAG 的未来方向 ··· 124
- 4.7 上下文管理与记忆系统 ··· 127
5. AI 工具 #
- 5.1 AI 工具简介 ··· 133
- 5.2 AI 工具标准化 ··· 137
- 5.3 MCP 实践 ··· 149
6. AI 网关 #
- 6.1 网关的演进历程 ··· 159
- 6.2 AI 网关的定义、特点与应用场景 ··· 165
- 6.3 AI 网关的核心能力和最佳实践 ··· 169
- 6.4 使用 AI 网关快速构建 AI 应用 ··· 178
- 6.5 API 和 Agent 的货币化 ··· 197
7. AI 应用运行时 #
- 7.1 AI 应用运行时的演进趋势 ··· 205
- 7.2 模型运行时 ··· 209
- 7.3 智能体运行时 ··· 212
- 7.4 工具与云沙箱 ··· 216
- 7.5 AI 应用运行时的降本路线 ··· 221
8. AI 可观测 #
- 8.1 AI 可观测的挑战与应对方案 ··· 227
- 8.2 端到端全链路追踪 ··· 229
- 8.3 全栈可观测:应用可观测 ··· 235
- 8.4 全栈可观测:AI 网关可观测 ··· 245
- 8.5 全栈可观测:推理引擎可观测 ··· 251
9. AI 评估 #
- 9.1 基于评估降低 AI 应用的不确定性 ··· 259
- 9.2 AI 评估体系 ··· 261
- 9.3 基于 LLM 的自动化评估 ··· 265
- 9.4 自动化评估落地实践 ··· 270
10. AI 安全 #
- 10.1 AI 安全风险的来源和分类 ··· 281
- 10.2 保护应用安全 ··· 283
- 10.3 保护模型安全 ··· 285
- 10.4 保护数据安全 ··· 288
- 10.5 保护身份安全 ··· 295
- 10.6 保护系统和网络安全 ··· 299
11. 通向 ASI 之路 #
- 11.1 通向 ASI 之路 ··· 305