阿里AI原生应用架构白皮书

阿里AI原生应用架构白皮书

快速过了一遍,内容比较全面,不不全是自己的私货。

Outline #

1. AI 原生应用及其架构 #

  • 1.1 大模型技术发展回顾和产业价值 ··· 025
  • 1.2 AI 时代应用架构的演进 ··· 027
  • 1.3 AI 原生应用及其架构的定义 ··· 029
  • 1.4 AI 原生应用架构成熟度 ··· 032

2. AI 原生应用的关键要素 #

  • 2.1 模型 ··· 039
  • 2.2 框架 ··· 041
  • 2.3 提示词 ··· 046
  • 2.4 RAG ··· 048
  • 2.5 记忆 ··· 051
  • 2.6 工具 ··· 054
  • 2.7 网关 ··· 057
  • 2.8 运行时 ··· 060
  • 2.9 可观测 ··· 062
  • 2.10 评估 ··· 063
  • 2.11 安全 ··· 066

3. AI 应用开发框架 #

  • 3.1 智能体的定义与主流开发范式 ··· 071
  • 3.2 开发一个简单的智能体 ··· 076
  • 3.3 工作流与多智能体 ··· 080
  • 3.4 从单进程到分布式部署 ··· 089
  • 3.5 消息驱动的智能体开发模式 ··· 101
  • 3.6 基于统一元数据的 AI 协同开发模式 ··· 105

4. AI 上下文工程 #

  • 4.1 提示词工程 ··· 109
  • 4.2 上下文工程 ··· 112
  • 4.3 RAG 技术原理与挑战 ··· 114
  • 4.4 RAG 系统优化实践:索引构建 ··· 117
  • 4.5 RAG 系统优化实践:检索流程 ··· 120
  • 4.6 RAG 的未来方向 ··· 124
  • 4.7 上下文管理与记忆系统 ··· 127

5. AI 工具 #

  • 5.1 AI 工具简介 ··· 133
  • 5.2 AI 工具标准化 ··· 137
  • 5.3 MCP 实践 ··· 149

6. AI 网关 #

  • 6.1 网关的演进历程 ··· 159
  • 6.2 AI 网关的定义、特点与应用场景 ··· 165
  • 6.3 AI 网关的核心能力和最佳实践 ··· 169
  • 6.4 使用 AI 网关快速构建 AI 应用 ··· 178
  • 6.5 API 和 Agent 的货币化 ··· 197

7. AI 应用运行时 #

  • 7.1 AI 应用运行时的演进趋势 ··· 205
  • 7.2 模型运行时 ··· 209
  • 7.3 智能体运行时 ··· 212
  • 7.4 工具与云沙箱 ··· 216
  • 7.5 AI 应用运行时的降本路线 ··· 221

8. AI 可观测 #

  • 8.1 AI 可观测的挑战与应对方案 ··· 227
  • 8.2 端到端全链路追踪 ··· 229
  • 8.3 全栈可观测:应用可观测 ··· 235
  • 8.4 全栈可观测:AI 网关可观测 ··· 245
  • 8.5 全栈可观测:推理引擎可观测 ··· 251

9. AI 评估 #

  • 9.1 基于评估降低 AI 应用的不确定性 ··· 259
  • 9.2 AI 评估体系 ··· 261
  • 9.3 基于 LLM 的自动化评估 ··· 265
  • 9.4 自动化评估落地实践 ··· 270

10. AI 安全 #

  • 10.1 AI 安全风险的来源和分类 ··· 281
  • 10.2 保护应用安全 ··· 283
  • 10.3 保护模型安全 ··· 285
  • 10.4 保护数据安全 ··· 288
  • 10.5 保护身份安全 ··· 295
  • 10.6 保护系统和网络安全 ··· 299

11. 通向 ASI 之路 #

  • 11.1 通向 ASI 之路 ··· 305