工具概览：LangGraph、向量数据库与 LLM API

本课介绍训练营将使用的主要工具和框架。熟悉这些工具，有助于提高 AI 工程项目的开发效率和工作成效。

智能体工作流与多智能体系统

• LangGraph：用于编排智能体工作流的框架。GitHub 仓库
• ADK：功能强大的多智能体系统编排工具。项目文档

提示词优化与输出管理

• Instructor：用于处理结构化输出的 Python 库。官方网站

数据存储与检索

• Qdrant：高性能向量数据库。官方网站

API 管理与安全防护

• LiteLLM：统一的 LLM API 路由与代理工具，提供安全防护和备用调用能力。官方网站
• GuardrailsAI：为 LLM 的输入和输出提供安全防护。GitHub 仓库

可观测性与评估

• LangSmith：提供 LLM 可观测性与评估的平台。官方网站

用户界面原型开发

• Streamlit：用于快速开发用户界面的 Python 库。官方网站

智能体通信协议

• MCP：Anthropic 为智能体应用开发的上下文检索标准。
• A2A：Google 提出的跨智能体通信协议，支持智能体互联网（Internet of Agents，IoA）。

基础设施与部署

• Docker：用于保持部署一致性的容器化平台。官方网站
• Docker Compose：用于定义和运行多容器 Docker 应用的工具。使用文档
• Kubernetes：容器编排平台。官方网站

AWS 服务

• EKS（Elastic Kubernetes Service）：AWS 提供的托管 Kubernetes 服务。
• ECR（Elastic Container Registry）：AWS 提供的托管容器镜像仓库服务。

版本控制与 CI/CD

• GitHub 和 GitHub Actions：代码仓库托管与持续集成、持续部署平台。GitHub

LLM API

• OpenAI：OpenAI Platform
• Google：Google AI
• Groq：Groq Console

接下来的安排

如果你已经熟悉其中一些工具，可以利用已有经验开展学习。尚未接触这些工具也没有关系，训练营会逐一详细介绍。本周请完成开发环境配置（第 5 课）和 LLM API 密钥配置（第 6 课）。

智能体 AI 基础设施的整体结构

为了理解各个工具的作用，可以参考“企业级智能体 AI 需求层次”框架。我最近在新闻通讯中介绍了这一框架，用来说明生产级智能体系统需要哪些基础设施，以及这些设施的层次关系。

图 1 · AI应用工具层次与发展阶段

查看完整图下载 SVG下载 SVG

为什么优先建设可观测性与评估能力

在企业环境中，LLM 调用链的不确定性可能造成系统故障，且问题难以及时察觉。优先建立运行信息采集、提示词版本管理和评估能力，可以在扩大规模或引入复杂编排之前，形成监测与反馈循环。

安全、记忆与通信

当系统逐步达到正式可用（GA）的要求时，需要加入安全防护能力（GuardrailsAI、LiteLLM），并建立结构化记忆与协议层，例如使用 Instructor 处理结构化输出，以及采用 MCP、A2A 标准。这些能力是企业级系统的重要基础。

更多内容参见 SwirlAI 新闻通讯：Enterprise Agentic AI Hierarchy of Needs。