实践环节

Hands-On Section

在 Notebook 中处理数据

  • 预处理 Amazon 商品数据集,为写入 Qdrant 做好准备。
  • 启动本地 Qdrant 数据库。
  • 将 Amazon 商品数据集写入 Qdrant 数据库。

在 Notebook 中实现简单的 RAG 流程

图 1 · RAG实战中的查询处理步骤
下载 SVG下载 SVG
RAG实战中的查询处理步骤
查询通过嵌入与检索获得上下文,再与查询一起形成提示,交给LLM生成回答。
  1. 将用户查询提交给嵌入模型,生成查询的向量表示。
  2. 使用查询向量进行 ANN 搜索,以余弦相似度检索向量空间中距离查询最近的文本块。
  3. 将检索上下文与用户查询填入提示词模板,生成完整提示词。
  4. 把提示词提交给 LLM 生成最终答案,再通过 Streamlit 应用返回给用户。

后端与前端

将 RAG 流程逻辑移入后端应用,并相应调整前端,使其能够与更新后的后端通信。

基础可观测性

为 RAG 流程实现基础可观测性能力。

创建合成评估数据集

创建用于 RAG 流程初始评估的合成数据集。

评估单个示例

使用 RAGAS 框架,对 LangSmith 数据集中的一个示例执行评估。

运行完整数据集评估

将 RAGAS 评估整理为独立脚本,对整个 LangSmith 数据集计算指标,并将结果保存在平台中。

搜索课程

正在加载课程目录…