当前位置: 首页 > news >正文

AI测试入门:基于 RAG 的 LLM 应用程序的测试方法「详细介绍」

AI测试入门:基于 RAG 的 LLM 应用程序的测试方法「详细介绍」

  • 1. RAG 架构
  • 2. 检索器和生成器的作用
  • 3. RAG 的评估指标
    • 3.1 检索器指标:答案相关性(Answer Relevancy)
    • 3.2 检索器指标:忠诚度(Faithfulness)
    • 3.3 检索器指标:上下文召回(Contextual Recall)
    • 3.4 检索器指标:上下文精度(Contextual Precision)
  • 4. 测试方法

1. RAG 架构

一个典型的 RAG 架构包括一个检索器(对知识库进行矢量搜索检索上下文的组件)和一个生成器(从检索器中获取检索上下文以构建提示并生成自定义 LLM 响应作为最终输出的组件)。在大多数情况下, “知识库” 由存储在向量数据库(如 ChromaDB)中的向量嵌入组成。

在这里插入图片描述
RAG 架构的示意图说明如下

1.检索器在运行时,首先嵌入给定的输入
2.搜索包含数据的向量空间以找到前 K 个最相关的检索结果
3.根据
相关性
(或与矢量化输入嵌入的距离)对结果进行排名
4.最后被处理成一系列提示并传递给生成器,也就是你选择的 LLM &


http://www.mrgr.cn/news/48700.html

相关文章:

  • Linux常见指令
  • 手撕数据结构 —— 带头双向循环链表(C语言讲解)
  • 链接防封(maybe)
  • 01 数据结构基础:数据的逻辑结构(集合、线性、树形、网状)或(线性与非线性)、数据的存储结构(顺序、链式、索引、散列)、数据的运算
  • MySQL数据库管理全面指南:从基础操作到高级管理
  • 组合优化_初识
  • 跟李沐学AI:Transformer
  • 守护线程详解!
  • 线程池 jvm web
  • zookeeper kafka集群配置
  • head和tail命令解析
  • JavaSE——认识异常
  • LDR6500一拖三快充线方案
  • 【秋招笔试】10.12小米(已改编)秋招-三语言题解
  • 波恩BONN功率放大器维修BSA1001-150/125D
  • Android深入理解包管理---apk信息
  • FileUtil工具类
  • AI产品经理到底怎样入门?入门必看!
  • java-实现一个简单的httpserver-0.5.0
  • 记录IDEA编译报错:不支持发行版本