基于大型语言模型和图网络模型的文档检索方法和装置与流程

1.本发明涉及计算机技术应用领域，尤其涉及一种基于大型语言模型和图网络模型的文档检索方法和装置。


背景技术：

2.传统的基于关键词的检索方法（如elasticsearch），受限于关键词的准确度，如果关键词提取不正确，会导致文档检索效率低，准确率也随着检索效率降低；此外，在相关技术中提供的文档检索方式还包括大型语言模型技术和矢量数据库结合的方式。
3.在大型语言模型技术和矢量数据库结合的方式中，检索效果在很大程度上依赖于嵌入向量的质量，对于大型技术手册，其段落语义对于人类来说可能是复杂的，由于大型技术手册中的段落语义包含大量的中英文说明、专业名词和操作命令，使用嵌入技术后，虽然可以得到机器意义上的语义相似度，但该语义相似度缺乏人类意义上的可解释性；其次，嵌入向量可能无法充分捕获文档间的关联关系，特别是在需要理解大量背景信息的检索场景下。
4.针对由于现有技术无法有效地捕获上下文信息，关键词误匹配高的问题，目前尚未提出有效的解决方案。


技术实现要素：

5.为解决上述技术问题，本发明实施例期望提供一种基于大型语言模型和图网络模型的文档检索方法和装置，以至少解决由于现有技术无法有效地捕获上下文信息，关键词误匹配高的问题。
6.本发明的技术方案是这样实现的：本发明实施例提供一种基于大型语言模型和图网络模型的文档检索方法，包括：接收文档检索请求；通过大型语言模型将文档检索请求转换为待查询向量；通过图网络模型计算待查询向量与预存文本向量的相似度；依据相似度获取文档检索请求对应的目标文档。
7.可选的，在接收文档检索请求之前，该方法还包括：通过大型语言模型对待整理文档进行文本嵌入，得到文本向量；通过文本向量构建图网络模型。
8.进一步地，可选的，通过大型语言模型对待整理文档进行文本嵌入，得到文本向量包括：将待整理文档进行分页和分块，得到待整理文档的文本块；对文本块分配对应的标识，其中，标识，用于构建图关系时的节点标识；通过大型语言模型对携带标识的文本块进行文本嵌入，得到文本向量。
9.可选的，待整理文档包括：目标文档。
10.可选的，通过文本向量构建图网络模型包括：根据待整理文档中的位置信息，建立文本块之间的关联关系；根据关联关系，建立文本块之间的连接；根据待整理文档中的引用
关系和文本块之间的连接，构建图网络模型。
11.进一步地，可选的，该方法还包括：计算图网络模型中节点间最短路径；依据最短路径对图网络模型进行优化，得到优化后的图网络模型，其中，优化后的图网络模型，用于处理同构图。
12.可选的，通过大型语言模型将文档检索请求转换为待查询向量包括：通过大型语言模型依据文档检索请求获取预设个数的待查询向量，其中，待查询向量包括：图向量和文本向量。
13.进一步地，可选的，通过图网络模型计算待查询向量与预存文本向量的相似度包括：通过图网络模型计算待查询向量与预存文本向量的相似度，得到第一向量集合；通过优化后的图网络模型计算待查询向量之间距离小于或等于预设值的点集合，得到第二向量集合。
14.可选的，该方法还包括：当第一向量集合中所有点之间距离大于阈值时，确定被召回的语料在文档中的引用关系不符合预设要求；当第一向量集合中所有点之间距离小于或等于阈值时，确定被召回的语料在文档中的引用关系符合预设要求。
15.可选的，该方法还包括：将目标文档返回客户端和/或返回大型语言模型。
16.本发明实施例提供一种基于大型语言模型和图网络模型的文档检索装置，包括：接收模块，用于接收文档检索请求；转换模块，用于通过大型语言模型将文档检索请求转换为待查询向量；计算模块，用于通过图网络模型计算待查询向量与预存文本向量的相似度；检索模块，用于依据相似度获取文档检索请求对应的目标文档。
17.本发明实施例提供了一种基于大型语言模型和图网络模型的文档检索方法和装置，通过接收文档检索请求；通过大型语言模型将文档检索请求转换为待查询向量；通过图网络模型计算待查询向量与预存文本向量的相似度；依据相似度获取文档检索请求对应的目标文档，从而能够用文档间的关联关系来提高检索准确性和效率的技术效果。
附图说明
18.此处所说明的附图用来提供对本发明的进一步理解，构成本技术的一部分，本发明的示意性实施例及其说明用于解释本发明，并不构成对本发明的不当限定。在附图中：图1为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法的流程示意图；图2为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中目录文件的示意图；图3为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中storage 服务的示意图；图4为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中markdown格式撰写的示意图；图5为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中文本构建成一个图网络的示意图；图6为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中优化后的图网络模型的示意图；
图7为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索装置的示意图。
具体实施方式
19.为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。
20.需要说明的是，本发明的说明书和权利要求书及附图中的术语“第一”、“第二”等是用于区别不同对象，而不是用于限定特定顺序。
21.还需要说明是，本发明下述各个实施例可以单独执行，各个实施例之间也可以相互结合执行，本发明实施例对此不作具体限制。
22.本技术实施例涉及的技术名词：llm：large language models，大型语言模型，是一种利用深度学习技术，特别是神经网络，来理解和生成人类语言的模型，其中，该模型通常会在大量的文本数据上进行训练，以学习语言的统计规律。嵌入：embedding，在机器学习和自然语言处理中是一个重要的概念，是一种将离散型变量（如单词、句子或者文档）映射到连续的向量空间中的技术，其中，连续的向量可以捕捉到原始数据的一些重要特性，如语义相似性。
23.图网络模型：可以使用图数据库来进行处理；其中，数据被表示为节点（也称为顶点）和边，其中节点代表实体，边代表实体之间的关系。每个节点和边都可以拥有一组属性，该组属性提供了关于该实体或关系的更多信息。
24.本发明实施例提供一种基于大型语言模型和图网络模型的文档检索方法，图1为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法的流程示意图；如图1所示，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法包括：步骤s102，接收文档检索请求；可选的，在步骤s102中接收文档检索请求之前，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法还包括：通过大型语言模型对待整理文档进行文本嵌入，得到文本向量；通过文本向量构建图网络模型。
25.进一步地，可选的，通过大型语言模型对待整理文档进行文本嵌入，得到文本向量包括：将待整理文档进行分页和分块，得到待整理文档的文本块；对文本块分配对应的标识，其中，标识，用于构建图关系时的节点标识；通过大型语言模型对携带标识的文本块进行文本嵌入，得到文本向量。
26.其中，待整理文档包括：目标文档。
27.需要说明的是，本技术实施例中作为图网络模型中存储的文档会包含多个文档，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法在文档录入阶段和构建图网络模型的过程中，每个文档都需要进行分页和分块，进而获取每个文档的文本块和文本块对应的标识，以使得在图网络模型中形成对应文本块的节点和节点标识。
28.具体的，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法以
处理大型技术文档为例，选取开源图数据库nebulagraph的中文手册（即，本技术实施例提供的待整理文档），并优化其检索查询结果。
29.手册结构说明如下：由一个目录文件mkdocs.yml，指明文档的目录结构，其中，图2为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中目录文件的示意图；如图2所示，例如，storage 服务: 1.introduction/3.nebula-graph-architecture/4.storage-service.md的意思是：文档的一级目录是“简介”， 二级目录是“服务架构”,三级目录是
“ꢀ
storage 服务”，对应的内容在路径`1.introduction`下的路径`3.nebula-graph-architecture`下的4.storage-service.md文件。此外，如图2所示，开源图数据库nebulagraph的中文手册中其他二级目录包括：“图”、“图数据库”、“相关技术”、“什么是悦数图数据库”、“数据模型”、“路径”和“vid”；三级目录中除了“storage 服务”还包括：“架构总览”、“meta服务”和“graph服务”。
30.本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法仅以“storage 服务”为优选示例进行说明，以实现本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法为准，具体不做限定。图3为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中storage 服务的示意图。如图3所示， 基于图2，展示storage 服务。
31.基于图3，以markdown格式撰写的内容, markdown语法中，`[全文索引](../../4.deployment-and-installation/6.deploy-text-based-index/2.deploy-es.md)` 是引用关系。通过正则表达式可以解析出被引用的文件的地址和文件名。如图4所示，图4为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索方法中markdown格式撰写的示意图。
[0032]
将待整理文档进行分页和分块，可以通过python程序遍历文档的结构，将每个章节、节、段落等划分为独立的文本块，并为每个文本块分配一个id（即，本技术实施例中的文本块的标识），其中，该id用于后续构建图关系时，作为节点的id（即，本技术实施例中的节点标识）。
[0033]
利用大型语言模型（例如， openai的嵌入模型text-embedding-ada-002）对每个文本块进行嵌入。该步骤的产出是一系列的向量（即，本技术实施例中的文本向量），将该部分向量称为文本嵌入（text embedding）。
[0034]
在一种优选示例中，文本嵌入（text embedding）具体如下：输入是一段文本 {{{ your text string goes here }}},输出是"embedding"所对应的矢量。这个示例使用的是openai的text-embedding-ada-002模型。由于不同手册可能需要的embedding模型不同，取决于具体场景时的测试效果。
[0035]
测试代码如下：curl https://api.openai.com/v1/embeddings \
ꢀꢀ‑
h "content-type: application/json" \
ꢀꢀ‑
h "authorization: bearer $openai_api_key" \
ꢀꢀ‑
d '{
ꢀꢀꢀ
"input": "{{{ your text string goes here }}}",
ꢀꢀꢀ
"model": "text-embedding-ada-002"}'{ "data": [
ꢀꢀꢀꢀ
{
ꢀꢀꢀꢀꢀ
"embedding": [
ꢀꢀꢀꢀꢀꢀꢀ‑
0.006929283495992422,
ꢀꢀꢀꢀꢀꢀꢀ‑
0.005336422007530928,
ꢀꢀꢀꢀꢀꢀꢀ
...
ꢀꢀꢀꢀꢀꢀꢀ‑
4.547132266452536e-05,
ꢀꢀꢀꢀꢀꢀꢀ‑
0.024047505110502243
ꢀꢀꢀꢀꢀꢀ
],
ꢀꢀꢀꢀꢀ
"index": 0,
ꢀꢀꢀꢀꢀ
"object": "embedding"
ꢀꢀꢀꢀ
}
ꢀꢀ
], "model": "text-embedding-ada-002", "object": "list", "usage": {
ꢀꢀꢀꢀ
"prompt_tokens": 5,
ꢀꢀꢀ
"total_tokens": 5
ꢀꢀ
}}可选的，通过文本向量构建图网络模型包括：根据待整理文档中的位置信息，建立文本块之间的关联关系；根据关联关系，建立文本块之间的连接；根据待整理文档中的引用关系和文本块之间的连接，构建图网络模型。
[0036]
具体的，在获取到每个文本块的文本向量后，开始构建一个图网络模型。
[0037]
首先，根据文档结构中的位置信息（即，本技术实施例中的待整理文档中的位置信息），建立文本块之间的关联关系。例如，确定每个分块所属的章节、节和段落。
[0038]
然后，根据每个文本块与上一个文本块和下一个文本块之间的行文连续关系，建立它们之间的连接（即，本技术实施例中的根据关联关系，建立文本块之间的连接）。例如，a段落的下一个段落是b段落。
[0039]
最后，识别文档中的引用关系，并在图网络模型中表示出这些跳转关系；即，文本块与其他分块之间的跳转关系（例如，第3页的a段落引用了第8页的b段落）。
[0040]
将文本块的章节段落关系、行文连续关系和引用关系构建成一个图关系。并对该
》(n2)-[:_related {weight: 3}]-》(n4:`段落` {id: 009})《-[:_related {weight: 2}]-(n3)-[:_related {weight: 3}]-》(n0),(n0)《-[:_related {weight: 4}]-(n4)-[:_related {weight: 3}]-》(n1)综上，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法通过构建图网络模型，可以更好地利用文档间的关联关系，从而提高检索的准确性和效率。不仅能够捕捉到文档内部的结构信息，还能够捕捉到跨文档的关联关系，从而提供更丰富的上下文信息。
[0048]
并且本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法适用于大规模文档集合，通过构建图网络模型，无论是对于单个大型文档，还是对于包含多个文档的文档库，都可以构建一个统一的图网络模型，从而实现高效的检索。
[0049]
步骤s104，通过大型语言模型将文档检索请求转换为待查询向量；可选的，步骤s104中通过大型语言模型将文档检索请求转换为待查询向量包括：通过大型语言模型依据文档检索请求获取预设个数的待查询向量，其中，待查询向量包括：图向量和文本向量。
[0050]
其中，本技术实施例中预设个数的待查询向量取top k个；具体的，当接收到新的搜索查询（即，本技术实施例中的文档检索请求）时，首先将查询文本（即，本技术实施例中的文档检索请求）使用大型语言模型转换为向量，例如，按偏好检索最近的top k个待查询向量（包括：图向量graph vector和文本向量text vector）。
[0051]
步骤s106，通过图网络模型计算待查询向量与预存文本向量的相似度；可选的，步骤s106中通过图网络模型计算待查询向量与预存文本向量的相似度包括：通过图网络模型计算待查询向量与预存文本向量的相似度，得到第一向量集合；通过优化后的图网络模型计算待；查询向量之间距离小于或等于预设值的点集合，得到第二向量集合。
[0052]
具体的，计算查询向量与数据库中文本向量的相似度（即，本技术实施例中的计算待查询向量与预存文本向量的相似度），可以通过计算它们之间的余弦距离来实现，一次召回top向量集合k1（即，本技术实施例中的第一向量集合）。
[0053]
向量集合k1，在图网络模型2中同时代表着一些点的集合，找到与这些点之间距离小于等于n（即，本技术实施例中的预设值）的点集合k2（即，本技术实施例中的第二向量集合），作为二次召回。
[0054]
例如，假设k1={id 009, id014}, n=2，则k2={id007}。即，二次召回代表了，在技术文档的行文上，与k1代表的语料有强相关性，但又未被余弦距离计算得到的语料。
[0055]
进一步地，可选的，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法还包括：当第一向量集合中所有点之间距离大于阈值时，确定被召回的语料在文档中的引用关系不符合预设要求；当第一向量集合中所有点之间距离小于或等于阈值时，确定被召回的语料在文档中的引用关系符合预设要求。
[0056]
具体的，基于图网络模型2，判断图网络模型1的召回的好坏： 当k1中所有点之间距离较远(weight的总和比较大)(即，本技术实施例中的第一向量集合中所有点之间距离大于阈值)时，意味着这些被召回的语料在手册中的引用关系较弱； 当k1中所有点之间距离较近（即，本技术实施例中的第一向量集合中所有点之间距离小于或等于阈值）时，意味
着这些被召回的语料在手册中的引用关系较强。
[0057]
通过上述观察该嵌入算法是否适用于该类型文档的，提供了良好的可解释性度量。基于该可解释性度量帮助用户理解和评估嵌入模型的效果，从而为模型的优化提供指导。
[0058]
需要说明的是，本技术实施例中，图网络模型的召回可以为："召回"是指在接收到检索请求时，从大量的文档块中找出可能与查询相关的文档块。这个过程可以通过计算查询向量与文档向量的相似度来实现，也可以通过利用图网络模型中的关联关系来增强。步骤s108，依据相似度获取文档检索请求对应的目标文档。
[0059]
可选的，本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法还包括：将目标文档返回客户端和/或返回大型语言模型。
[0060]
具体的，将步骤s106中得到的{k1,k2}语料所对应的文档，可以返回给llm进行后续加工，也可以返回给客户端。
[0061]
本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法中将目标文档返回大语言模型可以为：通过目标文档对大型语言模型进行进一步地训练，和/或，通过大语言模型将目标文档作进一步地解释，翻译为更容易用户理解的语言或描述。在撰写大规模技术文档时，技术文档工程师会将相关的信息通过相互引用、目录、索引等方式组织起来，这些组织方式可以构成一个图网络结构。本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法利用了图网络结构，当使用llm+嵌入的方案进行召回时，可以查找这些召回在图网络上的距离，从而定量分析“ai认为相关的信息”和“技术文档工程师认为相关的信息”。
[0062]
本技术实施例提供的基于大型语言模型和图网络模型的文档检索方法通过结合图网络模型和大型语言模型，可以在检索过程中充分利用文档间的关联关系，从而获取更多有价值的上下文信息。相比于现有技术中仅依赖语义接近度的方法，能够更准确地找到与查询相关的文档和内容，从而进一步提升文档检索的效果。
[0063]
本发明实施例提供了一种基于大型语言模型和图网络模型的文档检索方法，通过接收文档检索请求；通过大型语言模型将文档检索请求转换为待查询向量；通过图网络模型计算待查询向量与预存文本向量的相似度；依据相似度获取文档检索请求对应的目标文档，从而能够用文档间的关联关系来提高检索准确性和效率的技术效果。
[0064]
本发明实施例提供一种基于大型语言模型和图网络模型的文档检索装置，图7为本发明实施例提供的一种基于大型语言模型和图网络模型的文档检索装置的示意图；如图7所示，本技术实施例提供的基于大型语言模型和图网络模型的文档检索装置包括：接收模块72，用于接收文档检索请求；转换模块74，用于通过大型语言模型将文档检索请求转换为待查询向量；计算模块76，用于通过图网络模型计算待查询向量与预存文本向量的相似度；检索模块78，用于依据相似度获取文档检索请求对应的目标文档。
[0065]
本发明实施例提供了一种基于大型语言模型和图网络模型的文档检索装置，通过接收文档检索请求；通过大型语言模型将文档检索请求转换为待查询向量；通过图网络模型计算待查询向量与预存文本向量的相似度；依据相似度获取文档检索请求对应的目标文档，从而能够用文档间的关联关系来提高检索准确性和效率的技术效果。
[0066]
本发明是参照根据本发明实施例的方法、设备（系统）、和计算机程序产品的流程
图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器，使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
[0067]
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中，使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品，该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
[0068]
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上，使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理，从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
[0069]
以上所述，仅为本发明的较佳实施例而已，并非用于限定本发明的保护范围。

技术特征：
1.一种基于大型语言模型和图网络模型的文档检索方法，其特征在于，包括：接收文档检索请求；通过大型语言模型将所述文档检索请求转换为待查询向量；通过图网络模型计算所述待查询向量与预存文本向量的相似度；依据所述相似度获取所述文档检索请求对应的目标文档。2.根据权利要求1所述的方法，其特征在于，在所述接收文档检索请求之前，所述方法还包括：通过所述大型语言模型对待整理文档进行文本嵌入，得到文本向量；通过所述文本向量构建所述图网络模型。3.根据权利要求2所述的方法，其特征在于，所述通过所述大型语言模型对待整理文档进行文本嵌入，得到文本向量包括：将所述待整理文档进行分页和分块，得到所述待整理文档的文本块；对所述文本块分配对应的标识，其中，所述标识，用于构建图关系时的节点标识；通过所述大型语言模型对携带所述标识的所述文本块进行文本嵌入，得到所述文本向量。4.根据权利要求3所述的方法，其特征在于，所述待整理文档包括：所述目标文档。5.根据权利要求2所述的方法，其特征在于，所述通过所述文本向量构建所述图网络模型包括：根据所述待整理文档中的位置信息，建立文本块之间的关联关系；根据所述关联关系，建立所述文本块之间的连接；根据所述待整理文档中的引用关系和所述文本块之间的连接，构建所述图网络模型。6.根据权利要求5所述的方法，其特征在于，所述方法还包括：计算所述图网络模型中节点间最短路径；依据所述最短路径对所述图网络模型进行优化，得到优化后的所述图网络模型，其中，优化后的所述图网络模型，用于处理同构图。7.根据权利要求1所述的方法，其特征在于，所述通过大型语言模型将所述文档检索请求转换为待查询向量包括：通过所述大型语言模型依据所述文档检索请求获取预设个数的所述待查询向量，其中，所述待查询向量包括：图向量和文本向量。8.根据权利要求7所述的方法，其特征在于，所述通过图网络模型计算所述待查询向量与预存文本向量的相似度包括：通过所述图网络模型计算所述待查询向量与所述预存文本向量的相似度，得到第一向量集合；通过优化后的所述图网络模型计算所述待查询向量之间距离小于或等于预设值的点集合，得到第二向量集合。9.根据权利要求8所述的方法，其特征在于，所述方法还包括：当所述第一向量集合中所有点之间距离大于阈值时，确定被召回的语料在文档中的引用关系不符合预设要求；当所述第一向量集合中所有点之间距离小于或等于所述阈值时，确定被召回的语料在
文档中的引用关系符合预设要求。10.根据权利要求1所述的方法，其特征在于，所述方法还包括：将所述目标文档返回客户端和/或返回所述大型语言模型。11.一种基于大型语言模型和图网络模型的文档检索装置，其特征在于，包括：接收模块，用于接收文档检索请求；转换模块，用于通过大型语言模型将所述文档检索请求转换为待查询向量；计算模块，用于通过图网络模型计算所述待查询向量与预存文本向量的相似度；检索模块，用于依据所述相似度获取所述文档检索请求对应的目标文档。

技术总结
本发明实施例公开了一种基于大型语言模型和图网络模型的文档检索方法和装置。该基于大型语言模型和图网络模型的文档检索方法包括：接收文档检索请求；通过大型语言模型将文档检索请求转换为待查询向量；通过图网络模型计算待查询向量与预存文本向量的相似度；依据相似度获取文档检索请求对应的目标文档。本发明提供的方案能够用文档间的关联关系来提高检索准确性和效率的技术效果。检索准确性和效率的技术效果。检索准确性和效率的技术效果。


技术研发人员：叶小萌 吴敏 古思为 梁振亚
受保护的技术使用者：杭州欧若数网科技有限公司
技术研发日：2023.06.13
技术公布日：2023/7/17