本文承接 索引文件的生成(九),继续介绍剩余的内容,下面先给出生成索引文件。dim&&.dii 的流程图:

图 1:

  在上一篇文章中,我们介绍了流程点 执行处理前的初始化的工作,在这个流程中涉及到的一些信息贯穿整个流程,请务必先行阅读, 例如一些变量名如果没有展开说明,说明已经在上一篇文章中介绍

构建 BKD 树的节点值(node value)

  先给出该流程点的流程图:

图 2:

  图 2 的流程中,描述的是处理一个节点的流程,该节点如果是内部节点(非叶节点),那么就划分出左右子树,即左右两个节点,随后递归处理,是一个深度遍历的过程。

节点

图 3:

  流程图的准备数据为一个节点,该节点可能是叶子节点或者内部节点,在生成 BKD 树的开始阶段,该节点为根节点。

是否为叶子节点?

图 4:

  在文章 索引文件的生成(九)之 dim&&dii 中我们说到,在构建 BKD 树之前,我们已经能提前计算出 BKD 树中内部节点以及叶子节点的数量 numleaves,并且为每个节点都赋予了一个节点编号,如下图所示:

图 5:

如何判断当前节点是不是叶子节点

  源码中通过判断当前节点编号是否小于最左叶子节点的编号,如果满足,说明当前节点是内部节点,否则就是叶子节点,而最左叶子节点的编号正是 numleaves(满二叉树的性质)。

选出切分维度

图 6:

  在当前流程点,我们需要 选出切分维度,使得在后面的流程中根据该维度值进行左右子树的划分,规则如下:

  • 条件一:先计算出切分次数最多的那个维度(根据 parentSplits 数组),切分次数记为 maxNumSplits,如果有一个维度的切分次数小于 (maxNumSplits / 2) ,并且该维度中的最大跟(maxPackedValue)最小值(minPackedValue)不相同,那么令该维度为切分维度
  • 条件二:计算出每一个维度中最大值跟最小值的差值,差值最大的作为切分维度

  从条件一可以看出这条规则的目的就是保证所有的维度都能被用来切分,当条件一无法选出切分维度时,再考虑条件二。

Lucene8.4.0 中的优化改进

  Lucene 7.5.0 与 8.4.0 两个版本中,选出切分维度的条件是一致的,而 Lucene8.4.0 对上述条件中的最大跟(maxPackedValue)最小值(minPackedValue)进行了优化处理,这部分内容将在介绍流程点 设置左子树的准备数据设置右子树的准备数据 时候展开。

内部节点的排序

图 7:

  在上一个流程点 选出切分维度 选出切分维度后,接着以这个维度的值作为排序规则对点数据进行排序,排序算法使用的是最大有效位的基数排序(MSB radix sort),在源码中,先计算出 maxPackedValue、minPackedValue 中切分维度对应的维度值的相同前缀,目的在于使得在排序时只需要比较不相同的后缀值,提高排序性能。

  我们在文章 索引文件的生成(八)之 dim&&dii 中提到,在收集阶段,已经将所有的点数据的域值(维度值)都存放在了 ByteBlockPool 对象的 字节数组 buff 中,当前流程点对点数据的排序并不会真正的在 buff 数组中移动(交换)维度值来实现排序,而是通过一个 int 类型的 ord 数组来描述点数据之间的排序关系。

ord[ ]数组

  ord 数组是一个 int 类型的数组,数组元素是 numPoints(点数据的唯一标示,见文章 索引文件的生成(八)之 dim&&dii),执行完流程点 内部节点的排序 后,ord[ ]数组中的数组元素是有序的。注意的是: 不是数组元素的值有序,而是数组元素(numPoints)对应的维度值是有序的

如何通过 numPoints 获得维度值

  通过下面的公式来找到 numPoints 对应的维度值在字节数组 buff 中的起始位置

final long offset = (long) packedBytesLength * ords[i];  介绍上述公式之前我们先说下 维度编号 的概念:

  • 图 10 中,每个点数据有三个维度,对于代码的第 49 行,维度值 3 的维度编号是 0,维度值 5 的维度编号是 1,维度值 12 的维度编号是 2,即维度编号是一个从开始递增的值。

  我们继续介绍上述公式:packedBytesLength 指的是一条点数据的域值占用的字节数,例如在图 10 中,一条点数据中有 3 个维度值,维度值是 int 类型,一个 int 类型的数值转化为字节数组后占用的字节数为 4(见文章 索引文件的生成(八)之 dim&&dii),那么 packedBytesLength 的值为 3*4 = 12,另外,假设根节点中包含了图 8 中的三个点数据,并且假设按照 维度编号 2 排序,那么 ord 数组如下所示:

图 8:

  如果我们需要获得 numPoints 为 2 的点数据域值,根据上述公式 offset = 12 * 2 = 24,就可以将 字节数组 buff 中数组下标为 24 的位置作为起始地址,读取 packedBytesLength(12)个字节就可以获得点数据的域值,图 9 中的字节数组 buff 中存放的域值对应图 10:

图 9:

图 10:

设置 splitPackedValues 数组

图 11:

  在上一篇中我们简单的介绍了 splitPackedValues,它是一个字节数组,该值用来描述每一个节点使用哪个维度(维度编号)进行划分以及维度的值。

图 12:

  splitPackedValues 数组中数组元素描述的信息如图所示:

图 13:

我们假设当前处理的是根节点,并且图 12 为在根节点中待处理的点数据集合,同时切分维度的维度编号为 1,那么在执行了流程点 内部节点的排序 之后,排序后的点数据集合如下所示,为了便于描述,该集合的每个元素都有一个序号,序号是从 0 开始递增的值,例如下图中点数据{1, 2}的序号为 0,点数据{2, 8}的序号为 5:

{1,2} -> {4,3} -> {3,4} -> {4,6} -> {6,7} -> {2,8} -> {8,9} -> {7,11}  在上文有序的点数据集合中,选出序号的中位数,该例子中一共有 8 个点数据,那么根据源码中的中位数计算公式:

final int mid = (number) »> 1;  上述公式中,number 即点数据的数量,即 8,故 mid 的值为 4,即 点数据{6, 7},由于我们假设的是根节点,它的 节点编号是 1,那么根据下面的公式就可以找到该节点编号在 splitPackedValues 数组中写入的起始地址:

final int address = nodeID * (1+bytesPerDim);  上述公式中,nodeId 即节点编号,byte