更少的位数,相同的召回率:DiskBBQ 更保守的自动校准扫描

作者:Elastic 中国社区官方博客日期:2026/11/11

作者:来自 Elastic Tommaso Teofili

Elasticsearch 现在在成本模型中将文档位数的权重提高至原来的三倍,因此 DiskBBQ 会先尝试预处理和更深层的重排序,再增加一个比特,使量化向量在保持相同召回率的同时维持较小的体积。

通过这个面向搜索人工智能的自主进度实践课程,亲自体验向量搜索。你现在就可以开始免费云试用,或在你的本地计算机上试用 Elastic。


Elasticsearch 中的自动校准现在能够在相同的召回率目标下,为 DiskBBQ 选择成本更低的向量量化方案。在我们的 11 个基准测试数据集中,没有任何分段最终采用 4 位对称编码。此外,其中三个数据集选择了预处理,而此前几乎从未出现过这种情况。还有几个之前需要两个文档比特的数据集,现在只需要一个。前 10 个结果的召回率变化保持在三个百分点以内;当查询扫描的聚类更少时,召回率保持不变或有所提高,其中一项基准测试最多提高了 11 个百分点。每次合并时,校准仍然只需一到两秒。

我们通过将成本模型中文档位数的权重提高至原来的三倍,并将预处理移入内层循环,实现了这一效果。这样,预处理会在扫描的每一步参与竞争,而不再作为后备方案在外层等待。召回率模型从未负责作出这一决策。它告诉我们哪些配置达到了要求。成本模型则从中选出最终采用的配置,因此,仅调整一个系数,就改变了我们 11 个数据集中多个数据集所选的编码,并彻底淘汰了 4 位编码。

召回率模型来自我们的第一篇博文,合并时的扫描流程则来自我们的第二篇博文。

DiskBBQ 的自动校准此前如何选择量化位数

简单回顾一下,每个候选配置都包含三个部分:

  • 编码,表示为`(查询位数,文档位数)`:可以是 (1,1)、(4,1)、(4, 2)、(4, 4) 或 (7,7)。
  • 重排序深度(过采样因子):1.25、1.5、1.75、2.0、2.5 或 3.0。
  • 是否在量化前对向量进行预处理。

之前的扫描流程会按照以下公式,对 30 种(编码,重排序深度/encoding, rerank depth)组合进行排序:

成本 = 文档位数 + 1.3 × 重排序深度

1.3 这个权重是根据经验设定的。它让重排序深度的成本高于一个文档比特,因为过采样是每次查询都会产生的持续成本(每次搜索都要获取更多全精度向量并重新评分),而一个文档比特的成本主要在建立索引时支付一次。

该扫描流程会先关闭预处理,遍历整个排序列表。只有在没有任何配置达到召回率目标时,才会开启预处理,再次遍历该列表。

这带来了两个我们不太满意的副作用:

  • 不同位数档位交错出现。当文档位数的权重为 1,重排序深度范围为 1.25–3.0 时,重排序项最多可使成本相差 1.3 × 1.75 ≈ 2.3,超过一个文档比特的成本。因此,扫描流程会先尝试采用较浅重排序的 2 位编码,再尝试采用较深重排序的 1 位编码:
OrderEncoding (q,d)Rerank depthCost
…(·,1)2.03.600
next(4,2)1.253.625
next(4,2)1.53.950
next(·,1)2.54.250
next(4,2)1.754.275
…(·,1)3.04.900

只要采用较浅重排序的 2 位编码足以达到要求,我们就会直接采用文档位数翻倍的方案,而没有先检查使用一个比特并稍微加深重排序是否也能达到要求。

  • 预处理是最后的手段。由于预处理位于外层循环,只有在所有未经预处理的配置(最高包括重排序深度为 3.0 倍的 (7,7))_都无法_达到目标时,分段才会采用预处理。实际上,这种情况很少发生,因此预处理几乎从未被选中。即使预处理本可以让 1 位编码达到目标,扫描流程仍会选择体积大得多的未经预处理的编码,有时甚至是 4 位对称编码。

有何变化:最后才增加文档位数的扫描流程

新的扫描流程遵循一条规则:_在尝试完所有成本更低的方案之前,不增加每个文档的位数。这意味着先尝试所有成本较低的非对称编码,遍历每种重排序深度以及_开启和关闭预处理两种选项,然后再考虑成本更高的 4 位和 7 位对称编码。

只需两处小改动,就能实现这一点。

提高成本模型中文档位数的权重

成本函数现在为文档位数设置了明确的权重:

成本 = 3.0 × 文档位数 + 1.3 × 重排序深度

可缩放矢量图形

为了避免不同位数档位交错出现,增加一个文档比特的成本必须高于重排序项可能产生的最大成本差:

1文档位数权重 > 重排序成本权重 ×(最大重排序深度 − 最小重排序深度)
2             = 1.3 × (3.0 − 1.25) ≈ 2.28
3
4DOC_BITS_WEIGHT > RERANK_COST_WEIGHT × (max_rerank − min_rerank)
5               = 1.3 × (3.0 − 1.25) ≈ 2.28

可缩放矢量图形

现在,成本排序会按文档位数划分档位,而且这一顺序由公式本身保证;也就是说,所有 1 位配置都排在所有 2 位配置之前,所有 2 位配置都排在任何 4 位配置之前,依此类推。

将向量量化预处理移入内层循环

现在,我们不再完整执行两遍扫描,而是针对每个`(编码,重排序深度)`组合,分别尝试关闭和开启预处理,然后再尝试下一个成本更高的组合:

1for (encoding, rerank_depth) in cost order:      # tiered by document bits
2    for precondition in [false, true]:
3        if predicted_recall@10 >= 0.9:
4            return (encoding, rerank_depth, precondition)

现在,预处理会在扫描的每一步平等参与竞争。如果经过预处理的 1 位编码能够达到目标,我们就会选择它,而不是先增加位数。

下图展示了改动前后的完整扫描流程。每个单元格代表一个候选配置,按从左到右的顺序评估,第一个预测能够达到目标的配置胜出。改动前,2 位和 4 位候选配置穿插在 1 位候选配置之间,第一个经过预处理的候选配置直到第 31 步才出现。改动后,扫描流程会按顺序遍历各个位数档位,并从第 2 步开始尝试预处理:

扫描流程可评估的候选配置总数保持不变(30 种组合 × 2 种预处理选项),因此最坏情况下的校准成本没有变化。由于现在更常能在成本较低的档位中找到满足要求的配置,扫描流程往往会更早停止。

为什么增加量化位数的成本高于加深重排序?

在上一篇文章中,我们认为重排序深度的成本权重应该高于一个文档比特,因为重排序是每次查询都会产生的持续成本,而比特的成本主要在建立索引时支付一次。这个观点在同一档位_内_仍然成立;对于给定的编码,扫描流程仍会先尝试最浅的重排序。我们重新考量的是不同档位_之间_的相对成本。

文档位数是每个分段持续承担的成本。它决定了量化向量在磁盘上的大小,而对 DiskBBQ 更重要的是,它还决定了将扫描涉及的倒排列表保留在页缓存中所需的内存量。理论上,对于分段中的每个向量,在分段的整个存续期间,文档位数从一位增加到两位会使这部分占用翻倍,改用 4 位对称编码则会使其增至四倍。(不过,实际成本增幅更有限;例如,每个维度从一位增加到两位时,磁盘占用约增加 7%,内存占用约增至 1.8 倍。)稍微加深重排序,或增加一个成本较低的预处理步骤,就能达到相同的召回率,无须永久增大索引。

尤其是预处理,性价比很高。它通过将方差更均匀地分散到各个维度来减少量化误差。它不会改变量化向量的大小,查询时的成本也只是对查询向量进行一次变换。将它作为最后的手段,让这部分优化空间一直未得到利用。

自动校准现在为 11 个基准测试数据集选择了哪些配置

我们在基准测试套件上重新运行了校准,并将之前选出的配置与新扫描流程选出的配置进行了比较:

变化很明显:

  • 预处理开始被选中。现在,11 个数据集中有三个选择了预处理,而此前几乎从未选中过。
  • 不再采用 4 位对称编码。引入预处理后,之前需要 (4,4) 的数据集现在用更少的文档位数就能达到目标。
  • 2 位编码减少,1 位编码增多。之前采用 (4,2) 的几个数据集,现在采用了结合预处理和/或更深重排序的 1 位非对称编码。

这些变化都缩小了量化向量的体积;文档位数从两位降至一位,体积就减半;从 (4,4) 改为 1 位编码,体积则缩小至原来的四分之一。

自动校准会拖慢合并吗?

新的扫描流程在确定配置前会评估更多候选配置,但各项指标几乎没有变化:

  • 校准时间。**每次合并仍然只需一到两秒。新增工作耗时不到一秒。
  • 索引构建和合并时间。没有可测量的变化。
  • 配置保持不变时的召回率(涵盖大多数基准测试)。保持不变。
  • 配置发生变化时的召回率。遍历所有聚类时,前 10 个结果的召回率升降幅度均不超过三个百分点。
  • 访问预算较低时的召回率。保持不变或有所提高,其中一项基准测试最多提高了 11 个百分点。

如何在 bbq_disk 字段上启用自动校准

无须进行任何更改。如果你已经在 bbq_disk 字段上启用了自动校准,新合并生成的分段就会自动采用新的扫描流程。所选编码、重排序深度和预处理标志仍会像以前一样存储在每个分段的元数据中,因此现有分段会保留原有配置,直到参与合并。

auto_calibrate 默认设置的下一步

这次代码改动很小,却体现了我们对自动配置的思考方式。召回率模型告诉我们哪些配置_足以满足要求_。成本模型则体现了我们在这些满足要求的选项中_看重什么_。当这种偏好被明确表达出来时,就更容易理解和改进。

更保守的扫描流程,是迈向默认启用 auto_calibrate 的一步。

原文:Vector quantization: Zero 4-bit encodings across 11 datasets | Elasticsearch Labs


《更少的位数,相同的召回率:DiskBBQ 更保守的自动校准扫描》 是转载文章,点击查看原文。


相关推荐


从 Prompt 到 Tool Calling:AI Agent 如何稳定连接程序世界
大大大大晴天2026/11/2

一、引言 LLM 接收上下文并预测下一个 Token,它擅长理解自然语言,却不会因为生成了下面这段内容,就真的调用天气服务: { "name": "get_weather", "arguments": { "city": "上海" } } 这只是模型输出的数据。真正发起网络请求、访问数据库或修改业务状态的主体,仍然是应用程序。 因此,一个完整的 Agent 至少包含两类组件: ┌──────────────────── 概率世界 ────────────────────┐


Kimi K3.1 Pro已测,国模终于来一个能打的 !?
甲维斯2026/10/25

终于,K3.1 Pro 更新了,我也等了好久了。 又到了三个月一次的“吹牛逼”时刻! Claude、GPT、Gemini 狂轰滥炸一个月之后,Kimi 终于“挺身而出”! 我看了官方的资料,也看了很多例子,已经眼花缭乱了,“看起来”是真的很猛,很哇塞! 看的我都心动死了,昨晚都没睡好,不是说好了让我先玩的么? 是怕我下手重捏坏了么? 每次新模型发布,都有人专门找 Good Case 大惊小怪一阵子! 我就专门找 Bad Case 哈其实我不是故意的! 我就是随手一测! 我测试是为了方便我自己选模


【数据结构 -- 二叉树】一叶一终点,一岔一分行
是main不是漫2026/10/18

欢迎阅读本篇学习笔记。 本篇作为个人计算机专业的学习记录,这里将系统梳理二叉树的相关知识点,从基础概念到代码实现逐步展开,便于后续的复习巩固。如有不足,欢迎大家在评论区交流指正,感谢大家的阅读与支持! 1.树概念及结构 1.1树的概念 在学习二叉树之前我们先来了解一下树的概念。 树是一种非线性的数据结构,它是由 n(n>=0)个有限结点组成一个具有层次关系的集合。把它叫做树是因为它看起来像一棵倒挂的树,也就是说它是根朝上,而叶朝下的。 有一个特殊的结点,称为根结点,根结点没有前驱结


推荐一款支持AI的数据可视化一站式报表平台
mldong2026/10/16

一、五分钟走一遍:一句话到一面能发布的大屏 登录后首页左侧五栏:首页、报表管理、大屏管理、设计总览、模板市场。右下角有个悬浮球,点开就是 AI 助手。 第 1 步:说人话,别说提示词 我在输入框里打了一句:"搭一张华东区销售日报大屏(深色)"。 它没有直接开始画图,而是回了一段我挺意外的话: 收到,做「华东区销」分析屏——先对齐两点再搭,免得返工: ❓1. 先定指标:盯哪几个?(如销量、销售额、订单量、转化率,说 3~6 个) ❓2. 范围是?(如大盘 / 板块 / 自选,说一个) 你回一


手机远控电脑怎么更顺手?ToDesk移动端手势、虚拟键鼠与指针模式科普
JoyCong19982026/10/7

地铁上临时改文档、躺床上想要玩把3A端游、出差路上帮同事处理问题……越来越多人已因为各样所需事项,开始用手机或平板远程控制电脑来高效解决。但小屏幕中没有实体键鼠,怎么操作才更高效?ToDesk移动端设有触控手势、虚拟键鼠和指针模式等,本篇内容,小编就为屏幕前的各位一次讲清! 一、单指手势:最基础,也最容易混淆         单指单击,等于鼠标单击;单指双击,等于双击操作;单指长按可进入拖动状态,松开后解除拖动。         要注意的是,这里有个关键区别:单指短按是拖动,没有先


同一套充血模型,八种语言八种长相
mldong2026/9/29

写这个系列的时候,收到过一条很典型的评论:"DDD 是 Java 生态的东西吧?Go 要是写成这样会被笑,Python 根本没有真正的封装——你们这些'充血模型'换个语言是不是就得散架?" 这话问到了点子上。理论争论没意思,我们直接把同一个领域模型用八种语言各写了一遍:Java、Go、Python、Node、PHP、Rust、MoonBit、C#。这篇把八个栈的聚合根并排放给你看——哪些地方变了,变了多少;哪些地方一个字都不能变。看懂这张对照表,"充血模型是不是特定语言的特产"这个问题就有答案了


iOS定向加固实践
黑科技iOS上架(解决审核难题)2026/9/23

iOS定向加固实践:小蟹iOS加固能力详解与工程落地指南 文章来源参考文档:https://crab‑https://ios.com/docs/site/%E6%96%B0%E6%89%8B%E6%95%99%E7%A8%8B/harden/ 前言 在iOS开发的安全领域,逆向分析、二进制dump、方法Hook、核心业务逻辑被扒取是开发者长期面对的风险。普通源码混淆大多只能处理业务源码,对于Framework、dylib动态库这类自研二进制组件防护能力薄弱。很多团队在做安全防护时,很容易混淆


iPhone Duo 带来的机遇与挑战 -- 肘子的 Swift 周报 #153
东坡肘子2026/9/15

iPhone Duo 带来的机遇与挑战 尽管 iPhone Duo 的设计资料早在几个月前就已部分泄漏,而且苹果也是折叠机领域的后来者,但凭借软硬件整合能力,它所带来的交互变化还是给不少消费者带来了惊喜。 不同机构对 iPhone Duo 的初期销量给出了不同口径的预测:Counterpoint 预计其 2026 年内出货量最高约 600 万部;IDC 则预计上市后前 12 个月可能达到约 1000 万部。在整个 iPhone 销量中,这仍然只占一小部分,但与 Vision Pro 上市两年半的


从案例分析 Vue3 Tokenizer+Parser 源码四
单线程_012026/9/7

情形四:标签属性(source="<div id=a class="c" inert style=\'\'></div>") 本小节将深度拆解 Vue3 编译器中 普通 HTML 标签多属性完整解析流程,覆盖无引号属性、双引号属性、布尔属性、空值属性四种常见属性场景。本文以 Vue3 源码单元测试用例 __tests__/parse.spec.ts 1068‑1172 的 multiple attributes 案例为核心,逐行梳理标签从词法分析(tokenizer)到语法分析(parser)的


React Router v8 升了之后,我花了两天才把项目跑起来
Flynt2026/8/30

昨天看到 React Router 发了 v8.3.1,想着项目还停在 v7 的某个中间版本,趁周末没排需求,不如先升了试试。 changelog 写得很乐观:"all of them are changes you can make in v7",意思是所有破坏性变更都能提前通过 future flags 适配。我当时觉得挺合理的——我们项目 v7 上了快半年,该有的 flag 应该都开了。 结果 pnpm i react-router@latest 装完一跑,直接炸了三个地方。 升级本身不难

首页编辑器站点地图

本站内容在 CC BY-SA 4.0 协议下发布

Copyright © 2026 聚合阅读