南阳网站公司杭州公司网站建设套餐

南阳网站公司,杭州公司网站建设套餐,响应式设计网站,收录优美图片找不到了概述 本文的重点是优化高维向量空间中的近似近邻搜索#xff08;ANNS#xff09;。 近似近邻搜索是一种以略微牺牲搜索精度为代价来显著提高搜索速度的技术#xff0c;最近已成为检索增强生成#xff08;RAG#xff09;和基于代理的 LLM 应用基础技术的组成部分。 传统的优…概述本文的重点是优化高维向量空间中的近似近邻搜索ANNS。近似近邻搜索是一种以略微牺牲搜索精度为代价来显著提高搜索速度的技术最近已成为检索增强生成RAG和基于代理的 LLM 应用基础技术的组成部分。传统的优化方法是由人工专家进行剖析、分析缓存缺失、调整数据结构并反复手动调整参数。然而这种方法既专业又耗费人力而且在跟上硬件和应用环境的发展方面存在局限性。因此作者提出了一种新的优化框架–CRINN它结合了 LLM 和强化学习。CRINN 将代码执行速度视为一种奖励并通过基于对比学习的强化学习自动生成高效的 ANNS 代码。这样就能在不依赖人工调整的情况下生成连续改进的实现从而在检索性能方面实现新的突破。建议的方法CRINN 将 ANNS 视为一个具有强化学习功能的优化问题并将强化学习与对比学习相结合以提高性能。具体来说该设计将现有的实现代码及其执行速度纳入提示并允许 LLM 对某种实现更快的原因进行对比分析。这样模型就能学习到提高速度的模式并生成新的、更好的代码。生成的代码会被执行并根据速度和可重复性给予奖励。奖励用于执行基于组相对策略优化GRPO的强化学习并按顺序更新模型。奖励设计还侧重于每秒查询次数QPS和召回率之间的权衡召回率范围[0.85,0.95]内的曲线下面积被用作标量奖励。此外以现有的名为 GLASS 的 ANNS 库为初始基础对每个模块进行了顺序优化图构建、探索和完善。这种结构化方法将传统的专家协调自动化并能开发出高效的搜索算法。实验实验测试了 CRINN 在 SIFT-128、GIST-960、MNIST-784、GloVe-25、GloVe-100 和 NYTimes-256 六个基准数据集上的性能。我们选择了具有代表性的开源 ANNS 实现如 ParlayANN、GLASS、NNDescent、PyNNDescent、Vearch 和 Voyager进行比较。只使用 SIFT-128欧氏距离进行训练然后根据其他数据集评估泛化性能。结果CRINN 在 MNIST-784 和 GIST-960 数据集上的处理速度提高了 85%图构建模块的改进尤为显著。另一方面在一些数据集如 NYTimes-256上也观察到了性能下降这表明优化可能会受到距离规模和数据特征的限制。此外增量模块优化的有效性也得到了证明证实了底层 GLASS 持续改进的潜力。总之CRINN 集速度和准确性于一身优于现有方法为使用强化学习进行代码优化提供了一个新方向。