3 分•作者: gametorch•大约 1 年前
返回首页
最新
3 分•作者: wmolino•大约 1 年前
Hi HN,
我一直在开发一个名为 QSS(量化相似性搜索)的向量搜索引擎。它用 C 语言编写,探索了将嵌入向量积极量化为每维度 1 位的想法。它使用 XOR + popcount 进行快速近似搜索,然后使用原始向量的余弦相似度进行重新排序。
主要目标是看看在不牺牲太多搜索质量的前提下,量化能做到什么程度——同时在内存使用和速度方面获得显著提升。
工作原理
嵌入被量化为每维度 1 位(例如,300D → 300 位 → ~40 字节)。
搜索使用按位 XOR 和 popcount(汉明距离)完成。
使用原始(浮点)嵌入的余弦相似度对短列表进行重新排序。
支持 GloVe、Word2Vec 和 fastText 格式。
目标
分析量化和搜索精度之间的权衡。
衡量潜在的速度和内存增益。
探索这种方法如何随更大的数据集扩展。
初步测试
到目前为止,我只运行了几个小规模的测试,但初步迹象令人鼓舞:
对于某些查询(例如“hello”、“italy”),前 30 个结果与全精度余弦搜索匹配。
在 Word2Vec 嵌入上,量化管道的速度比标准余弦相似度循环快 18 倍。
这些结果目前只是个例——我会在深入基准测试之前分享该项目,以获得反馈。
其他说明
目前,单词查找是线性的,并且未优化——重点是相似性搜索逻辑。
测试是在 2018 年的 iMac(3.6 GHz Intel i3)上单线程进行的。
如果您对向量搜索、量化或低级性能技巧感兴趣,我很乐意听取您的想法:
您认为这种激进的量化可以在大规模应用中发挥作用吗?
您是否推荐其他值得探索的快速近似搜索技术?
代码库在这里:https://github.com/buddyspencer/QSS
感谢您的阅读!
35 分•作者: exists•大约 1 年前
15 分•作者: caned•大约 1 年前
1 分•作者: petabyt•大约 1 年前
1 分•作者: PaulHoule•大约 1 年前
1 分•作者: abawany•大约 1 年前
1 分•作者: Bluestein•大约 1 年前
1 分•作者: dctoedt•大约 1 年前
1 分•作者: Charlieholtz•大约 1 年前
1 分•作者: jmsflknr•大约 1 年前
1 分•作者: wslh•大约 1 年前
1 分•作者: Bluestein•大约 1 年前
1 分•作者: falcor84•大约 1 年前
3 分•作者: doener•大约 1 年前
47 分•作者: jmsflknr•大约 1 年前
2 分•作者: Marten42•大约 1 年前
嗨,HN!
我开发了 TNX API,让使用数据库像用简单的英语提问一样简单。
它的功能:
* 你用自然语言提问(例如,“列出价格 > 20 美元的商品”)
* 我们的系统将其转换为 SQL 并运行
* 你得到实际的结果,可以选择可视化
* 你的数据保持私密——什么都不存储,AI 看不到,API 在回复后立即忘记
我创建它的原因:
对于许多团队来说,为日常问题编写 SQL 仍然是一个障碍。我想要一个注重隐私、即插即用的 API,只需使用自然语言即可工作。TNX 不仅仅是翻译——它执行查询并返回实际答案(不仅仅是 SQL)。
示例:
* 你问:“今年按产品类别划分的总销售额是多少?”
→ TNX 回复:[家具:43,000 美元,电子产品:12,000 美元] + “想要图表吗?”
* 你问:“哪些客户在过去 90 天内没有订购?”
→ TNX 回复姓名或 ID,并提供后续操作
说明:
* 基于现代 AI 模型(小巧 + 快速)
* 无需发送完整的数据库转储——只需元数据/配置 + 实时访问
* 轻松的 API 集成
* (奖励:如果你有兴趣,我可以为你处理设置 + 定制)
试用:
[https://www.tnxapi.com/UI/login.php](https://www.tnxapi.com/UI/login.php)
(用户名:“hi@tnxapi.com”,密码“1”(这样不容易忘记))
(示例提示:
* “请给我 idpk = 20 的产品的名称、ShortDescription 和价格。”或者
* “请列出 idpk 从 10 到 20 的所有产品价格。”然后
* “请列出 idpk 从 10 到 20 的所有产品价格。”(我为此测试复制了一些我的数据库,很抱歉数据是德语 xd))
谢谢,
Lasse Tramann
(欢迎联系 hi@tnxapi.com : ) )
40 分•作者: todsacerdoti•大约 1 年前
28 分•作者: foxmoss•大约 1 年前
1 分•作者: thunderbong•大约 1 年前