3作者: wmolino大约 1 年前
Hi HN, 我一直在开发一个名为 QSS(量化相似性搜索)的向量搜索引擎。它用 C 语言编写,探索了将嵌入向量积极量化为每维度 1 位的想法。它使用 XOR + popcount 进行快速近似搜索,然后使用原始向量的余弦相似度进行重新排序。 主要目标是看看在不牺牲太多搜索质量的前提下,量化能做到什么程度——同时在内存使用和速度方面获得显著提升。 工作原理 嵌入被量化为每维度 1 位(例如,300D → 300 位 → ~40 字节)。 搜索使用按位 XOR 和 popcount(汉明距离)完成。 使用原始(浮点)嵌入的余弦相似度对短列表进行重新排序。 支持 GloVe、Word2Vec 和 fastText 格式。 目标 分析量化和搜索精度之间的权衡。 衡量潜在的速度和内存增益。 探索这种方法如何随更大的数据集扩展。 初步测试 到目前为止,我只运行了几个小规模的测试,但初步迹象令人鼓舞: 对于某些查询(例如“hello”、“italy”),前 30 个结果与全精度余弦搜索匹配。 在 Word2Vec 嵌入上,量化管道的速度比标准余弦相似度循环快 18 倍。 这些结果目前只是个例——我会在深入基准测试之前分享该项目,以获得反馈。 其他说明 目前,单词查找是线性的,并且未优化——重点是相似性搜索逻辑。 测试是在 2018 年的 iMac(3.6 GHz Intel i3)上单线程进行的。 如果您对向量搜索、量化或低级性能技巧感兴趣,我很乐意听取您的想法: 您认为这种激进的量化可以在大规模应用中发挥作用吗? 您是否推荐其他值得探索的快速近似搜索技术? 代码库在这里:https://github.com/buddyspencer/QSS 感谢您的阅读!
2作者: Marten42大约 1 年前
嗨,HN! 我开发了 TNX API,让使用数据库像用简单的英语提问一样简单。 它的功能: * 你用自然语言提问(例如,“列出价格 > 20 美元的商品”) * 我们的系统将其转换为 SQL 并运行 * 你得到实际的结果,可以选择可视化 * 你的数据保持私密——什么都不存储,AI 看不到,API 在回复后立即忘记 我创建它的原因: 对于许多团队来说,为日常问题编写 SQL 仍然是一个障碍。我想要一个注重隐私、即插即用的 API,只需使用自然语言即可工作。TNX 不仅仅是翻译——它执行查询并返回实际答案(不仅仅是 SQL)。 示例: * 你问:“今年按产品类别划分的总销售额是多少?” → TNX 回复:[家具:43,000 美元,电子产品:12,000 美元] + “想要图表吗?” * 你问:“哪些客户在过去 90 天内没有订购?” → TNX 回复姓名或 ID,并提供后续操作 说明: * 基于现代 AI 模型(小巧 + 快速) * 无需发送完整的数据库转储——只需元数据/配置 + 实时访问 * 轻松的 API 集成 * (奖励:如果你有兴趣,我可以为你处理设置 + 定制) 试用: [https://www.tnxapi.com/UI/login.php](https://www.tnxapi.com/UI/login.php) (用户名:“hi@tnxapi.com”,密码“1”(这样不容易忘记)) (示例提示: * “请给我 idpk = 20 的产品的名称、ShortDescription 和价格。”或者 * “请列出 idpk 从 10 到 20 的所有产品价格。”然后 * “请列出 idpk 从 10 到 20 的所有产品价格。”(我为此测试复制了一些我的数据库,很抱歉数据是德语 xd)) 谢谢, Lasse Tramann (欢迎联系 hi@tnxapi.com : ) )