2作者: vira283 个月前
我正在为几家处于早期到中期阶段的初创公司提供咨询,他们都问了同一个问题:他们的 AI/ML 团队需要生产环境的 Postgres 数据,但没人确切知道该如何提供给他们。<p>我之前处理过类似的情况,是为 BI 团队提供数据——使用带有较大 `max_standby_streaming_delay` 和 `hot_standby_feedback` 设置的只读副本,并接受主库偶尔出现的膨胀。效果还不错。但 AI/ML 的需求感觉有所不同,但我还无法完全表达出来,这也是我提问的部分原因。<p>我正在尝试校准以下几点:<p>代理实际上连接到哪里?主库(带有 RLS),只读副本,数据仓库(Snowflake/BigQuery/Redshift),湖仓一体(S3 上的 Iceberg/Delta),还是其他地方?<p>如果你没有这样做——是出于合规性、成本顾虑、糟糕的体验(失控的查询、提示语中的 PII),还是其他原因?<p>而我最感兴趣的是:这与向 BI 工具提供数据库访问权限是否真的有所不同,还是只是换了件新衣服的同一个问题?<p>我不是在寻找产品推荐。我试图从真正面临过这个挑战的人那里获得真实的感受。
1作者: wolttam3 个月前
我花了*很多*时间来打造 `lmcli`,让它成为我处理所有 LLM 工作的首选工具,包括编码! 用 Go 编写,以实现快速的性能和精简的代码库。 我想要一个工具,它不会在我与模型之间设置繁重的抽象层,我认为 `lmcli` 成功地做到了这一点。对更多用例的支持已经逐渐增加,但仅限于那些被证明对 LLM 使用“至关重要”的用例,例如基于 agent 的工具调用循环。 `lmcli` 并没有内置 agent - agent 是通过系统提示和一组可用工具来配置的。README 仅提供了一个如何使用 `lmcli` 构建编码 agent 的示例(恰好效果很好!) v0.5.0 增加了图像支持。是的,支持在 TUI 中将图像附加到对话中!而且感觉还不赖? 它并不完美,但我认为它足够好,可以让其他人觉得有用。 请享用。