最新

听了不少传闻，希望能看到一些数据。

我开发了一个简单的国际象棋机器人，它结合了 o4-mini 模型和基于 Stockfish 引擎分析的推理能力。它能清晰地解释棋步，提供战术建议，并帮助你理解棋步的优劣。 欢迎在这里体验：<a href="https:&#x2F;&#x2F;www.chesscoachgpt.com&#x2F;" rel="nofollow">https:&#x2F;&#x2F;www.chesscoachgpt.com&#x2F;</a> 期待您的反馈。

大家好，我是 Carl Morris。在亚马逊、京东和 Stitch Fix 担任了 10 年的数据科学家之后，我决定打造自己的产品。这段旅程最终促成了 Callio 的诞生，这是一款适用于 iOS 的实时 AI 通话助手。我正在与另外两个人一起创业。<p>我们花了大约 9 个月的时间反复试验才找到了正确的产品方向，又花了 3 个月的时间才构建了 Callio 的第一个版本。我很乐意听取大家的反馈！<p># Callio 是做什么的？<p>Callio 是一款 VoIP 软电话，配备 AI 助手，可以实时收听您的通话并建议您接下来该说什么。我们认为它对销售电话特别有帮助，这也是我们目前主要面向的客户群体。<p>您可以通过以下方式自定义 AI 建议：<p>- 上传文档（例如产品表、定价、异议处理指南）<p>- 设置您的销售目标和常见问答<p>您还可以在真实通话之前通过模拟通话进行练习。AI 使用您的资料生成相关的建议，这些建议可以直接使用。<p># 它是如何工作的？<p>将 LLM 连接到实时通话非常困难。我们利用了许多现成的技术，但将它们连接在一起非常困难，需要一些深思熟虑的努力。<p>- 通过 Twilio 的 React Native 库，WebRTC 促进了 VOIP 通话体验。<p>- WebSockets 使我们能够将音频流传输到我们的后端，并将建议传输到移动客户端。<p>- LLM 获取实时转录，并在通话进行时返回建议。原则上，我们对 LLM 提供商持开放态度，但我们最初是围绕 OpenAI 的 API 构建的。<p>- 我们构建了一个增量推荐工作流程，以确保 AI 建议的低延迟，尽管 REST API 涉及延迟。<p>该架构有意精简：<p>- React Native 移动应用程序<p>- 媒体服务器 + 数据/信号服务器<p>- FastAPI（最初），但为了性能，我们将其部分迁移到了 Sanic<p>我们当然可以做得更好。我们的后端数据库和一些数据 API 的扩展变得不必要地复杂。现在我们已经在 APP store 上线了，我们正在仔细重建，以便能够扩展。让实时功能运行良好（尤其是异步和延迟）是一个巨大的学习曲线。如果您有兴趣，我很乐意深入探讨。<p># 接下来是什么？<p>该应用程序已经上线，我们正在进行市场营销以吸引更多用户。我们现在的重点是：<p>- 扩大到最初的 beta 测试者之外<p>- 提高推荐质量和应用内体验<p>- 为非技术用户构建更好的入门体验<p>很乐意听取您的想法或问题，尤其是在架构、用户体验或分发策略方面。该应用程序确实需要注册，我知道这会增加您试用的难度。幸运的是，我们提供免费试用。<p>感谢您提供的所有反馈！

我非常希望能够像几年前一样享受 HN，在那里发现我从未接触过的新事物。<p>但网站上日益增长的 AI/LLM 内容占比让我对它的兴趣大减。

我讨厌使用那些充满“氛围代码”的东西，或者那些UI/UX/BE（后端）等各种坏掉的软件，所以我决定自己开发一个。<p>这花了我一些时间，因为我是从头开始构建的，采用了一个合适的后端解决方案——NestJS，并使用了Redis、Kafka进行消息传递，以及更多工具来确保它的稳定。<p>我的着陆页是用Next.js构建的，用于SSR（服务器端渲染）/SEO优化。<p>我觉得这正在成为一个最好的工具，可以与Buffer、Hootsuite等巨头竞争。已经有一些付费客户了，他们对它非常满意。<p>我正在构建报告、更多的集成和功能，在我看来，它棒极了，因为它运行良好而且速度快。

你的 RAG 模型出现幻觉了吗？也许问题不在于 LLM，而在于检索阶段。<p>我构建了 RAGsplain (ragsplain.com) 来帮助调试这个问题。你可以上传文档（PDF、音频、YouTube 链接），选择一种检索方法（语义、关键词或混合），然后查看传递给模型的确切上下文片段——包括匹配分数。<p>事实证明：当检索效果不佳时，即使是最好的模型也无法正常思考。<p>它开源且免费使用。非常欢迎正在构建 RAG 管道的开发者提供反馈。