一周热榜

在过去的一年里，我们一直在构建 AI 工作空间。随着每个新产品的推出，我们发现自己都在重建相同的上下文层和基础设施。我们尝试了现有的解决方案，但要么需要锁定到一个提供商，要么需要自行管理存储基础设施。 我们想要的是一个有状态且不与特定提供商绑定的 API，这样我们就无需考虑压缩、不同的模式或自行运行基础设施。 由于我们已经构建了大部分组成部分，因此我们决定发布 Twigg。 该 API 设计得非常简单。您创建一个聊天，然后会收到一个 ID。当您有新的提示或工具结果时，将它们与 ID 一起发送。您无需自行存储或管理上下文。它会追加新的提示并为您组装历史记录。要切换模型，只需在下一个请求中更改一个字段。 仪表板涵盖了您想要配置的大部分内容：工具模式、系统提示、上下文窗口限制和保留设置。 我们很想听听所有遇到过同样问题的人的意见。您目前是如何托管上下文的，以及什么会让您不愿意将其交给第三方？

如今，许多SaaS和API平台都会发布代理技能。我们也发布了，但我无法判断它们对真实用户的实用性。 我们有评估来测试技能在理想条件下的运行情况，但我对它们在实际环境中的运行时行为更感兴趣。例如： 代理在多大程度上会回退到网络搜索，而不是遵循技能的指示？ 对于普通用户来说，已安装的技能会被触发多少次？ 除了skills.sh等平台报告的安装量之外，是否有人在跟踪实际使用情况？尝试获取这些洞察是否有意义？