最新

<a href="https://web.archive.org/web/20260826205502/https://www.newscientist.com/article/2584861-antidepressant-withdrawal-symptoms-are-prompting-a-radical-rethink-of-how-we-treat-depression/" rel="nofollow">https://web.archive.org/web/20260826205502/https://www.newscientist.com/article/2584861-antidepressant-withdrawal-symptoms-are-prompting-a-radical-rethink-of-how-we-treat-depression/</a><p><a href="https://archive.ph/zahjc" rel="nofollow">https://archive.ph/zahjc</a></p>

大家好，我们构建了一个开源模型网关。它能在一个地方统一管理我们自托管、前沿和开源模型。 该网关原生采用 Rust 编写，专为并发设计，并实现了跨模型和提供商的所有配置细节（流式传输格式、工具调用、模型参数、速率限制以及不同的错误行为）。 对于 BYOK（自带密钥）请求，网关的延迟低于 1 毫秒；当 Experiential 提供提供商密钥时，延迟低于 2 毫秒。它集成了所有主流的推理提供商，并通过一个 codex 代理每天刷新 1000 多个模型，该代理会提交一个拉取请求。 与其他类似项目相比，我们是开源的，不收取任何加价，允许您将本地模型与市场模型混合使用，并利用您的流量（选择加入）来训练模型。简单的路由不应收取 10% 的 token 加价。 我们的实现方式是，在标准化 OTel 追踪的基础上，挖掘具有代表性的实际任务，使用文本世界模型模拟各种模型的部署情况，应用 LLM 裁判，并基于提示的嵌入训练一个最近邻分类器，以决定每个请求的最佳模型。这通常可以比直接调用单个模型在成本/质量方面绘制出更好的帕累托曲线，但并非完美。 利用这些模拟，我们还可以进行缓存命中优化建议、新模型推荐以及模型训练等操作。 它是开源的，因此您可以将其部署在自己的基础设施上，使用我们零加价的托管版本，或者访问我们的网站了解我们如何设计以实现最大可用性。

嘿，HN<p>我怀念那些日子，那时我还在玩 Windows 98，屏幕大到需要两个成年人才能搬动。鼠标的滚球可以拿出来扔向别人。<p>所以，我决定重温童年，同时加入一些投票的乐趣，并创建了一个小型的“拔河”投票系统。<p>这个系统功能不多，你可以投票（投票时可以发布消息），投票结束后还有一个论坛。一旦投票在 3 天后结束或触发了“终止开关”，它将与 trollbox.exe 聊天一起被永久存档，这样我们就可以在未来回顾发生的一切。我还想让社区参与进来，所以你可以提交你想看到的投票请求，当投票结束后，得票最高的投票将成为新的投票。<p>请告诉我你的想法，虽然不特别，但很有趣！