1 分•作者: WarOnPrivacy•3 个月前
返回首页
最新
31 分•作者: gnabgib•3 个月前
23 分•作者: smaddrellmander•3 个月前
120 分•作者: theogravity•3 个月前
1 分•作者: i7l•3 个月前
1 分•作者: AnchorLang•3 个月前
1 分•作者: smokybay•3 个月前
我将 Lightport 开源——这个为 Glama 提供支持的 AI 网关。
GitHub: [https://github.com/glama-ai/lightport](https://github.com/glama-ai/lightport)
在线体验: [https://glama.ai/ai/gateway](https://glama.ai/ai/gateway)
为什么?
我们全力投入 MCP 生态系统——这是我们最擅长的。将网关开源既是对帮助我们成长的社区的感谢,也是让我们保持专注的一种方式。
简短的背景故事:
Lightport 最初是 Portkey 的一个分支。我们需要一种方法来使各种 LLM 提供商与 OpenAI 兼容,而 Portkey 提供了坚实的基础。但它也附带了许多更高级的功能(安全防护、计费等),我们认为这些功能不应该出现在这一层——这使得在提供商兼容性方面进行迭代变得困难。因此,我们精简了它,修复了错误,为 80 多个提供商添加了集成测试,并将其塑造成一件事:一个可靠、轻量级的层,使任何 LLM 提供商都与 OpenAI 兼容。
接下来是什么:
更多模块将陆续推出——安全防护、计费、重试、遥测——每个模块都将作为独立的中间件开源。我们将继续公开维护 Lightport,重点关注 LLM 提供商之间的 OpenAI 兼容性。
对于 Glama 用户:
Glama AI 网关将继续作为一个隐私优先的网关运行,但我们将仅支持精选的提供商(OpenAI、Anthropic、Google、Grok、Groq、DeepSeek、阿里巴巴、Moonshot 以及其他少数几个)。对于其他所有提供商,OpenRouter 是一个很好的替代方案。
试用它,破坏它,用它来构建。我迫不及待地想看看你们会做出什么。
2 分•作者: duane1024•3 个月前
1 分•作者: alikhoramshahi•3 个月前
1 分•作者: ZeidJ•3 个月前
刚看到这篇文章:<a href="https://news.ycombinator.com/item?id=47920074">https://news.ycombinator.com/item?id=47920074</a>
它让我想起我们很久以前开发的一个应用程序,其唯一目的是寻找“无聊”。
这个应用程序从未流行起来,但觉得在这里分享会很有趣。
这个应用程序的 TLDR 是,你可以加入与随机人进行的实时“无聊”直播间。
1 分•作者: doener•3 个月前
1 分•作者: kibbyd1985•3 个月前
1 分•作者: piterjov•3 个月前
1 分•作者: rmason•3 个月前
6 分•作者: apollinaire•3 个月前
9 分•作者: otterwilde2•3 个月前
1 分•作者: thecodergabe•3 个月前
1 分•作者: myyke•3 个月前
1 分•作者: thebigship•3 个月前
1 分•作者: namrahov•3 个月前