1作者: statements3 个月前
嗨,HN! 我是 Glama 的创始人。 我们正在将 Lightport 开源——它就是为 Glama 提供支持的 AI 网关。 GitHub: [https://github.com/glama-ai/lightport](https://github.com/glama-ai/lightport) 在线体验: [https://glama.ai/ai/gateway](https://glama.ai/ai/gateway) 为什么? 我们全力投入 MCP 生态系统——这是我们最擅长的。开源网关既是对帮助我们成长的社区的感谢,也是让我们保持专注的一种方式。 简短的背景故事: Lightport 最初是 Portkey 的一个分支。我们需要一种方法来使各种 LLM 提供商与 OpenAI 兼容,而 Portkey 提供了坚实的基础。但它也附带了许多更高级的功能(护栏、计费等),我们认为这些功能不应该出现在这一层——这使得我们很难在提供商兼容性方面进行迭代。因此,我们精简了它,修复了错误,为 80 多个提供商添加了集成测试,并将其塑造成一件事:一个可靠、轻量级的层,使任何 LLM 提供商都与 OpenAI 兼容。 下一步是什么: 更多模块将陆续推出——护栏、计费、重试、遥测——每个模块都将作为独立的中间件开源。我们将继续公开维护 Lightport,重点是跨 LLM 提供商的 OpenAI 兼容性。 对于 Glama 用户: Glama AI 网关将继续作为一个隐私优先的网关运行,但我们将仅支持精选的一组提供商(OpenAI、Anthropic、Google、Grok、Groq、DeepSeek、阿里巴巴、Moonshot 以及其他少数几个)。对于其他所有提供商,OpenRouter 是一个很好的替代方案。 试用它,破坏它,用它来构建。我迫不及待地想看看你们会做出什么。