最新

从零开始构建编程语言一直是我清单上的项目。所以，在 AI 的帮助下，我终于完成了！ 我为什么要构建它？在工作中，我发现我们 AI 工作流/技能库存在两个主要问题。当整个工作流是一个包含 100 个步骤的 Markdown 文件时，缺乏确定性；而 Markdown 技能库缺乏可组合性。这意味着我们在技能库的所有 md 文件中都违反了像 DRY（Don't Repeat Yourself，不要重复自己）这样的原则。 我构建 Margarita 的目的是让 Markdown 和逻辑运算符能够共存，这意味着你可以在需要的时候通过代码结构引入确定性，并在需要时回退到 LLM 的动态代码。作为额外的奖励，它允许像 React 那样进行可组合的提示，解决了我在技能库中随处可见的文本混杂的另一个痛点。 总的来说，我在 Reddit 上收到的回应都比较冷淡，所以我可能会搁置它，但制作过程非常有趣。我为几乎所有的 LLM 提供商构建了代码代理，并构建了自己的框架。我推荐大家尝试一下，这是一次很棒的学习经历。 https://www.margarita.run https://github.com/Banyango/margarita

我曾是一名全栈工程师，但这份工作让我感到身心俱疲，也让我对构建 SaaS 产品失去了兴趣。于是，我开始寻找能挑战自我的领域，这让我转向了基础设施工程。具体来说，我选择了推理（Inference）领域，因为我希望在人工智能时代保持竞争力。我非常希望得到 AI 基础设施工程师或有相关经验人士的建议，了解如何才能成为一名优秀的推理工程师。