最新

我使用 Cloudflare Workers + Durable Objects 构建了一个个人 LLM 助手。在开始新对话时，您需要指定一个类别和主题，这样后端就会为每个类别/主题维护一个摘要——随着同一类别/主题下发生更多对话而不断累积。 没有复杂的 RAG、嵌入或智能代理魔法，但类别/主题摘要系统运行良好，我发现它非常方便，并且每天都在工作和生活中使用它。 我最初是为了熟悉 Durable Objects 并测试我之前在脑海中构思的一个想法。最近失业后，我开始投入更多精力来开发它。我与朋友们一起测试它，并专注于使其易于理解、部署和使用。本周我将其开源，以便更多人尝试。 仓库：https://github.com/kol3x/pawmc 一些细节： - 在 Cloudflare 的免费套餐上，默认配置下成本为 0 美元。 - 所有内容都包含在一个单例 Durable Object 中。 - Workers AI 作为默认提供商。 - 支持 OpenRouter 以获得更稳定的访问和更大的模型（在这种情况下，您需要为 token 付费）。

在构建大型语言模型（LLM）的过程中，你们都面临着哪些问题？