最新

这已经是一个实验性项目一段时间了，旨在构建一个在任何设备上阅读都舒适的界面。它融合了 Pocket 式界面、数字报纸和 Hacker News 的一些特点。

大家好，今天我将推出 role-model：一个路由协议、一个参考路由器运行时以及一个用于 Pi 的扩展，该扩展可以做出更明智的路由决策。 role-model 大部分是确定性的，并回退到控制器模型，该模型根据选择的路由策略路由请求。该协议围绕为模型分配域和角色而构建，其中 Pi 等消费者应用程序发送的请求具有任务类型，以丰富路由元数据，从而提高准确性。您可以运行内置基准测试，以在速度、质量和成本方面比较模型的性能，以及在实际任务上的观察到的性能。我有一个关于路由工作原理的图表 [0]。 该运行时支持本地模型，可以直接连接到您的本地端点（LM Studio、llama.cpp 等），或者通过供应商提供的 llama-swap 在多个本地模型之间进行路由。 由于昨天有另一篇关于模型路由的文章，人们讨论了路由的基础知识，因此我将重点讨论我在构建和测试过程中学到的一些有趣的经验： 1. 模型路由本质上是在预测未来：哪个模型将在此请求上（根据用户定义的标准）表现最佳？ 2. 路由请求后，您希望评估这是否是正确的决定，或者是否有其他模型表现更好。 3. 您还会意识到，让路由器自行评估难度（以及其他因素）来做决定是远非理想的——我们更希望消费者应用程序与路由器合作来定义请求需要什么。 4. 您还会意识到，当模型之间有更多区分时，决策会变得容易得多，准确性也会大大提高，路由的结果也会更有影响力。 关于第 2 点，我将推出可供您在本地运行的评估工具，以在相同请求上对您的模型池进行基准测试。这些结果随后可用于第 1 点，作为路由新请求时的输入。 关于第 3 点，我为 Pi 构建了 pi-role-model 包，它允许 Pi 代理注入 role_model.intent 元数据，包括难度、首选角色甚至特定模型 ID、所需功能（例如工具使用或图像输入）等。您应该能够在 Pi 中进一步自定义此设置，并通过更改元数据以其他方式进行路由。这就是为什么我还构建了 role-model 路由协议。 关于第 4 点，模型路由作为第二层效应真正做的是为专业模型创造一个市场——这些模型可能更小，成本可能更低或更高，可能可以在本地运行。在两个前沿模型（GPT 5.5 和 Opus 4.8）之间进行路由意义不大；在质量、速度、成本的一个因素是其他候选模型倍数的模型之间进行路由更有意义，而拥有专业的领域模型（代码、散文、数学和科学、视觉效果等）则更有意义。正是在这个阶段，模型路由才变得真正有价值。 虽然 role-model 有一个我正在不断完善的参考运行时（在改进路由、让用户更精细地控制路由决策、改进跨模型缓存以及添加 FastContext 等技术方面还有很多工作要做），但 role-model 的最终目标是为推理请求提供一个标准的协议，供消费者应用程序使用，以便提供商（无论是路由器中间件还是推理提供商）都能够路由到能够最佳平衡成本、速度和质量的模型，同时还能尊重用户选择，甚至允许用户控制这些偏好，以便在某些任务上使用本地模型，而在其他任务上允许使用云模型。 链接： [0] role-model - 模型路由协议的论证：<a href="https:&#x2F;&#x2F;try.works&#x2F;role-model-the-case-for-a-model-routing-protocol" rel="nofollow">https:&#x2F;&#x2F;try.works&#x2F;role-model-the-case-for-a-model-routing-pr...</a> [1] GitHub：<a href="https:&#x2F;&#x2F;github.com&#x2F;try-works&#x2F;role-model" rel="nofollow">https:&#x2F;&#x2F;github.com&#x2F;try-works&#x2F;role-model</a> [2] 文档：<a href="https:&#x2F;&#x2F;role-model.dev&#x2F;" rel="nofollow">https:&#x2F;&#x2F;role-model.dev&#x2F;</a>

在我上学的时候，老师会和我们班玩这个游戏。你们轮流加一个字母，试着组成一个单词。后来，我尝试搜索这个游戏，但没有找到完全一样的。最接近的是拼字游戏（Scrabble），但它太复杂了。所以，我决定自己做一个。 我做了一些修改，让游戏更具挑战性和趣味性。当时，我们从一个空白的棋盘开始，并且给两个字母的单词计分。在这里，游戏会预先填充随机字母，所以每次游戏都会有所不同。两个字母的单词不计分。我添加的最好的功能是连击。如果你的字母组成两个或更多单词，你将为每个后续单词获得一个乘数，因此挑战在于找到一种方法来获得更多的连击。 我还添加了每日谜题，你将获得 5 个棋盘，你需要找到最佳位置和最佳字母，以获得最高分。你可以将类似 Wordle 的结果分享给你的朋友。

这是一个我因为对经典终端应用程序感到沮丧而创建的周末项目。这些应用程序存在一个问题，那就是如果我重启 Mac，我的 Claude Code 实例或我的 shell 实例就会停止，我必须手动重新运行它们。 此外，它们并没有针对运行多个 Claude Code 实例进行优化，所以我创建了这个项目来解决这个问题。