最新

我使用两阶段 LLM 架构构建了一个骑行训练生成器。<p>第一阶段：草稿生成器接受用户输入，并创建具有分段的高级训练结构。 第二阶段：专家处理器（热身专家、间歇训练专家等）将每个分段转换为精确的功率目标和时间。<p>关键见解： - 当你使用模式时，LLM 擅长生成结构化的 JSON。 - 将复杂的任务分解为更小、更集中的 LLM 调用比整体提示效果更好。 - 每个专家都有隔离的上下文，强制产生自包含的输出。<p>结果：“4x4 分钟阈值间歇训练” 变成了与 Wahoo element 自行车电脑直接同步的精确功率区间和持续时间。<p>其他人是否也发现结构化输出在复杂数据生成方面出人意料地可靠？

除了显而易见的聊天机器人和代码助手，很好奇大家都在用 LLM 打造什么产品。内部工具？面向客户的功能？有没有什么在实际应用中能产生经济效益的智能体？

几周前，我产生了一个异想天开的想法，要在任天堂Game Boy上进行神经网络推理。我选择了MNIST手写数字数据集，研究了int8量化，然后开始着手进行。<p>结果是一个可玩的ROM，它的大小仅为一个ROM存储库（16 KB），其中包含了训练好的神经网络和推理代码。在Game Boy上运行的神经网络在MNIST测试集上达到了93.86%的准确率；虽然对于MNIST来说，这并不是一个很好的结果（因为它是一个非常简单的分类任务），但在Game Boy上运行的模型来说，这已经相当不错了。<p>你可以在发布页面上找到编译好的ROM（<a href="https:&#x2F;&#x2F;github.com&#x2F;jongoiko&#x2F;gb-nn&#x2F;releases">https:&#x2F;&#x2F;github.com&#x2F;jongoiko&#x2F;gb-nn&#x2F;releases</a>），欢迎试用！