最新

SRE 这个职位，不同的人有不同的理解，含义差异很大。

Bash4LLM 是一个单文件 Bash 包装器，用于从终端与 LLM 进行交互。我创建它的初衷是想要一个简单易用、无需安装 Python、Node 或任何其他运行时的工具。<p>它仅使用 Bash、curl 和 jq。你可以发送提示、开始简单的聊天、逐行处理文件、流式输出，并将会话元数据保存为 JSON 格式。<p>我努力使其安全且可预测：不使用系统 `/tmp`，不使用 `eval`。默认支持 Groq，其他提供商可以通过 `extras/providers/` 文件夹中的专用 Bash 脚本添加。<p>示例：<p><pre><code> echo "explains the command: ls -l" | ./bash4llm</code></pre>

大家好， 在 Anthropic 的 Fable 被禁后，我开始着手开发 nanoeuler，因为我的雄心和梦想是在 Anthropic 从事人工智能领域的工作。促使我创建 nanoeuler 的两个有趣原因在于：（1）与大型语言模型（LLM）交互并不意味着理解它们的构成；（2）从非常底层的角度来研究 LLM，以理解参数与数据之间的关联、模型的增长，以及 GPU 的工作原理和某些层的优化方法。 因此，我以研究的视角开始着手开发，让 nanoeuler 不断成长，但循序渐进，从 Shakespeare.txt 开始，理解一个拥有 2300 万参数的文本生成模型是如何理解内容的。例如，在达到这个参数量时，nanoeuler 已经理解了“Name:”可以开启一行，并能有意义地写出这一行。 我使用 CUDA 编写了所有内容，因为我希望在训练和推理模型及其功能之间不使用任何中间层。然后，即使是以小规模的方式，使用监督微调（SFT）以及更多技术也确实有助于理解构建一个像聊天机器人一样的 LLM 所需的各种步骤。 任何反馈、帮助或建议都非常欢迎！