1 分•作者: acjm•4 个月前
返回首页
最新
3 分•作者: steveharing1•4 个月前
34 分•作者: cmitsakis•4 个月前
27 分•作者: aphyr•4 个月前
13 分•作者: jilles•4 个月前
22 分•作者: nikitoci•4 个月前
13 分•作者: hammer32•4 个月前
我在 HyperCard 中训练了一个 Transformer。1216 个参数。1989 年的 Macintosh。是的,这花了一段时间。
MacMind 是一个完整的 Transformer 神经网络,包括嵌入、位置编码、自注意力机制、反向传播和梯度下降,完全用 HyperTalk 实现,这是苹果公司 1987 年随 HyperCard 发布的脚本语言。代码的每一行都可以在 HyperCard 的脚本编辑器中阅读。按住 Option 键点击任何按钮,就可以阅读实际的数学公式。
任务:学习位反转置换,这是快速傅里叶变换的起始步骤。该模型没有任何公式可循。它完全通过注意力机制和反复试验来发现位置模式。在第 193 步的训练中,它在连续的步骤中在 50%、75% 和 100% 的准确率之间振荡,最终像滚入碗里的球一样收敛。
整个“智能”由 1216 个数字组成,存储在 HyperCard 堆栈的隐藏字段中。保存文件,退出,重新打开:训练好的模型仍然存在,仍然正确。它可以在从 System 7 到 Mac OS 9 的任何系统上运行。
作为一个曾经的物理系学生,而 FFT 是我的老朋友,它位于信号处理、量子力学和波分析的核心。我构建这个是因为我们正处在一个人工智能影响我们所有人的时刻,但我们大多数人并不理解它实际上做了什么。反向传播和注意力机制是数学,而不是魔法。而数学并不关心它是在 TPU 集群上运行,还是在 1989 年的 68030 处理器上运行。
该代码库包含一个预先训练好的堆栈(第 1000 步),一个你可以自己训练的空白堆栈,以及一个用于验证数学的 Python/NumPy 参考实现。
76 分•作者: jgrahamc•4 个月前
68 分•作者: dabinat•4 个月前
1 分•作者: paulnpace•4 个月前
1 分•作者: kilroy123•4 个月前
我过去大约 6 个月做了一个实验。我挑战自己,要在 25 周内构建并发布 25 个项目。
我刚刚发布了我的第 25 个项目,这是一个简单的网站,旨在鼓励其他人也进行为期 25 周的挑战。
我雄心勃勃,目标是:
* 让我的邮件订阅用户达到 1 万人
* 所有 25 个项目的独立页面浏览量达到 1000 万次
* 在挑战结束后,每月至少赚 2000 美元
结果如何呢?
* 大约 55 万独立页面浏览量
* 邮件订阅用户大约 1 万人
* 我总共只赚了大约 1100 美元(哎呀)
* 我的大型项目 channelsurfer.tv 获得了大量媒体报道
* 我想我稍微出名了一点,成了一个喜欢创作奇怪东西的人
总的来说,这非常辛苦,但也很有趣。我已经是一名高级工程师了,但我在过去的 6 个月里学到的东西,可能比我在过去 3 年的工作中学到的还要多。
1 分•作者: chtefi•4 个月前
1 分•作者: Brajeshwar•4 个月前
1 分•作者: paperplaneflyr•4 个月前
1 分•作者: tosh•4 个月前
1 分•作者: twhite214•4 个月前
1 分•作者: littlexsparkee•4 个月前
1 分•作者: serghei_•4 个月前
2 分•作者: ingve•4 个月前
5 分•作者: kaliades•4 个月前
为 AI 智能体打造的多层精确匹配缓存,支持 Valkey 或 Redis。通过单一连接缓存 LLM 响应、工具结果和会话状态。提供 LangChain、LangGraph 和 Vercel AI SDK 的框架适配器。内置 OpenTelemetry 和 Prometheus。无需额外模块 - 适用于原生的 Valkey 7+ 和 Redis 6.2+。<p>昨天发布了 v0.1.0 版本,今天发布了支持集群模式的 v0.2.0 版本。即将推出流式传输支持。<p>现有的方案要么限制你只能使用单层缓存(LangChain = 仅 LLM,LangGraph = 仅状态),要么只能使用单一框架。而这个方案解决了这两个问题。<p>npm: <a href="https://www.npmjs.com/package/@betterdb/agent-cache" rel="nofollow">https://www.npmjs.com/package/@betterdb/agent-cache</a>
文档: <a href="https://docs.betterdb.com/packages/agent-cache.html" rel="nofollow">https://docs.betterdb.com/packages/agent-cache.html</a>
示例: <a href="https://valkeyforai.com/cookbooks/betterdb/" rel="nofollow">https://valkeyforai.com/cookbooks/betterdb/</a>
GitHub: <a href="https://github.com/BetterDB-inc/monitor/tree/master/packages/agent-cache" rel="nofollow">https://github.com/BetterDB-inc/monitor/tree/master/packages...</a><p>欢迎提问。