4作者: xaskasdf大约 1 小时前
简而言之:是的。 Emotion Engine 总共有 32 MB 的 RAM,所以诀窍是在前向传播过程中,一次从 CD-ROM 流式传输权重矩阵——只有激活值、KV 缓存和嵌入驻留在 RAM 中。这意味着比 RAM 内存更大的模型仍然可以运行,它们只是从光盘读取更多数据。 不得不构建一个自定义的量化格式(PSNT),破解字节序,从头开始编写一个分词器管道,以及 PS2 SDK 的大部分内容(将单独发布)。模型本身也是自定义的——一个 1000 万参数的 Llama 风格架构,我专门为此训练的。 而且它确实有效。在真正的硬件上。
2作者: sebosch大约 2 小时前
我一直在用 Rust 语言开发 termcraft,一款终端优先的 2D 沙盒生存游戏。 这个想法是将经典的早期生存游戏流程改编成侧视的终端格式,而不是使用瓦片或像素艺术引擎。 目前的版本包括: * 程序生成的 Overworld(主世界)、Nether(地狱)和 End(末地) * 挖矿、放置、制作、熔炉、酿造和船只 * 敌对和被动生物 * 村庄、地牢、要塞、地狱堡垒和屠龙流程 这仍处于早期 alpha 阶段,但已经可以玩了。 项目: [https://github.com/pagel-s/termcraft](https://github.com/pagel-s/termcraft) 文档: [https://pagel-s.github.io/termcraft/](https://pagel-s.github.io/termcraft/) 演示: [https://youtu.be/kR986Xqzj7E](https://youtu.be/kR986Xqzj7E)