10 分•作者: burnto•大约 2 个月前
2 分•作者: praveer13•大约 2 个月前
各位 HN 的朋友们: 我创建了 Kernelspace,这是一个免费的互动课程,旨在帮助像我一样拥有 Java/Python 后端开发经验的工程师,掌握在大规模 LLM 服务领域工作所需的系统级知识。(这主要是我为了理解近期大家热议的话题,并保持技术更新以应对职业发展需求而进行的尝试。) 课程内容包括: 1. 9 个主题共 68 节课,从零开始学习 Rust。 2. 8 个 Rust 实验:BPE 分词器、KV 块管理器、基数缓存、批处理调度器、一个玩具执行器。 3. 9 个在浏览器中运行的模拟器(wasm):Roofline 模型、KV 缓存压力、连续批处理动态。 4. Fleet Week:一个模拟的生产服务集群。 所有进度均在本地完成,没有服务器(课程托管在 GitHub Pages 上,仓库地址:<a href="https://github.com/praveer13/kernelspace" rel="nofollow">https://github.com/praveer13/kernelspace</a>)。 欢迎提供反馈和贡献。我希望将其打造成一个对我(以及其他像我一样的开发者)非常有价值的课程。 (好吧,大部分时间是 Sol 和 Kimi 在参与。)