Ask HN: 在 Jetson/树莓派上运行本地 LLM 代理，无需沉重运行时
3 分•作者: takuya_h•10 个月前
我想在我的 Mac 上设计 agent 流程，并将其打包成一个小的二进制文件，部署到 Jetson/树莓派上。大语言模型在设备端运行（不依赖云端）。如果你尝试过这样做，首先遇到的限制是什么？欢迎分享你喜欢的工具或相关文章。
查看原文
I'd like to design agent flows on my Mac and ship a single tiny binary to Jetson/RPi. LLMs run on-device (no cloud). If you've tried this, what constraint hit first? Pointers to tools or write-ups you liked are welcome.