Ask HN:谁在本地使用开源 LLM 和编码助手?分享配置和笔记本电脑
3 分•作者: threeturn•8 个月前
亲爱的黑客们,
我对你们在笔记本电脑上使用开源 LLM 和开源编码助手的实际工作流程很感兴趣(不仅仅是云端/企业 SaaS)。具体来说:
* 你们运行的是哪个模型(例如,Ollama、LM Studio 或其他)以及你们使用的哪个开源编码助手/集成(例如,VS Code 插件)?
* 你们有什么样的笔记本电脑硬件(CPU、GPU/NPU、内存,是否是独立 GPU 或集成 GPU,操作系统),以及它在你们的工作流程中的表现如何?
* 你们用它来做什么样的任务(代码补全、重构、调试、代码审查),以及它的可靠性如何(哪些方面表现良好/哪些方面存在不足)。
我正在进行自己的调查,完成后也很乐意分享。
谢谢!
Andrea.
查看原文
Dear Hackers,
I’m interested in your real-world workflows for using open-source LLMs and open-source coding assistants on your laptop (not just cloud/enterprise SaaS). Specifically:<p>Which model(s) are you running (e.g., Ollama, LM Studio, or others) and which open-source coding assistant/integration (for example, a VS Code plugin) you’re using?<p>What laptop hardware do you have (CPU, GPU/NPU, memory, whether discrete GPU or integrated, OS) and how it performs for your workflow?<p>What kinds of tasks you use it for (code completion, refactoring, debugging, code review) and how reliable it is (what works well / where it falls short).<p>I'm conducting my own investigation, which I will be happy to share as well when over.<p>Thanks!
Andrea.