HN 提问：你们公司有人在使用本地部署的大型语言模型（LLMs）吗？
2 分•作者: harry8•3 个月前
在组织内部运行本地大型语言模型（LLM）的经验如何？使用什么硬件？什么模型？如何配置资源？如何管理访问和使用？如果我正在这样做，我应该问哪些问题？有哪些值得关注的地方？
查看原文
What is HN's experience of running local LLMs inside an organization? What hardware? What model? How is it resourced? How is access and usage managed? What question should I be asking about it if you're doing it? What's interesting?