提问 HN:你们是如何在生产环境中使用 LLM 的?
3 分•作者: Anon84•4 个月前
我很好奇大家是如何在生产环境中利用 LLM 的。我们都熟悉通过 IDE、代理等使用它们来编写代码……但你们构建了哪些将 LLM 作为功能一部分的应用程序?
* 你们发现它们在哪些应用程序/行业中最有用?
* 你们使用什么工具进行编排?LangGraph/CrewAI/自己构建的/等等?
* 什么模型?集中式还是本地部署?
查看原文
I’m curious how people are leveraging LLMs in production. We’re all familiar with using them to write code through your IDE, or agent, etc… but what applications have you built that use LLMs as part of the functionality?<p><pre><code> - What applications/industries have you found them to be the most useful in?
- What tools do you use for orchestration? LangGraph/CrewAI/built your own/etc?
- What models? Centralized or locally deployed?</code></pre>