提问 HN:免费/低成本 LLM 会是昙花一现吗?

4作者: senda大约 2 个月前
如果他们(OpenAI 等)找不到降低这些 LLM 运行成本的方法,我们是否会转向在本地运行更慢/更差的 LLM?或者,也许只有大型企业才会使用企业级 LLM 来执行特定任务? 用这些 LLM 生成代码的时代会结束吗? 假设推理问题将会得到解决,这种假设成立吗?
查看原文
Say they(OpenAi Etc)don’t find a way to reduce the cost of running these LLMs. Will we shift towards slower&#x2F;worse LLMs running locally? Or maybe enterprise ones only used by large corporations for specific tasks?<p>Will the era of using these to generate code end? Is the assume that the inference problem will be solved?