Ask HN：运行 Llama-3.1-8B 这样的 LLM，对机器的配置有什么要求？
1 分•作者: wasimsk•4 个月前
我想创建一个本地的生成式人工智能（GenAI）。请告诉我服务器的机器配置要求。
或者，如果您能同时推荐模型和与之匹配的廉价机器配置，那将非常有帮助。顺便说一下，目前我有一台配备英特尔 i5 第 6 代 CPU、4GB 显存的显卡、16GB 内存和以太网的电脑。如果在这里能得到好的建议，我会进一步升级配置。
查看原文
I want to create a local GenAI. Tell me the server machine requirements.<p>Or if you can suggest both—The model & a cheap machine requirement against that, it will help a lot. By the way, for now—I have Intel i5 6th Gen CPU, Graphics card with 4 GB VRAM, 16 GB RAM & Ethernet. I will improve it if I get a good guidance here on.