1 分•作者: nivethan•25 天前
返回首页
最新
1 分•作者: mgh2•25 天前
1 分•作者: embedding-shape•25 天前
1 分•作者: xbaicai•25 天前
2 分•作者: balderdash•25 天前
1 分•作者: mfiguiere•25 天前
1 分•作者: thunderbong•25 天前
2 分•作者: nsoonhui•25 天前
2 分•作者: piratesAndSons•25 天前
标题
8 分•作者: yodon•25 天前
1 分•作者: gmays•25 天前
1 分•作者: jacobedawson•25 天前
1 分•作者: PaulHoule•25 天前
1 分•作者: a2fz•25 天前
1 分•作者: davideg•25 天前
1 分•作者: kaonwarb•25 天前
1 分•作者: rguiscard•25 天前
1 分•作者: dbgrman•25 天前
1 分•作者: ipnon•25 天前
1 分•作者: xinbenlv•25 天前
我们构建了一个基于 WebGPU 的域名创意生成体验，它在浏览器中运行，利用 LLM 进行纯客户端侧推理，目前看来效果不错。虽然肯定无法与 ChatGPT/Gemini 相提并论，但对于这个用例来说已经足够了。
几个优点：
1. 纯客户端运行，保护隐私
2. 免费 - 无需积分，无需 API 密钥，什么都不需要。用户的设备承担计算
3. 可交互 - 你可以让它提出想法的方向。
问题：你认为它有哪些潜在的应用场景？
问题：如果设备端 LLM 变得更强大，在它们变得不如现在强大之前，它们还能做什么？