1 分•作者: pedrodelfino•3 个月前
返回首页
最新
1 分•作者: davidfstr•3 个月前
1 分•作者: rguiscard•3 个月前
1 分•作者: xattt•3 个月前
1 分•作者: xupybd•3 个月前
1 分•作者: JasonHEIN•3 个月前
1 分•作者: asong56•3 个月前
不久前发现了 caveman 项目 (https://github.com/JuliusBrussee/caveman)，并开始有点痴迷。它生成的输出很密集，但不能直接展示给用户。所以我一直在尝试将它隐藏在中间——本地 SLM 模型压缩输入，云端模型以 caveman 风格进行推理，本地 SLM 模型再将其扩展回来。用户永远看不到压缩的部分。<p>目前通过 Candle 运行 Phi-3 模型进行压缩，速度足够快。云端调用的时间也更短。还没真正统计过 token 数量。<p>扩展步骤是问题所在。将 caveman 的输出还原成可读文本比压缩输入更难，而且本地模型在这里更容易出错。不确定这是否是提示词的问题，还是这种规模的模型本身就存在上限。<p>此外，也不确定这种方法在低 API 调用量的情况下是否有意义。增加的复杂性可能不值得。
5 分•作者: fandorin•3 个月前
你对此怎么看？Facebook 最初的想法是被盗用的，后来他收购了 Instagram 和 WhatsApp 才得以维持。元宇宙绝对是一场灾难。我甚至还没提到剑桥分析丑闻时期发生的所有丑闻呢。<p>你认为马克是个多么糟糕的 CEO？
13 分•作者: marvinborner•3 个月前
85 分•作者: adunk•3 个月前
1 分•作者: mariuz•3 个月前
1 分•作者: stephen-hill•3 个月前
1 分•作者: wasimsk•3 个月前
在印度，"14" 可以被用作冒犯性词语。如果你是印度人，你就会明白。
2 分•作者: marcogarces•3 个月前
2 分•作者: jitbit•3 个月前
1 分•作者: ingve•3 个月前
1 分•作者: rbanffy•3 个月前
2 分•作者: alanzhan•3 个月前
1 分•作者: 01-_-•3 个月前
1 分•作者: SanjayMehta•3 个月前