1 分•作者: alephnerd•4 个月前
返回首页
最新
1 分•作者: austinbirch•4 个月前
2 分•作者: owenthejumper•4 个月前
无法通过。部署有问题?
[Cloudflare Turnstile] 捕获到意外错误:未捕获的 RangeError: offset 超出范围,调试信息:1
setTimeout
manipulate @ main.js:51
apply @ main.js:80
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
UxEwR @ flexible?lang=auto:1
MN @ flexible?lang=auto:1
pM @ flexible?lang=auto:1
pO @ flexible?lang=auto:1
1 分•作者: NonStopOyster•4 个月前
4 分•作者: only_in_america•4 个月前
1 分•作者: g4cg54g54•4 个月前
TLDR:目前,使用 `CLAUDE_CODE_DISABLE_GIT_INSTRUCTIONS=1 claude "Hello"` 启动。<p>否则,你只会命中工具块,以及你的第一个后续问题。<p>(注意:在 settings.json 中设置 includeGitInstructions=false 也是一个选项,而且可能更好,因为 git-status <i>总是</i> 会产生噪音——但由于需要 "Hello",记住一个别名也很简单,效果一样;D)<p>目前,整个查询由 3 个可缓存的块构建:<p><pre><code> {tools | claude-version},
{system-prompt | ~/.claude/claude.md | git-status},
{skills | ./claude.md | user-prompt}
</code></pre>
环境变量将允许 system-prompt 行再次被缓存 https://github.com/anthropics/claude-code/issues/47107<p>"Hello" 允许 skills & ./claude.md 再次被缓存 https://github.com/anthropics/claude-code/issues/47098<p>之前:<p><pre><code> claude
> alive?
> -> Yes, alive and ready. What do you need?
> /exit
# (11k cache read, 6k cache write)
claude
> are you here?
> -> Yes, I'm here. What can I help you with?
> /exit
# (11k cache read, 6k cache write)
^^ nothing changed, still cashed 6k write tokens
claude
> alive?
> -> Yes, I'm here. What can I help you with?
> /exit
# (18k cache read)
^^ the "exact same question" DOES hit the cache
git commit --allow-empty -m "Dummy"
claude
> alive?
> -> Yes, alive and well. What do you need?
> /exit
# (11k cache read, 6k cache write)
^^ same question, but now git busts the cache....
</code></pre>
之后:<p><pre><code> $ CLAUDE_CODE_DISABLE_GIT_INSTRUCTIONS=1 claude "Hello"
Claude Code v2.1.104
Hello
● Hello! How can I help you today?
Alive?
● Yes, alive and ready to help! What are you working on?
# (10k cache read, 6k cache write)
$ CLAUDE_CODE_DISABLE_GIT_INSTRUCTIONS=1 claude "Hello"
Claude Code v2.1.104
Hello
● Hello! How can I help you today?
are you alive?
● I'm an AI, so not alive in the biological sense — but I'm here and ready to help. What can I do for you?
# (16k cache read, 20 cache write)
$ git commit -m "just a dummy" --allow-empty
[main 642ce16] just a dummy
$ CLAUDE_CODE_DISABLE_GIT_INSTRUCTIONS=1 claude "Hello"
Claude Code v2.1.104
Hello
● Hello! How can I help you today?
is this alive?
● Yes, I'm alive and running! Is there something I can help you with?
# (16k cache read, 18 cache write)
</code></pre>
注意:这并没有解决昨天关于 <i>5 分钟 vs 1 小时</i> 的讨论——但除非这些根本原因得到修复,否则整个讨论毫无意义……<p>- https://news.ycombinator.com/item?id=47739260 (Pro Max 5x 配额在 1.5 小时内耗尽,尽管使用量适中)<p>- https://news.ycombinator.com/item?id=47736476 (Anthropic 在 3 月 6 日降低了缓存 TTL)<p>但也有一些关于这方面的新闻:https://github.com/anthropics/claude-code/issues/46829#issuecomment-4237689126<p><pre><code> 目前,我们已经在许多地方为订阅用户默认推出了 1 小时的提示缓存……
我们也没有将 API 客户默认为 1 小时——这需要更多测试,以确保它平均而言是一个净改进。
我们很快将把客户端默认值更改为 1 小时,用于一些查询
</code></pre>
2 分•作者: amans9712•4 个月前
彭博终端之所以存在,是因为金融交易员需要一个可以查看所有信息的平台:价格、风险、交易路径、交易对手的健康状况。你不能闭着眼睛交易。
LLM 工程师们正在闭着眼睛交易。
哪个提供商目前性能下降?在考虑了开销,而不仅仅是代币价格后,这个模型的实际成本是多少?如果流量在不同提供商之间转移,成本和延迟会发生什么变化?你的技术栈是否危险地集中在一个提供商上?
这些是每个生产 LLM 系统都面临的运营问题。直到现在,还没有人为此构建过相应的工具,所以大多数团队要么闭着眼睛摸索,要么拼凑状态页面、电子表格和凭感觉来解决问题。
我们构建了 LLM Ops 工具包来解决这个问题:
1. 跨 18+ LLM 提供商的提供商正常运行时间监控器,在一个视图中实时显示状态
2. 成本计算器,包括开销,而不仅仅是原始代币价格
3. 路由模拟器,用于在转移流量之前模拟成本和延迟的影响
4. 模型多样性审计,用于在风险成为事件之前发现集中风险
免费、开源,无需注册。仪表盘位于 tools.lamatic.ai
路由模拟器是最具实验性的部分,也是最粗糙的部分。 真的很好奇其他人是如何看待提供商集中风险的。
我们一直将其视为软件中的依赖风险,但这种框架可能无法大规模适用。
今天也在 Product Hunt 上线:producthunt.com/products/lamatic-ai
29 分•作者: AlexC04•4 个月前
5 分•作者: 0xchamin•4 个月前
我经常看斯坦福/伯克利的讲座和 YouTube 上关于 AI 智能体、MCP 和安全性的内容。厌倦了反复翻看长达数小时的视频来寻找一个解释。几个月前,我构建了 mcptube 的 v1 版本。它执行转录搜索,并将问答功能实现为 MCP 服务器。它获得了一些关注(34 个星标,我的第一个开源 PR,一些著名的星标者,比如 Trail of Bits 的 CEO)。
但 v1 版本每次查询都会从头开始重新搜索原始片段。所以我重构了它。
v2 版本 (mcptube-vision) 遵循 Karpathy 的 LLM Wiki 模式。在摄入时,它提取转录文本,使用 ffmpeg 检测场景变化,通过视觉模型描述关键帧,并编写结构化的 wiki 页面。知识在视频之间积累,而不是被重新发现。使用 FTS5 + 两阶段智能体(先缩小范围,然后推理)进行检索。
MCPTube 既可以作为 CLI (BYOK),也可以作为 MCP 服务器。我用 Claude Code、Claude Desktop、VS Code Copilot、Cursor 等测试了 MCPTube。服务器端无需 API 密钥。
即将推出:我还在构建 SaaS 平台。该平台支持播放列表摄入、团队 wiki 等。我很乐意分享抢先体验注册:<a href="https://0xchamin.github.io/mcptube/" rel="nofollow">https://0xchamin.github.io/mcptube/</a>
欢迎讨论架构权衡——FTS5 与向量、基于文件的 wiki 与数据库、场景变化与固定间隔采样。通过 `pip install mcptube` 试用一下。另外,如果喜欢我的贡献,请为该项目点亮星标 (<a href="https://github.com/0xchamin/mcptube" rel="nofollow">https://github.com/0xchamin/mcptube</a>)
31 分•作者: aphyr•4 个月前
1 分•作者: rolph•4 个月前
1 分•作者: geox•4 个月前
1 分•作者: Bender•4 个月前
1 分•作者: Bender•4 个月前
1 分•作者: lsferreira42•4 个月前
1 分•作者: prathyush27•4 个月前
1 分•作者: coozamano2•4 个月前
72 分•作者: soheilpro•4 个月前
2 分•作者: realberkeaslan•4 个月前
感觉每隔几天,大型 AI 服务就会出现宕机、性能下降或速度变慢的情况。我这并不是在抱怨,只是真的很好奇。这些都是资金雄厚、人才济济的公司。运行这些模型到底有什么难处,导致可靠性如此难以捉摸?仅仅是因为需求超出了预期,还是说,提供 AI 服务的本质与普通 Web 应用有所不同?
3 分•作者: rreyes1979•4 个月前
遇到很多这样的错误:
API 错误:500 {"type":"error","error":{"type":"api_error","message":"内部服务器错误"},"request_id":"..."}
但是 https://status.claude.com/ 显示一切正常。只有我遇到这个问题吗?