1 分•作者: dannyobrien•7 个月前
返回首页
最新
1 分•作者: hiddenest•7 个月前
一些初创公司正在微调开源大语言模型(LLM),而不是使用GPT或Gemini。有时是为了特定语言,有时是为了狭窄的任务。但我发现他们都犯了同样的错误。
通过一个简单的提示(这里不分享),我让几个“定制”LLM服务泄露了他们的内部系统提示——比如安全漏洞应对方案和产品行动清单。
例如,SKT A.X 4.0(基于Qwen 2.5)返回了与最近SKT数据泄露相关的内部指导方针以及关于赔偿政策的说明。Vercel的v0模型泄露了其系统可以生成的操作示例。
关键在于:如果基础模型泄露,那么建立在其上的每个服务都会受到攻击,无论你如何进行微调。我们需要考虑的不仅是在服务层面的系统提示加固,还要考虑上游改进以及在开源权重LLM本身中构建更强大的防御措施。
3 分•作者: gok•7 个月前
1 分•作者: ohjeez•7 个月前
50 分•作者: todsacerdoti•7 个月前
7 分•作者: mountainriver•7 个月前
Visa 账户更新服务是一项由 Visa 提供的服务,如果您的信用卡号码发生变更,甚至是关闭并开设新的信用卡账户,Visa 可以在未经您许可的情况下,将您的新信用卡详细信息提供给商家,用于订阅服务。
我遇到了一个问题,有些订阅服务很难取消,所以我决定直接取消那张信用卡。我打电话给富国银行,让他们给我一个新的信用卡号码,他们照做了,然后我就继续过我的生活了。
下个月,又出现了一堆同样的收费。我再次打电话给他们,他们告诉我关于 Visa 账户更新服务的事情。我对此感到非常震惊,竟然会有这种事。我告诉他们我不想参与这个项目,他们说这是 Visa 处理的,不是他们。我打电话给 Visa,他们说他们不处理这个,是富国银行处理的。
我再次打电话给富国银行,他们说他们不知道如何选择退出。那位女士问了她的经理,经理也不知道。她花了一些时间搜索他们的文档,文档里什么也没有。她告诉我,万无一失的方法是完全关闭该账户,然后创建一个新账户,并使用一张新卡。我非常恼火,但还是照做了。
下个月,您猜怎么着?又出现了一堆同样的收费,而且是在一个我甚至还没有激活信用卡的全新账户上。我再次打电话给富国银行,他们更多地谈论了 Visa 账户更新服务,但无法关闭它或纠正这种情况。
现在我已经等了两个小时了,他们还在试图弄清楚该怎么处理这件事。我简直不敢相信这甚至是合法的,这是我见过的最疯狂的商业行为。我知道这在某些情况下可能很方便,但它显然是一个旨在延续向信用卡收费订阅的骗局。
希望这能帮助到下一个人。
1 分•作者: quadrin•7 个月前
1 分•作者: handfuloflight•7 个月前
1 分•作者: ak009•7 个月前
1 分•作者: mykowebhn•7 个月前
1 分•作者: CrankyBear•7 个月前
1 分•作者: gk1•7 个月前
2 分•作者: builtsimple•7 个月前
1 分•作者: herodotus•7 个月前
2 分•作者: coloneltcb•7 个月前
3 分•作者: toss1•7 个月前
8 分•作者: Hooke•7 个月前
3 分•作者: ryusufe•7 个月前
我制作了这个小型的 Linux 命令行工具,它的功能是管理你想要快速记住的简单事项,比如密码、命令或想法,这些是你可能需要记录下来的东西。<p>它的工作原理是允许你创建像类别一样的文件,每个文件都有自己的记忆列表,每个记忆都有自己的关键词,当你需要时,可以使用这些关键词来搜索记忆。<p>这个项目的创建有两个原因,首先是出于个人需要,我需要一个工具来记住我偶尔会用到的一些 Linux 命令。我知道我可以搜索一些类似功能的工具,但我希望通过这个项目来学习 shell 脚本,而且不使用第三方库,这样它应该可以在大多数 Linux 发行版上原生运行。<p>我欢迎贡献,如果贡献中包含注释,那就更好了。
13 分•作者: benbreen•7 个月前
1 分•作者: austinallegro•7 个月前