3作者: ericcurtin8 个月前
嘿,Hacker News, 我们是 docker/model-runner 的维护者,想分享一些我们非常兴奋的重大更新。 链接:[https://github.com/docker/model-runner](https://github.com/docker/model-runner) 我们正在重启社区: [https://www.docker.com/blog/rebooting-model-runner-community/](https://www.docker.com/blog/rebooting-model-runner-community/) 从本质上讲,model-runner 是一个简单、与后端无关的工具,用于下载和运行本地大型语言模型。可以把它想象成一个与不同模型后端交互的一致接口。我们的主要后端之一是 llama.cpp,并且我们致力于将我们所做的任何改进贡献回他们的上游项目。它还允许人们通过 OCI 注册中心(如 Docker Hub)传输模型。Docker Hub 托管着我们精心策划的本地 AI 模型集合,这些模型被打包为 OCI Artifacts 并准备运行。您可以在 Docker Hub 上轻松下载、共享和上传模型,使其成为容器化应用程序和下一波生成式 AI 的中心枢纽。 我们最近一直在努力做几件事: * Vulkan 和 AMD 支持:我们刚刚合并了对 Vulkan 的支持,这为本地推理打开了更广泛的 GPU 范围,尤其是来自 AMD 的 GPU。 * 贡献者体验:我们将项目重构为 monorepo。主要目标是使架构更清晰,并大大降低新贡献者参与和理解代码库的门槛。 * 完全开源:我们知道来自 Docker 的项目可能会引起对其开放性的疑问。需要明确的是,这是一个 100% 开源的、Apache 2.0 许可的项目。我们希望围绕它建立一个社区,并欢迎所有贡献,从文档修复到新的模型后端。 * DGX Spark day-0 支持,我们已经实现了! 我们的目标是壮大社区。我们将全天候在这里回答您提出的任何问题。我们希望您能去看看,如果喜欢,请给我们点个星,并告诉我们您的想法。 谢谢!
1作者: jeroenjanssens8 个月前
我想和大家分享一个我为 Plotnine 制作的速查表,Plotnine 是一个 Python 的数据可视化包。<p>即使以 ggplot2 的速查表为基础,我可能也从未在两页纸上花费如此多的时间。希望它对您有所帮助。
1作者: Screen87748 个月前
重要提示 - 请务必先阅读: 这是一个仍在开发中的项目,并且是闭源的(这就是蜜罐的样子)。要查看开源的 MVP 版本,请访问 [此处](<a href="https:&#x2F;&#x2F;github.com&#x2F;positive-intentions&#x2F;chat" rel="nofollow">https:&#x2F;&#x2F;github.com&#x2F;positive-intentions&#x2F;chat</a>)。我的所有项目都未经过审计或审查。我提供它们仅用于测试和演示目的,而不是为了取代您当前的即时通讯应用(或您使用的任何其他应用)。 在使用未经审计的软件时请务必谨慎... 请勿用于敏感用途。 --- 现在我已经用警告敲打了你的头... 想发送无需下载、无需注册、无追踪的加密 WebRTC 消息和视频通话吗? 这个原型使用 WebRTC 建立加密的浏览器到浏览器连接。所有内容都是短暂的,并在您刷新页面时清除 - 真正的零数据隐私! 查看预发布演示。 - 演示:<a href="https:&#x2F;&#x2F;p2p.positive-intentions.com&#x2F;iframe.html?globals=&amp;id=demo-p2p-messaging--p-2-p-messaging&amp;viewMode=story" rel="nofollow">https:&#x2F;&#x2F;p2p.positive-intentions.com&#x2F;iframe.html?globals=&amp;id=...</a> - 网站:<a href="https:&#x2F;&#x2F;positive-intentions.com" rel="nofollow">https:&#x2F;&#x2F;positive-intentions.com</a> - Mastodon:<a href="https:&#x2F;&#x2F;infosec.exchange&#x2F;@xoron" rel="nofollow">https:&#x2F;&#x2F;infosec.exchange&#x2F;@xoron</a>
2作者: dotancohen8 个月前
我是一个 Kubuntu 用户,正在编写一个用于组织个人知识库的应用程序。我很快将添加 MCP 支持,但我还没有选择桌面代理。欢迎提出建议。