1 分•作者: brandonb•9 天前
返回首页
最新
1 分•作者: Cena_Quant•9 天前
3 分•作者: andsoitis•9 天前
1 分•作者: rooseveltlai•9 天前
1 分•作者: tosh•9 天前
1 分•作者: gmays•9 天前
1 分•作者: httbs•9 天前
该项目完全开源。它接收一个单独
1 分•作者: vermilingua•9 天前
1 分•作者: ploofnexa•9 天前
2 分•作者: guzzul•9 天前
10 分•作者: brianzelip•9 天前
5 分•作者: marinoseliades•9 天前
各位 HN 的朋友,我们是 Prized (<a href="https://prized.dev">https://prized.dev</a>) 的创始人 Marinos 和 Hudson!Prized 能够让非工程师员工描述他们所需的内部工具,并获得一个全栈应用程序,该应用程序已连接到他们公司的数据并部署在公司登录系统之后,而无需他们处理 API 密钥或连接器。
演示视频:<a href
5 分•作者: sawfwair•9 天前
各位 HN 的朋友们!我是 mere.run 的作者。mere.run 是一个本地优先的推理运行时,围绕一个可安装的命令行界面(CLI)构建。我坚信,在可能的情况下,我们应该利用我们已有的设备(比如我们的 Mac 笔记本、闲置的性能不错的机器、我们的游戏 PC)以及我们方便获取的有限电力,就像我们身边的墙壁插座一样。我们不应该将数据发送到云端,寄希望于某些条款和条件能阻止它们被以我们不希望的方式使用。目前大多数本地 AI 解决方案都技术门槛高、操作复杂,并且会让好奇的用户陷入包管理的地狱。人们往往只针对一个系统进行优化,而忽略了另一个系统;如果你有 Mac,好用的功能都在 PC 上,反之亦然。
因此,mere.run 应运而生,旨在解决我所看到的许多问题。它集文本、聊天、代码、图像生成、语音(TTS+ASR)、视觉(字幕/地面分割/分割/跟踪/姿态/深度/人脸/OCR/等)、音乐、音效、视频、2D 转 3D、持久化世界、LoRA 训练以及我可能遗漏的其他一些功能于一身,并且能够以你习惯的方式工作,拥有一个可脚本化的 CLI、一个兼容 OpenAI 的服务器,以及可选的 Mac 原生应用。
它在 MLX 上使用原生 Swift 实现,没有 Python、PyTorch、diffusers 用于推理。对于 GGUF 的文本模型,它使用 llama.cpp,对于音视频混合则使用 FFmpeg。大多数没有 MLX 变体的上游发布版本都会被离线转换并托管在 Hugging Face 上。所有发布包都为 arm64(Mac 和 Cuda)以及 x86 构建。它们都经过签名并附带 SHA256SUMS。目前暂不支持 Windows。
> mere.run model capabilities --recommended # 这个命令会检查你的机器,然后推荐适合你配置的模型,防止拉取不兼容的模型。
它提供了一个工作流层,具有类型化、经过验证的图表,你可以创建不可变的作业包,并在本地、通过 SSH 执行器或使用机器集群和中继服务来运行它们。(中继服务托管在 relay.mere.run,目前是邀请制,我正在测试,但它也是完全开源的 MIT 协议,你也可以自行搭建。)
整个运行时以及配套的包都采用 MIT 协议,模型则遵循各自的许可证,CLI 会清楚地标明是否有特定条款。一旦你拉取了模型,所有功能都可以完全离线工作。
我一直在努力编写一份(希望是)全面的文档 -> [https://docs.mere.run](https://docs.mere.run)
没有账户、没有 API 密钥、没有分析或“呼叫回家”功能。源代码中任何的网络调用都仅在你主动请求时发生,例如访问 huggingface.co(模型)或 GitHub.com(Pi 安装)。
我才刚刚起步,但它终于达到了一个我非常希望得到反馈、贡献,以及希望大家都能觉得它很有用的阶段。我希望它能帮助你创造事物,并探索利用你家中已有的设备所能实现的可能。
非常欢迎任何想法、问题、建议,如果你喜欢的话,也请给个 star。
-Kyle
2 分•作者: thekey•9 天前
- 你花费多少时间在浏览源代码上?
- 你对此有多烦恼?
- 你有什么应对策略?
- 你在使用哪些工具?
- 多语言导航方面呢?
- 你如何帮助新人上手/引导他们到正确的位置——并提供上下文?
70 分•作者: ryannevius•9 天前
24 分•作者: notarobot123•9 天前
5 分•作者: swq115•9 天前
127 分•作者: speckx•9 天前
2 分•作者: morcules•9 天前
SwiftNet 是一个 C 语言编写的小型网络库,它通过 libpcap 工作在第二层(数据链路层),并且现在有一个非常初期的 DPDK 实现。
我构建它是因为我厌倦了使用套接字或复杂的库,想要一个足够简单,能够用于我的游戏,同时又能通过编译时定制实现高性能的库。
0.6.0 版本更新:
- 动态库构建
- 更改了 buffer 函数的 API
- 简单的 DPDK 实现,目前仅可用于回环(loopback)
- 更整洁的源代码
- 启用了最大警告级别进行构建
- 为 buffer 添加了写入偏移量函数
- 性能优化
- 在 Ubuntu Linux arm64 上可用
- 添加了 DISABLE_DYNAMIC_RATE_LIMITING 标志
新版本发布:https://github.com/Morcules/SwiftNet/releases/tag/0.6.0
代码仓库:https://github.com/Morcules/SwiftNet
1 分•作者: healthai•9 天前