4作者: danielhanchen9 天前
嘿,Hacker News!我们很高兴发布 Unsloth Studio - 这是我们想为社区提供许多功能的集大成者 - 它包括: 1. 一个聊天用户界面,具有自动修复工具调用、Python 和 bash 代码执行、网络搜索、图像、文档输入等功能! 2. 使用 Auto AI Assist 数据准备对音频、视觉、LLM 进行微调 3. 支持 GGUFs、Mac、Windows、Linux + 音频生成 4. 在浏览器中进行 SVG 渲染,导出为 GGUF 5. gpt-oss 和谐渲染,所有推理参数均已预设并推荐 6. 数据设计器 + 合成数据生成 7. 快速并行数据准备 + 嵌入微调 8. 还有更多! 要获取它,请运行: ```bash pip install unsloth unsloth studio setup unsloth studio -H 0.0.0.0 -p 8888 ``` 欢迎提出建议,我们期待您的贡献,也欢迎大家试用!感谢大家!
10作者: kingcauchy9 天前
嗨,HN,很高兴与大家分享 Antfly:一个用 Go 编写的分布式文档数据库和搜索引擎,它结合了全文、向量和图搜索。你可以用它来进行分布式多模态搜索和记忆,或者用于本地开发和小规模部署。 我构建它的目的是为了给开发者提供一个单二进制部署,并具有原生 ML 推理能力(通过一个名为 Termite 的内置服务),这意味着除非你想使用外部 API 调用来进行向量搜索,否则你不需要这样做。 一些可能让大家感兴趣的点: 功能:多模态索引(图像、音频、视频)、MongoDB 风格的原地更新和流式 RAG。 分布式系统:基于 etcd 库构建的多 Raft 设置,由 Pebble(CockroachDB 的存储引擎)提供支持。元数据和数据分片拥有自己的 Raft 组。 单二进制:antfly swarm 给你一个单进程部署,一切都在运行。适用于本地开发和小规模部署。当需要时,通过添加节点进行扩展。 生态系统:附带 Kubernetes operator 和用于 LLM 工具使用的 MCP 服务器。 原生 ML 推理:Antfly 附带 Termite。可以把它想象成一个内置的 Ollama,也适用于非生成模型(嵌入、重新排序、分块、文本生成)。不需要外部 API 调用,但也支持它们(OpenAI、Ollama、Bedrock、Gemini 等)。 许可证:我选择了 Elastic License v2,而不是一个 OSI 批准的许可证。我知道这在这里是一个备受争议的话题。实际结果是:你可以使用它、修改它、自托管它、在其之上构建产品,但你不能将 Antfly 本身作为托管服务提供。这感觉是在可持续性与仍然提供源代码之间的一个正确的权衡。 很乐意回答关于架构、Raft 实现或任何其他问题。欢迎反馈!