最新

我一直在努力简化 WebRTC 与嵌入式设备结合使用的过程，已经有好几年了。这是一个黑客马拉松项目，汇集了我的一些研究成果。我希望其他人能够在此基础上继续开发，或者受到启发去玩转硬件。我与另外两个人一起完成了这个项目，我对其中一些想法感到非常有趣。 * 可扩展/可修改 - 我尽量保持代码的简洁性，以便其他人可以轻松地进行分支/修改。 * 通过光进行通信。通过函数调用来改变灯泡的颜色，使其能够匹配你的心情或感受。 * 从你控制的客户端获取信息。我想尝试让它引导你回顾昨天/今天发生的事情。 * 手机作为控制中心。设置新设备可能会令人沮丧。我喜欢这个项目不需要任何 WiFi 设置，它只是通过你的手机路由所有内容。而且，设备实际上没有任何敏感数据，这也很酷。

Lemonade 是一款开源 SDK 和本地 LLM 服务器，旨在让您轻松地在自己的 PC 上运行和试验大型语言模型 (LLM)，并为 NPU（Ryzen™ AI）和 GPU（Strix Halo 和 Radeon™）提供特殊的加速路径。 **为什么？** 本地 LLM 服务堆栈需要具备三个特质，而市场领导者（Ollama、LM Studio 或单独使用 llama.cpp）都无法同时满足这三个要求： 1. 为用户的硬件使用最佳后端，即使这意味着集成多个推理引擎（llama.cpp、ONNXRuntime 等）或自定义构建（例如，带有 ROCm beta 版本的 llama.cpp）。 2. 从入职到应用程序集成再到高性能，为用户和开发人员提供零摩擦。 3. 致力于开源原则并在社区中协作。 **Lemonade 概述：** * **简单的 LLM 服务：** Lemonade 是一个即插即用的本地服务器，提供与 OpenAI 兼容的 API，因此任何与 OpenAI 的端点通信的应用程序或工具都可以与 Lemonade 的本地模型“直接使用”。 * **性能导向：** Lemonade 由 llama.cpp（用于 GPU 的 Vulkan 和 ROCm）和 ONNXRuntime（用于 NPU 和 iGPU 的 Ryzen AI）提供支持，可充分利用您的 PC，无需额外的代码或黑客技术。 * **跨平台：** Windows 一键安装程序（带 GUI），Linux 的 pip/源代码安装。 * **自带模型：** 支持 GGUF 和 ONNX。开箱即用地使用 Gemma、Llama、Qwen、Phi 等。轻松管理、拉取和交换模型。 * **完整的 SDK：** 用于 LLM 生成的 Python API 和用于基准测试/测试的 CLI。 * **开源：** Apache 2.0（核心服务器和 SDK），无功能限制，无企业“陷阱”。所有服务器/API 逻辑和性能代码都是完全开放的；NPU 依赖的某些软件是专有的，但我们力求尽可能开放（详情请参阅我们的 GitHub）。与 GGML、Hugging Face 和 ROCm/TheRock 积极合作。 **开始使用：** * **Windows？** 从 <https://lemonade-server.ai/> 下载最新的 GUI 安装程序 * **Linux？** 使用 pip 或从源代码安装 (<https://lemonade-server.ai/>) * **文档：** <https://lemonade-server.ai/docs/> * **Discord 用于闲聊/支持/反馈：** <https://discord.gg/5xXzkMu8Zk> **如何使用？** * 从开始菜单中单击 lemonade-server * 在浏览器中打开 http://localhost:8000 以获取带有聊天、设置和模型管理的 Web UI。 * 将任何与 OpenAI 兼容的应用程序（聊天机器人、编码助手、GUI 等）指向 http://localhost:8000/api/v1 * 使用 CLI 运行/加载/管理模型，监视使用情况，并调整温度、top-p 和 top-k 等设置。 * 通过 Python API 集成，以便在您自己的应用程序或研究中直接访问。 **它适用于谁？** * **开发人员：** 使用标准 API 和零设备特定代码将 LLM 集成到您的应用程序中，使用流行的工具和框架。 * **LLM 爱好者，即插即用：** * Morphik AI（上下文 RAG/PDF 问答） * Open WebUI（现代本地聊天界面） * Continue.dev（VS Code AI 编码副驾驶） * … 还有更多集成正在进行中！ * **注重隐私的用户：** 无云调用，一切都在本地运行，包括高级多模态模型（如果您的硬件支持）。 **为什么这很重要？** * 每个月，新的设备端模型（例如，Qwen3 MOE 和 Gemma 3）都在接近云 LLM 的能力。我们预测，仅出于成本原因，很多 LLM 使用将转移到本地。 * 将您的数据和 AI 工作流程保留在您自己的硬件上最终变得实用、快速且私密，没有供应商锁定，没有持续的 API 费用，也没有将您的敏感信息发送到远程服务器。 * Lemonade 降低了运行这些下一代模型的摩擦，无论您是想进行试验、构建还是在边缘部署。 欢迎您的反馈！ 您是否在 AMD 硬件上运行 LLM？缺少什么，坏了什么，您希望接下来看到什么？您希望我们解决 Ollama、LM Studio 或其他方面的哪些痛点？ 分享您的故事、问题或吐槽。 **链接：** * 下载和文档：<https://lemonade-server.ai/> * GitHub：<https://github.com/lemonade-sdk/lemonade> * Discord：<https://discord.gg/5xXzkMu8Zk> 感谢 HN！

我的侄女们今年6岁，很快就要上小学了。<p>她们很聪明，我想知道有没有好的教育型电脑，能让她们按照自己的节奏学习，比如数学、地理、编程等等。<p>她们会接受巴斯克语/西班牙语/英语的教育，但她们的英语还不太好，所以最好至少有巴斯克语或西班牙语的版本。<p>谢谢！