最新

一位熟人问了我一个简单的问题——我们如何联系？我不想提供我的手机号码，而且 Zoom Free 有很多限制。然后我想，我们为什么需要这些来简单地进行一对一交流呢？ 于是我使用 WebRTC 创建了一个会议工具——它不需要任何账户设置或密码，因为它是 P2P 的。后端不存储任何信息。网络录制会保存在本地。可以共享屏幕。可以在手机和网页上使用。还可以安排会议并将其添加到您的日历中。 在完成这个工具后，我之前正在对一个听写/笔记工具进行初步探索——同样的精神——无需账户/密码——所有内容都使用 WebGPU 和小型 LLM 在本地完成。令我惊讶的是，小型 LLM 在这个用例中效果很好。 现在我完成了这个，然后我通过 iframe 将 AI 笔记工具集成到了会议工具中，现在我拥有了一个简单、朴实的会议工具，它感觉不那么基础。 ____________ 之后，我的儿子想创作个性化的睡前故事——是的，他想成为故事的主角。但是 Gemini、Claude、ChatGPT 都无法创作真正长篇的睡前故事——语音功能大约一分钟后就会停止，需要你一直说“继续”，即使这样故事的长度也不够长。而且我不想让个人信息进入任何云端内存。 所以，秉持着无需账户/密码、所有内容都在本地使用 WebGPU 的理念，我创建了故事制造器。我花了一些时间才让分块策略与小型 LLM 配合良好，但现在它可以创作长篇故事，然后我使用了 SuperTone 3 进行旁白。对于所有小型 LLM，我都在使用 ONNX。 在此过程中，我还创建了一些简单的工具——网页阅读器、文档阅读器。还有一个有趣的聊天机器人——AI 精神——它只是一个具有个性的本地 LLM——如果你愿意，可以称之为迷你/微型 Characters.ai。所有这些工具都可以在 voice.cogumi.com 上找到。 还有两个——实际上是两个——从提示生成图像的工具，以及从涂鸦生成艺术的工具，都使用本地 LLM。但这个工具有点慢。 请尝试一下，并在评论区或直接发送邮件至 hello@cogumi.com 告诉我您的想法。 我计划继续创建这类回馈社会的工具。我想，像我一样，很多人都想减少订阅费用。许多人会因为管理本地环境来运行本地 LLM 而感到沮丧。所以这是我解决这个问题的尝试。