Ask HN: 在 Google TPU 上运行模型的最佳后端是什么？
2 分•作者: vood•11 天前
我买了 Pixel 10 Pro，想在上面运行 parakeet (或 whisper) 模型来实现语音转文本功能。我正在开发一个 AI 听写应用 (aidictation.com)。但我一直在寻找在设备上运行这个模型的方法，却无果。现在只能被迫使用 groq API，这并非最佳方案。
有什么建议吗？
查看原文
So, I got Pixel 10 Pro, and I'd like to run parakeet (or whisper) model on it for voice to text. I'm building an ai dictation app (aidictation.com). I'm struggling to find a way to run this model on device. I have to reserve to use groq API, which is suboptimal.<p>Any recommendations?