一周热榜

在真实硬件上对 AI 模型进行基准测试比看起来要难得多。在 AMD、NVIDIA、Apple Silicon、Intel 和高通等硬件厂商，加上数百个开源模型和量化模型，要搭建正确的测试平台是一项挑战。 因此，我们让它变得极其简单。我们正在开源我们的内部测试工具。任何人都可以运行开源模型在自己的硬件上，并将结果提交到公开排行榜。 该工具现已上线，已有数百个提交结果。 如果您想知道特定模型在给定硬件上的性能表现，很可能相关数据已经存在。 这是我们内部用来跟踪模型和芯片性能的同一款工具。不妨试试，并告诉我们您希望改进的地方。

创建自定义斜杠命令，可在任何网站上即时插入文本、代码片段、变量等。