跳到正文
Hacker News:AI 热帖· tensward·· 23 小时前AI 评分68

Tensward 0.4.2 发布:本地 LLM 推理自动调优工具开源

Show HN: Tensward – Local AI inference optimisation

AI 导读

Tensward 0.4.2 开源发布,本地测量 vLLM 或 llama.cpp 的推理表现,每次只提出一处改动,仅当更快且答案通过检查时保留。

来源:Hacker News:AI 热帖 · github.com