Hacker News:AI 热帖· tensward·· 23 小时前AI 评分68
Tensward 0.4.2 发布:本地 LLM 推理自动调优工具开源
Show HN: Tensward – Local AI inference optimisation
AI 导读
Tensward 0.4.2 开源发布,本地测量 vLLM 或 llama.cpp 的推理表现,每次只提出一处改动,仅当更快且答案通过检查时保留。
来源:Hacker News:AI 热帖 · github.com
Show HN: Tensward – Local AI inference optimisation
Tensward 0.4.2 开源发布,本地测量 vLLM 或 llama.cpp 的推理表现,每次只提出一处改动,仅当更快且答案通过检查时保留。
来源:Hacker News:AI 热帖 · github.com