跳到正文
Together AI 研究与产品博客·AI 评分56

Together AI 推出 Dedicated Model Inference 生产级开放权重推理平台

The production platform for open-weight AI inference

AI 导读

Together AI 发布 Dedicated Model Inference 推理平台,面向开放权重、授权闭源权重和微调模型的生产部署。平台提供部署配置档、同一端点后多部署切换、金丝雀/蓝绿发布、A/B 测试、影子流量和可抓取的 Prometheus 观测端点;重建模型缓存与分发层后内部测试达到约 4× 更快的预热启动。

来源:Together AI 研究与产品博客 · together.ai