Together AI 研究与产品博客·AI 评分56
Together AI 推出 Dedicated Model Inference 生产级开放权重推理平台
The production platform for open-weight AI inference
AI 导读
Together AI 发布 Dedicated Model Inference 推理平台,面向开放权重、授权闭源权重和微调模型的生产部署。平台提供部署配置档、同一端点后多部署切换、金丝雀/蓝绿发布、A/B 测试、影子流量和可抓取的 Prometheus 观测端点;重建模型缓存与分发层后内部测试达到约 4× 更快的预热启动。
来源:Together AI 研究与产品博客 · together.ai