Apple Machine Learning Research·· 29 天前精选AI 评分66
Apple 用 MLX 和 RDMA 在 Mac Studio 集群上运行近万亿参数 LLM
Local and Distributed Large LLM Inference with MLX and RDMA on Mac Studio
AI 导读
Apple 机器学习研究发布教程，介绍用最新版 MLX 在 Mac Studio 上本地运行 Muse Spark Open（816B 参数，MoE）、Mistral Medium 3.5 和 Qwen 3.8。
推荐理由
Apple 官方给出多台 Mac Studio 跑大模型的并行方案与实测数据，读者可对照评估本地推理的可行配置。
来源：Apple Machine Learning Research · machinelearning.apple.com