Berkeley AI Research·AI 评分49
从 CUDA 到 MLX:K-Search 如何将多年内核优化经验带到 Apple Silicon
From CUDA to MLX: How K-Search Brings Decades of Kernel Expertise to Apple Silicon
AI 导读
研究人员为 K-Search 增加 MLX 后端和 CUDA 到 MLX 的结构化翻译层,将现有内核优化经验适配到 Apple Silicon。其 Attention 内核性能达到原生 MLX 内核的 0.97x,Mamba SSM 内核的 prefill 速度较社区 mlx-lm 实现最高提升 20x。
来源:Berkeley AI Research · bair.berkeley.edu