加速替代CUDA！摩尔线程开源vLLM-MUSA 加速国产GPU AI 人工智能 2024-11-06 76 快科技11月5日消息，近日，摩尔线程上线了大语言模型高速推理框架开源项目vLLM的MUSA移植版本，为开发者提供基于摩尔线程全功能GPU进行开源项目MUSA移植的范例。摩尔线程表示，正努力围绕自主研发的统一系统架构GPU、MUSA软件平台，构建完善好用的MUSA应用生态。vLLM是一个高效且易用的大模型推理和... 阅读全文
