2025·xLLM开源项目年度总结
迈向2026,xLLM 期待与各位继续携手,共同推动开源 AI Infra 生态的繁荣与发展。
·
xLLM 实现 Day0 支持智谱 GLM-5 大模型,深度优化华为昇腾推理性能。用户即日起可在 xLLM 中直接体验 GLM-5 的卓越性能,尤其针对华为昇腾平台完成了深度推理优化,推理效率显著提升。这是 xLLM 在国产芯片适配领域迈出的又一关键步伐。
回望2025年8月开源以来,xLLM 已全面完成对昇腾、寒武纪、摩尔线程、天数智芯等主流国产芯片的深度适配与优化,覆盖大语言模型、多模态、文生图及生成式推荐等核心AI场景,并在关键模型上取得高吞吐、低延迟的性能突破。通过与头部模型厂商的深度协同,我们实现从通用大模型到专业领域模型的快速支持,持续降低国产AI落地的门槛。
迈向2026,xLLM 期待与各位继续携手,共同推动开源 AI Infra 生态的繁荣与发展。

昇腾计算产业是基于昇腾系列(HUAWEI Ascend)处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务,https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链
更多推荐


所有评论(0)