导入类库：


import android.content.Intent;



Logo
昇腾开源生态专区

昇腾计算产业是基于昇腾系列（HUAWEI Ascend）处理器和基础软件构建的全栈 AI计算基础设施、行业应用及服务，https://devpress.csdn.net/organization/setting/general/146749包括昇腾系列处理器、系列硬件、CANN、AI计算框架、应用使能、开发工具链、管理运维工具、行业应用及服务等全产业链

更多推荐

【基于昇腾平台的CodeLlama实践：从环境搭建到高效开发】

本文介绍了在华为昇腾Atlas 800T NPU平台上部署Meta-Llama-3-8B-Instruct模型的实践过程。首先通过GitCode平台的昇腾Notebook快速搭建开发环境，然后下载模型并配置PyTorch适配环境。文章详细展示了环境验证方法，并提供了多轮对话旅游咨询的推理示例代码，包含线程优化配置和NPU适配技巧。整个流程体现了国产算力平台与开源大模型结合的应用潜力，为开发者提供了

avatar 昇腾开源生态专区
cover

在昇腾 NPU上跑通 Mistral-7B：从环境避坑到 100% 算力释放

avatar 昇腾开源生态专区

自定义算子开发系列：Ascend C RTC即时编译

传统算子静态编译技术通过提前将算子编译成可执行的二进制数据保存到存储设备，供算子调用程序运行时加载调用。在当前大模型的应用场景下，该编译方式存在了以下两点挑战：1.大模型的输入语句不定长，使得模型中算子shape不确定，静态编译方式难以为每个shape提供最佳的算子性能。2.算子通常都需要持续优化迭代，静态编译方式下由于算子对于调用程序的交付件是算子二进制文件，每次迭代需要重新编译算子，维护和优化

avatar 昇腾开源生态专区