【推理引擎】常见AI推理框架
# 昇腾
昇腾官方文档
华为昇腾(HUAWEI Ascend)是华为公司推出的一系列人工智能处理器,标志着华为在自主设计人工智能(AI)芯片领域的重要进展。昇腾芯片基于华为自主研发的达芬奇架构,这一架构设计旨在优化 AI 计算的效率和性能,特别是针对深度学习任务进行了专门优化。
还可以去找一下 《昇腾 AI 处理器架构与编程:深⼊理解 CANN 技术原理及应⽤》等相关书籍。
# NCNN
腾讯 NCNN
ncnn 是一个为手机端极致优化的高性能神经网络前向计算框架。 ncnn 从设计之初深刻考虑手机端的部署和使用。 无第三方依赖,跨平台,手机端 cpu 的速度快于目前所有已知的开源框架。
more...