【AI编译】Tiling操作能优化什么时间
# 前言
本篇讲解 Tiling 操作为什么能够优化神经网络推理。
也可以参考 《Ascend C 算子优化实用技巧 04——Tiling 优化》
作为初学者,错误在所难免,还望不吝赐教。
# 什么是 tiling
无法完整的容纳算子的输入与输出,需要每次搬运一部分输入进行计算然后搬出,再搬运下一部分输入进行计算,直到得到完整的最终结果,这个数据切分、分块计算的过程称之为 Tiling,切分数据的算法称为 Tiling 算法或者 Tiling 策略。
# tile 算子和 tiling 的区别
我们先问一问语言大模型两者的区别:
# 神经网络推理中的 Tile 算子
在神经网络中,会发现 ti
more...





