EN
2022年03月25日研究成果

数据流表示和分析框架TENET

梁云团队

北京大学信息科学技术学院研究员、智源青年科学家梁云团队首次提出了基于关系的形式化方法完备地表示了硬件数据流的设计空间。空间架构(spatial architectures)具有高并行性、高能效的特点,是当前加速人工智能算子的主流架构。然而,这类架构在加速具体张量运算时会存在各式各样的数据流,这些数据流对应着不同的延迟、性能、功耗。为了加快设计空间探索并找到适合架构的数据流,需要一个准确的性能模型来评估各种数据流方案。之前提出的技术在表达性,模型准确性方面都存在很多不足。这项工作提出了数据流表示和分析框架TENET,该框架通过建立张量算子与硬件架构的连接(relation-centric notation)来表示数据流。这种表示法既考虑到了具体算子计算模式的特点,又能够紧密地与硬件设计相关联。


梁云.jpg


Liqiang Lu, Naiqing Guan, Yuyue Wang, Liancheng Jia, Zizhang Luo, Jieming Yin, Jason Cong, Yun Liang. “TENET: A Framework for Modeling Tensor Dataflow Based on Relation-centric Notation”. The 48th International Symposium on Computer Architecture (ISCA'21), 2021


分享到: