近日，南边科技年夜学深港微电子学院2020级本科生魏子焜于视觉年夜模子边沿计较范畴取患上新进展，相干算法设计结果“FMTT : Fused Multi-head Transformer with Tensor-compression for 3D Point Clouds Detection on Edge Devices”被欧洲设计主动化与测试集会（Design, Automation Test in Europe Conference，DATE 2024）吸收，引导教员为深港微电子学院研究副传授黄瀚韬。

DATE集会与国际设计主动化集会（DAC）、国际计较机辅助设计集会（ICCAD）是EDA范畴程度最高的三年夜国际主流集会，是中国计较机学会（CCF）保举的计较机系统布局与高机能计较标的目的顶级国际学术集会，该集会每一年文章投稿量近千篇，吸收率仅有25%。

文章以南边科技年夜学为第一完成单元，深港微电子学院本科生为作者主体。为相识决3D物体检测算法于计较资源有限的边沿装备上难以部署的问题，本项目提出了一种新的基在张量压缩的算子压缩要领Fused Multi-head Transformer Tensor-compression(FMTT)。经由过程对于收集中多头留意力(Multi-head Attention)采用差别rank的TensorTrain(TT)压缩要领，使患上收集于可以提取特性图中差别等级信息的同时有用削减参数目，并于模子练习中动态均衡优化各分支权重。该要领不单对于3D点云方针检测收集VOTR举行了6倍有用压缩，并且提高了模子举行检测使命时的精度。使患上于资源有限的边沿装备上部署高精度的3D点云模子成为可能，对于解决年夜模子边沿侧推理问题有主要意义。

图一：主动驾驶3D车辆检测的可视化和非压缩模子与张量压缩模子的比力

图二：FMTT于留意力机制模块运用

相干事情于深港微电子学院余浩传授课题组引导下完成，并受深圳市高条理人材团队项目及科技部国度重点研发规划项目“战略性科技立异互助”重点专项项目撑持。