自动驾驶汽车必须计算出周围所有其他车辆、行人和障碍物在三维空间中的位置，而且必须依靠安装在车内的计算机每秒完成多次这样的计算，而非在数据中心完成。韩国一个大学研究团队表示，他们已经找到一种方法，可以在不损失精度的前提下压缩执行识别功能的软件。
Kookmin University表示，该校人工智能与软件系的两名硕士研究生与现代汽车公司合作，开发出了一种名为SharedKD的压缩方法，用于自动驾驶中的三维物体检测模型。赵贤俊和安尚浩在金章浩的研究小组中完成了这项工作，相关论文已于7月在加利福尼亚州长滩举行的设计自动化会议上发表。
该方法所针对的问题，源于两种需求之间的矛盾。检测模型越大，精度越高，但汽车无法装载一整套服务器，而且如果模型需要多花几分之一秒才能得出结果，就意味着它发现危险时已经为时已晚。任何在车辆上运行的系统都必须适配有限的算力、电力及散热预算。
标准的解决方案是一种名为知识蒸馏的训练技术。工程师们先构建一个大型而精确的模型（称为教师模型），然后利用其输出来训练一个体积小得多的模型（学生模型），使得小型模型学会模仿大型模型的判断，而不仅仅是依靠原始数据进行学习。其结果是，即便模型在普通的硬件上运行，其表现也比它自身尺寸所应具备的能力更接近其大型父模型。蒸馏通常需要构建并训练两个独立的模型。
SharedKD省去了第二个模型。完整的网络作为教师模型，而通过对该网络进行剪枝（即关闭那些被判定为作用不大的连接）所提取出的子网络则作为学生模型。在训练过程中，系统利用梯度——即告诉神经网络各部分对最终答案贡献程度的信号——来决定保留哪些部分。这种选择是在训练过程中动态进行的，而非预先固定。
实践中的差异在于流程顺序。压缩通常是在模型完成训练后对其进行的操作，即对已训练好的模型进行精简。而SharedKD则是在训练大型模型的同时寻找可部署的小型模型，两者相互配合，使得各自都能促进对方的学习效果。Kookmin University表示，该方法既减少了检测模型所需的计算量，也缩短了得出结果所需的时间，并预计该技术将应用于车载系统和边缘AI（即在设备本地运行而非将数据发送至远端处理的人工智能统称）。具体的压缩幅度尚未公开。该校未公布SharedKD的性能数据，未指明用于对比的基准模型或测试数据集，也未说明该方法是否已在车规级硬件上运行，还是仅在实验室环境下进行。Kookmin University和现代汽车均未描述将该技术应用于量产车辆的计划。
模型压缩是金章浩本人的专业领域。他于2022年9月从Naver Webtoon的AI研究实验室加入Kookmin University，此前从事元学习研究，其博士研究涉及深度学习模型随能力提升而趋于臃肿的问题。
Kookmin University表示，该项目体现了该校“KMU Vision 2035: EDGE”战略，该战略确定了八大重点领域，而该项目恰位于其中两个领域的交汇处，即AI+X方向与出行方向。
（素材来自：Kookmin University 智算芯能前沿网综合）
本文由智算芯能前沿网编辑整理，转载请注明出处。