用于计算机视觉的基础模型建立在视觉变换器(ViT)架构上,已经变得越来越普遍。然而,它们的微调过程资源密集,减缓了它们在边缘或低能耗应用中的采用。我们介绍了ALaST(ViT微调的自适应层选择),这是一种新颖的方法,动态优化微调过程,以显著降低计算成本、内存消耗和训练时间。我们的方法基于一个关键观察,即在微调期间

$LAYER

#BuiltonSolayer

@Solayer