贾扬清共一论文获ICML时间检验奖:首个开源版AlexNet,著名框架Caffe前身,最佳论文奖也已公布
内容提要
贾扬清的论文“DeCAF: A Deep Convolutional Activation Feature for Generic Visual Recognition”获得ICML 2024时间检验奖。该论文提出了深度卷积激活特征DeCAF,用于解决通用视觉识别问题。通过实验,DeCAF在多个任务上表现出色,包括对象识别、域适应、细粒度识别和场景识别。论文还分析了网络各层的计算时间分布,并开源了DeCAF特征提取工具和预训练模型。ICML 2024还公布了最佳论文奖,其中包括Stable Diffusion 3论文和“Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution”论文。
延伸解读
时间检验奖的意义
ICML时间检验奖旨在表彰十年前发表且对领域产生深远影响的论文。DeCAF获奖,说明其在迁移学习和深度特征表示方面的贡献经受住了时间考验。该论文被引超6000次,也印证了其影响力。
DeCAF与Caffe的渊源
贾扬清在回应网友时透露,DeCAF训练速度不够快,估计需超过一个月,因此他们转而开发了Caffe。两者名称都含咖啡因,但DeCAF不含caffeine,Caffe含caffeine,寓意人和机器含咖啡因都运行得更快。
DeCAF的核心方法
DeCAF基于AlexNet架构,在ImageNet上预训练后冻结权重,提取不同层的激活作为特征,并在新任务上仅训练线性分类器。实验表明,这些特征在对象识别、域适应、细粒度识别和场景识别等任务上表现优异,验证了迁移学习的可行性。
最佳论文奖亮点
ICML 2024最佳论文奖共颁发10篇,包括Stable Diffusion 3论文“Scaling Rectified Flow Transformers for High-Resolution Image Synthesis”和“Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution”。这些工作代表了生成模型和扩散模型领域的前沿进展。
Q&A
贾扬清的论文获得了什么奖项?
贾扬清的论文获得了ICML 2024时间检验奖。
DeCAF是什么?
DeCAF是深度卷积激活特征,用于解决通用视觉识别问题。
DeCAF在视觉识别任务中的表现如何?
DeCAF在对象识别、域适应、细粒度识别和场景识别等任务上表现出色,常常超越当时的最佳方法。
论文中提到的计算时间分布有什么发现?
论文分析了网络各层的计算时间分布,发现全连接层占用了大部分计算时间。
ICML 2024最佳论文奖有哪些获奖论文?
ICML 2024最佳论文奖包括Stable Diffusion 3和“Discrete Diffusion Modeling by Estimating the Ratios of the Data Distribution”等论文。
DeCAF的开源工具和模型有什么意义?
开源的DeCAF特征提取工具和预训练模型使得其他研究者能够使用和验证其特征迁移学习的可行性。