MIM-V-iBOT
📝
内容提要
@Read: AikenHong 2021 @Author: https://arxiv.org/abs/2111.07832 @解读:Machine Heart 基本思想基于NLP中的MLM(Masked Language Model)的核心训练目标: 也就是遮住文本的一部分, 然后通过模型去预测和补全, 这一过程是模型学到泛化的特征,...
➡️
@Read: AikenHong 2021 @Author: https://arxiv.org/abs/2111.07832 @解读:Machine Heart 基本思想基于NLP中的MLM(Masked Language Model)的核心训练目标: 也就是遮住文本的一部分, 然后通过模型去预测和补全, 这一过程是模型学到泛化的特征,...