预训练语言模型在 NLP 的各个应用中都有及其广泛的应用，本⽂简要介绍 CKBERT 的技术解读，以及如何在 EasyNLP 框架、HuggingFace Models 和阿里云机器学习平台PAI 上使⽤ CKBERT 模型。

本⽂将提供对MacBERT模型的技术解读，以及如何在EasyNLP框架中使⽤MacBERT及其他预训练语言模型，进行中英文机器阅读理解任务的训练与预测。

本⽂简要介绍我们在电商下对CLIP模型的优化，以及上述模型在公开数据集上的评测结果。最后，我们介绍如何在EasyNLP框架中调用上述电商CLIP模型。

EasyNLP集成K-BERT算法，使⽤户在具有知识图谱的情况下，取得更好的模型Finetune效果。

我们在EasyNLP框架中集成了中文文图生成功能，同时开放了模型的Checkpoint。