本文提出了一种新的语言模型和点击率预测模型，通过协同建模和语义知识提取，实现了文本和表格之间的特征交互和对齐，适用于多种语言和CTR模型。

本文提出了一种基于图神经网络框架的点击率预测模型（Causal-GNN），采用GraphFwFM和GraphSAGE学习特征、用户和广告的图表示。实验证明该模型在AUC和Logloss上表现优越，并且GraphFwFM在因果关系特征图上有效捕捉高阶特征表示。