1亿参数的细胞大模型来了！登Nature子刊，清华大学团队发布scFoundation：对2万基因同时建模
原文中文，约6700字，阅读约需16分钟。
📝
内容提要
清华大学研究人员发表了一篇名为「Large-scale foundation model on single-cell transcriptomics」的研究论文，介绍了一种名为scFoundation的细胞大模型，能够同时处理约2万个基因，具有卓越的性能提升。研究人员通过构建全面的单细胞数据集进行模型训练，结果显示scFoundation模型在细胞药物响应预测和细胞扰动预测等任务中表现出卓越性能。该研究为建立细胞预训练大模型提供了新的思路和方法，拓展了单细胞领域基础模型的边界。
❓
Q&A
scFoundation模型的主要功能是什么？
scFoundation模型能够同时处理约2万个基因，主要用于细胞药物响应预测和细胞扰动预测等生物医学任务。
scFoundation模型是如何解决单细胞数据训练中的挑战的？
该模型通过构建全面的单细胞数据集，采用非对称设计和RDA建模任务，解决了数据组织松散和测序深度差异等问题。
scFoundation模型的参数规模和数据来源是什么？
scFoundation模型拥有1亿参数，基于5000万个细胞的基因表达数据进行训练。
scFoundation在癌症药物反应预测中的表现如何？
scFoundation在癌症药物反应预测中表现优异，能够提供更高的皮尔逊相关系数，促进更准确的IC50预测。
scFoundation模型的预训练任务是什么？
scFoundation模型的预训练任务是RDA建模，旨在考虑测序深度的高方差，提升基因表达预测的准确性。
scFoundation模型的设计有什么特点？
scFoundation模型采用非对称设计，减少计算和内存挑战，确保在处理大规模数据时的高效性。
🏷️
