本研究提出了一种新训练目标,通过对语义表示施加约束,增强正样本对齐。同时,针对BERT模型的注意力沉没现象,提出交叉注意力结构,以提升CLS标签的注意力和池化质量。该方法在多个语义文本相似度任务中表现优异。
本研究提出PASTA方法,解决条件3D形状生成中的信息损失和用户意图最大化问题。通过融合用户素描和文本描述,提升了素描的语义表示和部件级编辑能力,实现了先进的素描到3D形状生成效果。
耶鲁大学等研究人员提出了MindLLM模型,旨在将fMRI信号解码为文本,克服现有方法的局限性。该模型通过脑指令调整(BIT)增强语义表示能力,评估结果显示其在多项任务中优于基线,具备良好的适应性和可解释性,推动脑机接口的发展。
本研究提出了BrainWavLM模型,通过低秩适配微调WavLM编码模型,提升了对语言刺激反应的预测能力,增强了语音刺激的语义表示,展现出更高的编码性能和稳定性。
本研究提出了一种新框架,结合图变换器架构与LLM增强的节点特征,以克服现有图学习方法在深层文本语义捕捉上的局限。通过利用LLM生成丰富的语义表示,显著提升了节点分类任务中的图学习模型性能,展示了图网络与语言模型结合的潜力。
本文探讨了人机对话中的语义表示,提出了对话-AMR注释和多层对话结构注释模式,以揭示发言者间的语义关联,最终实现物理机器人与人类的双向对话与导航。
本研究提出了“语义中心假说”,探讨现代语言模型如何处理多样化输入。研究发现,不同语言中的语义表示相似,且共享表示空间的干预影响不同模态的数据处理,表明模型主动利用这一资源。
本研究提出了ContextIQ系统,旨在解决视频检索中对复杂内容理解的局限性。该系统通过多模态专家生成语义视频表示,提高检索准确性,改善品牌安全与内容过滤,并增强上下文广告效果。
该研究探讨了利用语义表示和强化学习进行机器人视觉导航的方法。通过构建情节语义地图,机器人能够在未知环境中高效导航并识别目标物体,显著提高了导航性能和决策能力。
本文探讨了如何通过大型语言模型提升多模态双编码检索系统在多语言和跨语言任务中的性能。研究表明,改进语义表示和检索模型能够有效提高语音与文本的匹配率,增强跨语言检索能力。
本文探讨了将嵌入空间转化为易理解的概念空间的方法,重点在于其在语义表示中的应用,包括发现偏见和比较模型差异。研究揭示了人类如何根据性别和国际性区分运动类别,并分析了词嵌入的可解释性及其在去除性别偏见中的应用。最后,提出了改进节点嵌入模型解释性的新方法,以增强低维句子嵌入的性能。
OV-3DETIC 是一种开放式词汇的 3D 点云检测器,通过图像分类监督和跨模态对比学习提升检测能力。UniM-OV3D 统一多模态场景理解,增强语义表示。Uni3D 解决室内外检测差异,UVTR 提高 3D 检测准确性。UniTR 处理多传感器数据,增强自动驾驶感知。M3DeTR 结合多种点云表示,取得优异检测性能。
本研究探讨了预训练语言模型(PLMs)输入分割对复杂单词语义表示的影响,发现DelBERT在语义探测任务中优于WordPiece分割的BERT,可能提高PLMs的泛化性能。此外,研究还涉及双语词典学习、跨语言调整及多语言模型的句法学习能力,结果显示多语言模型在某些任务上表现不如单语模型。
本文提出了一种通过对比学习策略改进概念嵌入的语义表示方法,采用新的上下文化向量替代传统方法,从而显著提升语义属性预测的准确性。研究还探讨了分离概念和属性编码器的有效性,以及基于向量空间嵌入的模型在概念表示中的应用,展示了其在医疗数据集和多类型关系抽取任务中的优越性能。
本文从几何视角揭示了Transformer操作的内部机制,说明层归一化将潜在特征限制在超球面上,塑造单词的语义表示。通过探究GPT-2模型,发现了早期层中的清晰查询-键注意力模式,并构建了关于注意力头部的特定主题性的先前观察。利用这些洞察,将Transformer描述为沿着超球面的词粒子的轨迹的建模过程。
SeaEval是一个多语种基础模型的评估基准,研究了模型对自然语言的理解、推理能力以及对文化实践、细微差别和价值观的理解。研究发现模型在给予释义指令时表现出不同的行为,需要更具有泛化能力的语义表示和增强的多语种上下文化能力。
本文介绍了TGAN,一种生成式模型,用于学习未标记视频的语义表示并生成视频。该模型通过时间生成器和图像生成器解决了现有GAN方法生成视频时的问题。采用了Wasserstein GAN模型和稳定的端到端训练方法以确保训练的稳定性。实验结果证明了该方法的有效性。
本文提出了一个综合考虑专利信息的专利分类框架,通过传递和聚合同级和不同级别的信息来推导IPC代码的语义表示。通过双通道聚合机制,整合相应申请人的先前专利。最后,结合IPC代码语义和申请人的顺序偏好的专利文本的上下文信息进行预测。实证分析表明该方法优于现有方法,并展示了该模型捕捉申请人的时间模式和IPC代码之间的语义依赖关系的能力。
完成下面两步后,将自动完成登录并继续当前操作。