Swiggy developed an in-house predicted lifetime value model using more than 350 pre order features and a multi task MLP for Food and Instamart. Adding order count as an auxiliary task reduced...

神经网络通过前向传播、损失计算、反向传播和梯度下降进行训练。每个神经元执行线性打分和非线性激活，多个神经元组成层，层与层之间的非线性使网络能够拟合复杂函数。递归神经网络（RNN）通过引入状态，克服了多层感知器（MLP）在序列任务中的局限性。训练过程是参数在损失曲面上逐步优化的过程。

本文探讨了Transformer中的前馈网络（FFN），强调其在模型中的重要性。FFN占据了大约三分之二的参数量，是模型存储知识的主要部分。文章分析了FFN的结构、设计选择及其与注意力机制的关系，指出FFN负责每个token的内部计算，而注意力处理token间的通信。现代模型普遍采用SwiGLU替代ReLU，以提高性能。FFN的逐位置计算特性使其在推理时具有并行处理的优势，但也带来了量化时的挑战。整体来看，FFN在Transformer中扮演着核心角色。

本文探讨了EmbodiedOneVision模型，该模型通过交错的视觉-文本-动作预训练，实现灵活的多模态推理与动作生成。EO-1采用统一架构，结合离散自回归解码与连续流匹配，提升机器人控制的泛化能力，并强调多模态数据的重要性，提出新的训练方法以优化推理与执行的整合。

本文介绍了VITAL策略学习框架，通过将操作任务分为到达和局部交互两个阶段，结合视觉和触觉感知，提高机器人在精细操作中的成功率和泛化能力。VITAL利用视觉-语言模型进行目标定位，并通过触觉反馈实现高精度操作，克服了模仿学习和强化学习的局限性。

本研究提出了一种混合深度学习模型——TCN-MLP-注意力架构，用于哈斯鳄梨价格预测。该模型结合时间卷积网络、全连接神经网络和注意力机制，显著提高了预测精度，均方根误差为1.23。

本研究提出了TSKANMixer模型，将Kolmogorov-Arnold网络与时间序列混合器结合，以提高时间序列预测的准确性。实验结果表明，TSKANMixer在多个数据集上显著提升了预测性能，展示了KAN在增强传统多层感知器方面的潜力。

本研究提出了一种轻量级方法——重写样本化MLP（RSMLP），用于处理不完整话语重写任务。通过下采样策略提取潜在语义信息，从而提升理解能力。实验结果表明，RSMLP在数据集和实际应用中表现优异。

本研究解决了现代神经网络架构在表格数据上相较于传统多层感知器（MLP）表现不佳的问题。通过引入GG MoE模型，我们的关键发现是该模型在38个数据集上表现优越，并且相比MLP，MoE和GG MoE显著减少了参数数量，这为提高模型效率提供了新的思路。

本研究利用长短期记忆网络（LSTM）和多层感知机（MLP）分析帕金森病患者的语音信号特征，以提高早期诊断和疾病进展预测的准确性。结果表明，所选特征能有效预测疾病在2期和3期的进展。

本研究提出了一种边分裂多层感知机（ES-MLP），旨在解决传统信息传播神经网络在异类图节点分类中的局限性。ES-MLP结合了图-MLP和边分裂机制，能够有效区分相关和不相关的特征对。实验结果表明，ES-MLP在性能上与现有模型相当，但推理速度提高了2到5倍。

本研究提出了一种新方法，将基于注意力的多变量时间序列预测模型简化为多层感知机（MLP），通过前馈、跳跃连接和层归一化操作实现。结果显示，该方法显著降低了计算量，同时保持了可接受的性能，展示了其高效性和可行性。

研究表明，Transformer模型中的多层感知器（MLP）可能不是必需的。通过计算机视觉测试，简化后的Transformer在去除MLP、合并矩阵和使用对称相似度矩阵后，参数减少90%，性能仍与原始模型相似。

本研究利用PPG信号和深度CNN-MLP网络方法进行压力检测，准确率约为82%，表明PPG信号在压力检测中具有重要应用潜力。

该研究针对卷积神经网络在医学图像分割中对全局特征的适应性学习能力不足的问题，提出了一种新的动态分解混合器模块。通过在U型变换器架构中整合该模块，研究显示其在两个数据集上的分割性能优于其他先进的方法，具有显著的应用潜力。

科尔莫戈洛夫·阿诺德网络（KAN）作为多层感知器（MLP）的替代方案，展现出更高的准确性和可解释性，尤其在图回归任务中表现优异。通过DropKAN正则化方法，KAN的泛化性能得到提升。尽管计算成本较高，KAN在多个数据集上的表现与MLP相当，显示出广泛的应用潜力。

本研究探讨了Kolmogorov-Arnold Networks (KANs)作为多层感知器（MLPs）的替代方案，发现KANs在复杂数据处理和视觉任务中表现优越，尤其在医学图像分割和时间序列预测方面。尽管计算成本较高，但KANs在准确性和可解释性上具有潜力，能够减少训练数据需求并提高模型可靠性。研究还提出了改进KANs性能的方向。