本文汇总了多项机器学习系统研究：p-Meta实现IoT设备模型的高效少样本适应；Holmes为LLM提供异构网络可扩展训练框架；软硬件协同设计使大规模DLRM训练提速40倍；ScaML-GP以多任务核实现可扩展元学习；新并行方法支持万亿参数模型训练；分散系统利用消费级GPU协同训练大模型；DLRM模型并行缓解内存限制；元学习框架实现用户自适应模型选择；GPU缓存动态管理embedding表；层级潜变量模型提升元学习数据利用率。

在大模型时代的浪潮中，机器学习系统正经历着前所未有的变革。大模型在训练和部署上面临挑战，但也带来了新的机遇。云端部署目前更为主流，国产芯片在推理领域发展和挑战值得关注。大模型的部署仍有发展空间。

该文章讨论了机器学习系统中数据毒化攻击的问题，并提出了一种防御方法。该方法在MNIST-1-7和Dogfish数据集上表现出较强的防御能力，但在IMDB情感数据集上添加3%的毒化数据会导致测试误差上升至23%。

本文研究了机器学习系统中的信息流控制，利用元数据确保隐私和机密性。通过比较微调模型和检索增强模型，证明检索增强架构具有最佳效用、可扩展性和灵活性。

本文介绍了一种基于自适应浓度不等式的可扩展算法，用于验证机器学习系统在进行社会决策时是否会对少数族裔造成不公平待遇，并在一个名为 VeriFair 的工具中实现了这个算法。该算法能够扩展到大的机器学习模型，包括一个比先前已验证过的神经网络大五个数量级的深度循环神经网络。虽然该技术只提供概率保证，但可以选择非常小的误差概率。

该文章讨论了对使用用户数据训练的机器学习系统进行数据毒化攻击的问题，并提出了一种防御方法。该方法在MNIST-1-7和Dogfish数据集上表现出较强的防御能力，但在IMDB情感数据集上加入3%的毒化数据会导致测试误差从12%提升至23%。

本文介绍了一种通过多元宇宙分析方法将隐含的设计决策转化为明确的决策，并展示其公平性影响的方法。研究结果展示了机器学习系统设计中的决策对公平性的影响，并介绍了如何使用多元宇宙分析来检测这些影响。

搜索引擎的索引和搜索易受文本编码攻击，攻击者使用不常见的编码形式扰动文本，操纵搜索结果。这种攻击适用于商业搜索引擎和开源搜索引擎，以及聊天搜索和文本摘要总结。攻击者可以误导用户，推动虚假信息传播。攻击还可限制对文本文件的搜索能力。攻击者通过隐藏和呈现恶意内容来操纵搜索引擎。攻击影响商业搜索引擎和机器学习系统。实验评估了不同搜索引擎和攻击技术的影响。攻击者可以通过扰动查询结果，插入虚假信息。评估使用破坏性、隐藏性和呈现性指标。实验针对Google、Bing和Elasticsearch进行。攻击包括不可见字符、同形字、重新排序和删除。

本文讨论了机器学习系统中数据毒化攻击的问题，并提出了一种防御方法。该方法在MNIST-1-7和Dogfish数据集上表现出较强的防御能力，但在IMDB情感数据集上，添加3%的毒化数据会导致测试误差从12%提升至23%。

本文介绍了火山引擎LAS团队自研的多场景样本离线存储技术，用于处理机器学习系统的离线数据流。文章揭秘了流批一体样本生成的过程，并分享了对Hudi内核的优化和改造，以及在数据处理领域的实际应用和效果。同时，还有新人优惠购福利等着读者。