小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
沉浸式翻译 immersive translate
Dify.AI
ParaRNN:解锁非线性RNN的大规模语言模型的并行训练

ParaRNN是一个新框架,突破了非线性RNN的序列并行限制。它通过将非线性递归关系转化为方程组,并利用牛顿迭代法并行求解,实现了高达665倍的加速,支持训练7B参数的模型,效果与大型Transformer相当。该框架已开源,推动了高效序列建模的研究。

ParaRNN:解锁非线性RNN的大规模语言模型的并行训练

Apple Machine Learning Research
Apple Machine Learning Research · 2026-01-16T00:00:00Z
PatrickStar - 一个通过…实现大规模预训练模型并行训练的框架

PatrickStar是一个基于PyTorch的预训练模型并行训练框架,采用动态内存管理和异构训练策略,降低GPU内存使用,支持大模型训练,特别适合硬件受限环境下的预训练和大规模微调。

PatrickStar - 一个通过…实现大规模预训练模型并行训练的框架

云原生
云原生 · 2026-01-12T10:33:13Z
混合专家模型比你想象的更强大:基于RoE的超并行推理扩展

本文讨论了在NeurIPS 2024 ENLSP研讨会上接受的论文,提出通过混合专家模型、推测解码和提前退出策略来提升大型语言模型的计算效率,以优化资源利用。

混合专家模型比你想象的更强大:基于RoE的超并行推理扩展

Apple Machine Learning Research
Apple Machine Learning Research · 2026-01-12T00:00:00Z
Worktrunk - 一个面向开发者的CLI工具,简化Git工作树的并行工作流...

Worktrunk是一个友好的CLI工具,简化Git工作树操作,支持并行工作流和自动化。它提供直观的命令用于创建、切换、合并和删除工作树,适合多任务开发,并支持跨平台安装和文档,便于团队协作和CI环境使用。

Worktrunk - 一个面向开发者的CLI工具,简化Git工作树的并行工作流...

云原生
云原生 · 2026-01-05T08:41:52Z
为什么AI并行化将成为2026年最大的挑战之一

在加州淘金热期间,工具销售商获益最多。Coder CEO Rob Whiteley认为,AI浪潮中,Coder将成为“铲子和镐”的公司。他担心企业未能投资员工的AI技能,导致技术差距加大。为此,Coder推出了开源AI编码代理多路复用器Mux,帮助开发者管理多个AI代理。

为什么AI并行化将成为2026年最大的挑战之一

The New Stack
The New Stack · 2025-12-16T22:00:48Z
Homebrew 5.0:并行加速、MCP 加持,与 Intel 的最后倒计时 - 肘子的 Swift 周报 #111

Homebrew 发布 5.0 版本,新增并行下载和 ARM 设备支持,引入 AI Agent 自动操作功能。Intel Mac 将于 2026 年降级为 Tier 3,2027 年可能停止支持,标志着 Intel 架构逐渐退出,期待未来创新设计。

Homebrew 5.0:并行加速、MCP 加持,与 Intel 的最后倒计时 - 肘子的 Swift 周报 #111

肘子的Swift记事本
肘子的Swift记事本 · 2025-11-17T14:00:00Z
《Agentic Design Patterns:构建智能系统的实战指南》- 第三章 并行化

并行化设计模式允许多个独立任务同时执行,从而提高智能系统的效率。通过识别工作流中不依赖其他任务的部分,开发者可以显著缩短总执行时间,特别适合需要与外部服务交互的场景。LangChain和Google ADK等框架提供了支持并行执行的机制,助力构建高效的智能应用。

《Agentic Design Patterns:构建智能系统的实战指南》- 第三章 并行化

实时互动网
实时互动网 · 2025-10-20T02:43:36Z
Agent设计模式——第 3 章:并行化

并行化模式通过同时执行多个独立任务,提高Agent系统效率,显著缩短总执行时间。现代框架如LangChain和Google ADK支持并行执行,适用于信息收集和数据处理等场景,优化复杂工作流性能。

Agent设计模式——第 3 章:并行化

XINDOO的博客
XINDOO的博客 · 2025-10-04T15:59:22Z
容器使用:一种用于隔离并行编码代理的新工具

Dagger团队推出了开源工具Container Use,为AI编码代理提供独立的容器化沙箱和Git工作树,支持并行无冲突的工作流程。开发者可以安全地运行多个代理,避免相互干扰。该工具简化了环境创建,支持调试和终端访问,提升开发效率。尽管仍在早期开发阶段,其目标是改善传统代理工作流程,增强安全性和可控性。

容器使用:一种用于隔离并行编码代理的新工具

InfoQ
InfoQ · 2025-08-21T12:00:00Z

SMP并行执行技术通过数据分片和多线程计算提升复杂查询性能,适用于低并发场景。OpenGaussDB利用该技术优化SQL查询,但在高并发或资源不足时可能导致性能下降。

基于开发者空间OpenGauss数据库SMP并行技术的实现与应用

华为云官方博客
华为云官方博客 · 2025-08-14T02:50:12Z

在多核处理器时代,后端工程师需掌握并行编程。Guy L. Steele Jr. 提出应关注独立性而非并行本身,强调“分治”和“结合性”原则,鼓励将问题分解为独立子问题以简化并行设计。Go 语言通过 Goroutine 和 Channel 降低并发编程复杂性,但仍需开发者主动设计并行策略。

Go并行编程的“第一性原理”:Guy Steele 教你如何“不去想”并行

Tony Bai
Tony Bai · 2025-06-29T08:47:23Z
Ruby中的并发与并行

本文介绍了Ruby中的并发与多线程,阐明了进程与线程的区别,以及如何通过fork和线程实现并发。比较了MRI与JRuby在并发处理上的性能差异,并讨论了竞争条件问题。最后强调选择并发方法时需考虑项目需求。

Ruby中的并发与并行

DEV Community
DEV Community · 2025-05-21T22:29:49Z

本研究扩展了信念修正的迭代并行修正模型,提出了一种利用TeamQueue聚合器的方法,以有效整合信念修正属性,增强理论基础。

通过顺序聚合进行并行信念修正

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-20T00:00:00Z

本研究探讨了大型语言模型(LLMs)在无需硬件的情况下对GPU代码性能进行并行预测的能力。结果表明,经过调优的LLMs在零-shot和few-shot条件下表现出色,能够有效区分计算密集型和带宽密集型的GPU内核,为性能分析和优化提供新思路。

大型语言模型能否预测并行代码性能?

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-06T00:00:00Z

本研究提出了一种新型的协作分布式联邦学习方案,通过将模型分为三部分,实现客户端与服务器的并行训练与聚合,显著降低了计算和通信负担,并提高了模型的准确性。实验结果验证了该方案的优势。

协作分布式联邦学习与并行训练与聚合

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-22T00:00:00Z

本研究提出SlimPipe方法,以解决长上下文大型语言模型训练中的内存压力和效率瓶颈。通过均匀切片和1F1B调度,显著提高模型FLOPs利用率,尤其在处理超过2048K上下文时,保持超过45%的利用率,优于现有方法。

SlimPipe:针对长上下文大型语言模型训练的节省内存且高效的流水线并行技术

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-04-20T00:00:00Z
EF Core与PostgreSQL中的并行查询:失败原因及解决方法

在使用EF Core和Postgres并行查询时,可能会出现“命令正在进行中”的错误,因为Postgres不支持同一连接的并行查询。可以通过使用不同的数据库上下文或顺序执行查询来解决此问题。并行查询可能导致死锁或超时,建议谨慎使用。

EF Core与PostgreSQL中的并行查询:失败原因及解决方法

DEV Community
DEV Community · 2025-04-15T17:19:43Z
C#中的并发与并行编程最佳实践

本文介绍了五个项目练习,旨在掌握C#中的并发和并行编程。这些项目包括高性能网页抓取、多线程文件处理、并发订单处理、并行图像处理和可扩展后台任务系统。每个项目提供了概述、目标和实施步骤,帮助开发者提升编程技能。

C#中的并发与并行编程最佳实践

DEV Community
DEV Community · 2025-04-10T15:31:09Z
并行编程基础

随着计算能力的提升,开发者寻求更高效的应用程序。并行编程通过将任务分解为子任务并同时执行,显著缩短复杂操作的时间,适用于科学模拟、图像处理和机器学习等领域。尽管并行编程增加了复杂性,但掌握其原理可以实现高效和可扩展的应用。

并行编程基础

DEV Community
DEV Community · 2025-04-09T22:36:56Z
我与微软的旅程:从并行端口到Azure与人工智能

我从16岁开始学习编程,掌握多种语言。在大学期间,我开发了音乐商店的库存系统。后来在银行工作,逐渐成为技术负责人,学习了.NET等技术。现在,我计划推出一个高级.NET开发培训项目,分享我的经验和人工智能应用。

我与微软的旅程:从并行端口到Azure与人工智能

DEV Community
DEV Community · 2025-04-05T01:50:05Z
  • <<
  • <
  • 1 (current)
  • 2
  • 3
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
友情链接: MOGE.AI 九胧科技 模力方舟 Gitee AI 菜鸟教程 Remio.AI DeekSeek连连 53AI 神龙海外代理IP IPIPGO全球代理IP 东波哥的博客 匡优考试在线考试系统 开源服务指南 蓝莺IM Solo 独立开发者社区 AI酷站导航 极客Fun 我爱水煮鱼 周报生成器 He3.app 简单简历 白鲸出海 T沙龙 职友集 TechParty 蟒周刊 Best AI Music Generator

小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码