小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

本文介绍了机器学习中自动微分的实现方法,通过将复杂函数拆解为基本运算构建计算图,以精确高效地计算导数。文章还展示了反向传播、梯度更新及优化器的实现,并提供了一个类似PyTorch的开源框架。

自動微分 | DIY 實現自己的 PyTorch

Louis Aeilot's Blog
Louis Aeilot's Blog · 2026-04-12T23:45:09Z

在分析Autograd引擎之前,需要理解导数和偏导数的概念。偏导数是在固定其他变量的情况下对某一变量求导。若函数可微,其导数表现为线性变换。通过链式法则,复合函数的导数可通过各部分导数相乘得到。PyTorch的Autograd引擎在执行操作时构建计算图,累加共享输入的梯度,以确保计算的正确性。

PyTorch 自动求导引擎:1

学习让我快乐
学习让我快乐 · 2025-10-11T16:00:00Z

GraphNet项目邀请开发者共建涵盖NLP和CV任务的百万张计算图数据集,以支持AI编译器的训练与验证。活动截止至8月19日,成功贡献者将获得奖励,并评选优秀共创者。线上讲解会定于8月7日举行。

最新开源任务!共建 GraphNet 百万级计算图数据集,助力AI编译器发展

百度大脑
百度大脑 · 2025-08-06T12:20:19Z

本研究探讨了神经网络中的组合泛化问题,提出了必要且充分的条件,要求计算图与真实组合结构匹配,并在训练中编码足够信息。这一发现为神经网络的组合泛化评估提供了理论基础,具有重要意义。

A Theoretical Analysis of Compositional Generalization in Neural Networks: Necessary and Sufficient Conditions

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2025-05-05T00:00:00Z
当单一技术栈不足时:使用本地FaaS协调多语言数据处理管道

本文介绍了一个多语言实时数据处理管道,采用Rust、Go、Python和Node.js等语言。通过统一计算图和本地优先的FaaS方法,各团队能够专注于各自的节点,降低了依赖和整合的复杂性,从而提高了效率。

当单一技术栈不足时:使用本地FaaS协调多语言数据处理管道

DEV Community
DEV Community · 2025-04-11T14:29:25Z
🧠 深度学习框架的实际工作原理(从零开始的PyTorch克隆)

本文探讨了PyTorch中调用.backwards()的内部机制,包括张量存储、切片与重塑、广播、自动求导及计算图原理,以及关键优化技术。这些知识有助于机器学习工程师深入理解深度学习。

🧠 深度学习框架的实际工作原理(从零开始的PyTorch克隆)

DEV Community
DEV Community · 2025-03-21T11:19:18Z
演讲:利用流数据流提升用户体验

Alana Marzoev介绍了一种利用部分状态流数据流构建高性能SQL缓存的方法。该模型通过长时间运行的计算图表示SQL查询,实时更新结果,避免了传统缓存的复杂性和失效问题。Readyset作为透明数据库缓存,有效应对用户流量激增带来的数据库挑战,提升查询性能。

演讲:利用流数据流提升用户体验

InfoQ
InfoQ · 2025-03-06T11:35:00Z
.ai | PyTorch 中的自动微分 autograd

本文探讨了PyTorch的自动微分机制,强调计算图和反向传播的重要性。自动微分主要针对PyTorch张量,神经网络通过torch.nn.Module实现,计算过程封装在forward()方法中。文章还介绍了张量的创建与操作,以及在训练中管理梯度和参数更新的方式。

.ai | PyTorch 中的自动微分 autograd

阿掖山:一个博客
阿掖山:一个博客 · 2024-11-10T00:00:00Z
Python程序到计算图一键转化,详解清华开源深度学习编译器MagPy

清华大学PACMAN实验室发布了MagPy,这是一种开源深度学习编译器,可以将Python+PyTorch程序自动转化为计算图,提高模型运行效率。MagPy通过分析Python解释器的执行状态,解决了现有技术的不足,支持大多数深度学习程序的有限动态性。实验显示,MagPy平均加速1.55倍,最高可达2.88倍。研究发表于USENIX ATC’24。

Python程序到计算图一键转化,详解清华开源深度学习编译器MagPy

机器之心
机器之心 · 2024-10-06T08:03:42Z

DLPaper2Code是一种可扩展的方法,用于将研究论文中的深度学习设计流程图和表格转换为抽象的计算图和Keras/Caffe代码。实验表明,提取出的流程图准确率高达93%以上。生成的设计可以通过直观的拖放UI框架进行评级和编辑。

appjsonify:一种学术论文 PDF 转 JSON 的工具匠

BriefGPT - AI 论文速递
BriefGPT - AI 论文速递 · 2023-10-02T00:00:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码