小红花·文摘
  • 首页
  • 广场
  • 排行榜🏆
  • 直播
  • FAQ
Dify.AI

反向传播的主要目标是计算网络中每个权重和偏置的成本函数的偏导数。通过链式法则和矩阵微积分,推导出输出层和隐藏层的误差传播公式,以及对偏置和权重的梯度计算。最终,偏置的梯度等于误差向量,权重的梯度为误差向量与输入激活向量的外积。

反向传播:向量微积分视角

Louis Aeilot's Blog
Louis Aeilot's Blog · 2026-02-13T22:45:09Z

本文介绍了神经网络及其反向传播算法。神经网络由输入层、输出层和多个隐藏层组成,使用激活函数(如ReLU)引入非线性。反向传播通过计算梯度优化网络参数,利用链式法则将误差从输出层传递到隐藏层。

CS231n 讲义 IV:神经网络与反向传播

Louis Aeilot's Blog
Louis Aeilot's Blog · 2026-02-13T20:45:09Z
那些年,我们没想过的数值稳定算法

深度学习模型训练中,数值计算误差传播可能导致梯度爆炸或消失。本文探讨了提高数值稳定性的方法,包括重写数学公式、采用不同算法、提高计算精度和限制输入范围等策略,以增强计算结果的准确性和稳定性。

那些年,我们没想过的数值稳定算法

Fatescript
Fatescript · 2025-04-06T15:59:00Z
  • <<
  • <
  • 1 (current)
  • >
  • >>
👤 个人中心
在公众号发送验证码完成验证
登录验证
在本设备完成一次验证即可继续使用

完成下面两步后,将自动完成登录并继续当前操作。

1 关注公众号
小红花技术领袖公众号二维码
小红花技术领袖
如果当前 App 无法识别二维码,请在微信搜索并关注该公众号
2 发送验证码
在公众号对话中发送下面 4 位验证码
小红花技术领袖俱乐部
小红花·文摘:汇聚分发优质内容
小红花技术领袖俱乐部
Copyright © 2021-
粤ICP备2022094092号-1
公众号 小红花技术领袖俱乐部公众号二维码
视频号 小红花技术领袖俱乐部视频号二维码