【week1】计算图与动态图机制
【week1】计算图与动态图机制
计算图
计算图用来描述运算的有向无环图
计算图主要有两个元素：结点（Node）、边(Edge)
结点表示数据，如向量，矩阵，张量
边表示运算，如加减乘除卷积等
用计算图表示：y = (x+w)*(w+1)
y = a * b
计算图与梯度求导：重点关注的是叶子结点。
**叶子结点：**用户创建的结点称为叶子结点，如X与W
tensor中的八个属性：
is_leaf：是Tensor中的属性，指示张量是否为叶子结点
grad_fn：记录创建该张量时所用的方法（函数）
y.grad_fn =
a.grad_fn=
b.grad_fn =
动态图
动态图与静态图
根据就算他的搭建方式，将计算图分为动态图和静态图，pytorch是一种动态图语言，tensorflow是一种静态图语言
动态图：运算与搭建同时进行，灵活，易调节
ensorflow是一种静态图语言
动态图：运算与搭建同时进行，灵活，易调节
静态图：先搭建图，后运算，高效，不灵活