多元统计分析——泰勒展开式
目录
一、理解泰勒公式的由来及意义——一元函数的展开式
问题:一个简单的三角函数,现在要求当
时的函数值。如果不借助计算机,要怎么求这个值呢?
泰勒的思路是:用多项式函数去近似拟合三角函数。
在回归分析中,我们以多项式函数拟合数据集,多项式的“项”越多,对数据集的拟合程度越好,如下图。
于是这个问题就转换为求解一个多项式函数(“项”的个数越多拟合越好,可以无穷大),让这个多项式函数无限地和三角函数或者其他我们需要的函数等价。
推导过程如下:
我们定义,我们塑造一个多项式函数:
,其中
为误差项,是
和
的差值。
令,则
。
我们假设在
点左右邻域内,各阶导数都存在(必要条件),则:
....
进而得:
....
将系数代入
化简得:
,误差项
可去掉,得
,这就是泰勒公式,其中
代表
的
阶导数。
案例1:
①先求其的阶导数
....
已知:.....
②我们将阶导数
代入方程
,得
取,得:
案例2:
①我们知道
②
取,得:
二、二元函数的展开式
由上面我们可知,一元函数在点
处的泰勒展开式为:
推广到二元函数,二元函数在点
处的泰勒展开式为:
其中,为误差项。
不同的教材对泰勒展开式有不同的写法,但是其原理其实是一样的。
其中,,
三、多元函数的展开式
多元函数在点
处的泰勒展开式为:
注意:多元函数中的
表示的是第
个变量,并不是变量的
次方。
同样,展开式也可以这样表示:
其中,即等同于上式中的
,以此类推。
四、泰勒展开式的矩阵形式表达
对以上的泰勒展开式我们取前两行,用矩阵的形式表示出来:
其中,,
,
注意:通常读作nabla,称为哈密顿算子。
五、哈密顿算子
在数学的世界中,有一个被称为向量分析的领域,其中有一个经常用到的符号。
称为哈密顿算子,其定义如下所示。
则上式中的即为
时的各变量的偏导组成的向量。