线性代数的复习
线程代数
行列式
最近在看pca的算法,发现自己大学的时候线性代数都还给老师了,复习一下的
二阶与三阶行列式
二元线性方程组与二阶行列式
就是想象二阶行列式,空间两个。 在字母的是 第一列和第二列的参数,后面的字母。
- 分别是空间第一个中最后一个,和取空间中第二个组合在一起。
- 剩下来的,又取在一起的
三阶行列式
图中有三条实现看做是平行于主对角线的连接,三条虚线看做是平行于虚对角线的连线,实际上实现上三个元素乘积冠以正号,虚线上三元素的乘积冠以负号。
全排列和对换
排列及其逆序数
把那个不同的元素排除一列,叫做这那个元素的全排列。 p=n*(n-1)*....*3*2*1=n!
对于那个不同的元素,先规定各元素之间有一个标准次序(例如那个不同的自然数,可规定从小到大为标准次序)。
当某一对元素的先后次序与标准次序不同时,就说它构成1个逆序,一个行列中所有的逆序的总数叫做这个排列的逆序数。
逆序数为奇数的排列叫做奇排列,逆序数为偶数的排列叫做偶排列。
对换
在排列中,将任意两个元素对调,其余的元素不懂,这种做出新排列的手续叫做对换,
将相邻两个元素对换,叫做相邻对换。
奇排列对缓存标准排列的对换次数为奇数,偶排列对换成标准排序的对换次数为偶数
n阶行列式的定义
三阶行列式定义为 a11a22a33+a12a23a31+a13a21a32-a11a23a32-a12a21a33-a13a22a31
容易看出:
这个三个元素定位于不同的行、不同的列,因此,任一项出正负号外可以写成a1p1a2p2a3p3.这里第一个下标排成标准次序123,而第二个下标p1p2p3,它是1,2,3三个数的某个排列,这样的排列共有6中,
- 带正号排列是 123,231,312
- 带负号排列是 132,213,321
前三个排列都是偶排列,而后三个排列都是奇排列。因此各项所带的正负号可以表示为(-1)^t,其中t为列标排列的逆序数
n阶行列式
det(aij)
简记作 det(aij),其中数 aij为行列式 D 的(i,j)元.
主对角线以下(上)的元素都为0的行列式叫做上(下)三角形行列式,特别,主对角以下和以上的元素都为0的行列式叫做对角行列式。
行列式的性质
d^T称为行列式D的转置行列式
性质1:行列式和它的转置行列式相等
性质2:兑换行列式的两行(列),行列式变号
其中1…i…j…n为标准排列,t为排列p1..pi…pj…pn的逆序数,设排列p1..pj..pi..pn的逆序数为t1,则(-1)^t=-(-1)^t1,故
D1=-D
推论:如果行列式有两行(列)完全相同,则此行列式等于零
性质3:行列式中某一行(列)的所有元素的公因子可以提到行列式记号的外面
推论:行列式中某一行(列)的所有元素的公因子可以提到行列式记号的外面
性质4:行列式中如果有两行(列)元素成正比例,则此行列式等于零
性质5:若行列式的某一行(列)的元素都是两数之和。
d=|a1+b1,a2+b2,a3+b3…|=|a1,a2,a3|+|b1,b2,b3|
性质6:把行列式的某一行的各元素乘以同一数然后加到另一行(列)对应的元素上去,行列式不必拿
行列式按行(列)展开
在n阶行列式中,把(i,j)元aij所在的第i行和第j列划去后,留下来的n-1阶行列式叫做(i,j)的元aij的余子式
A32=(-1)^3+2M32=-M32
引理:一个n阶行列式,如果其中第i行所有元素除了(i,j)元aij外都为零,那么这行列式等于aij与它的代数余子式的乘积,即:
D=aijAij
定理2:行列式等于它的任一行(列)的各元素与其对应的代数余子式乘积之和
这个定理叫做行列式按行(列)展开法则
推论:行列式某一行(列)的元素与另一行(列)的对应元素的代数余子式乘积之和等于0
特别,当b1,b2…bn依次取为D=det(aij)的第i行各元素是,上式扔成立,但此时因Dj中第j行和第i行两个相同,故Dj=0.
我懂什么意思了,就是你换了元素的话,在整体中的运算,其实都是混乱了,也就是说,你替换到得到的值和你没有替换得到的值是一样的,也就是说这两行对应的值是相等的。
将第i行加到第j行上(行列式值不变),再将行列式按第j行张开,得D = (aj1 + ai1)Aj1 + (aj2 + ai2)Aj2 + ……+ (ajn + ain)Ajn
>
= D + (ai1Aj1 + ai2Aj2 + …… + ainAjn)
所以上式后面部分为0
矩阵及其运算
线性方程式和矩阵
线性方程组
当常数项b1,b2,…bn不全为零时,线程方程组叫做n元非齐次线性方程组。
当常数项b1,b2,…bn全为零是,线程方程组叫做n元齐次线性方程组。
当时n元齐次线性方程组 x1=x2=x3…=xn=0.这个解叫做齐次线性方程组的零解。
矩阵的定义
定义1 有m*n个数aij排除的m行n列的数表称为m行n列矩阵,简称m*n矩阵。
这m*n个数称为矩阵A的元素,简称为元,数aij位于矩阵A的第i行第j列。称为矩阵A的(i,j)元
元素是实数的矩阵称为实矩阵,元素是负数的矩阵称为复矩阵.
行数与列数都等于n的矩阵称为n阶矩阵或n阶方阵。
只有一行的矩阵称为行矩阵,又称为行向量。
只有一个列的矩阵称为列矩阵,又称为列向量
两个矩阵的行数相等、列数也相等时,就称它们是同型矩阵,对应的元素相等,那么就称矩阵A和矩阵B**相等**。
元素都是零的矩阵称为零矩阵。记作O。
对于非齐次线性方程组,
A是系数矩阵,x称为未知数矩阵,b称为常数项矩阵,B称为增广矩阵
表示一个从变量x1,x2,…x到变量y1,y2,…ym的线性变换,其中aij为常数
这个方阵的特点是:从左上角到右下角的直线(叫做对角线)以外的元素都是0,这个方阵称为对角矩阵,简称为对角阵。
A =diag(λ1,λ2,...,λn);
特别当λ1=λ2=。。=1时的线性变换叫恒等变换,它对应的n阶方阵叫做n阶单位矩阵,单位阵 E 的(i,j)元eij
这个表达式的意思 是x在x轴的阴影,y轴则没有。
矩阵的运算
矩阵的加法
定义2 设有两个m*n矩阵A=(aij)和B=(bij),那么矩阵A与B的和记作A+B
应该注意,只有当两个矩阵是同型矩阵时,这两个矩阵才能进行加法运算。矩阵加法满足下列运算规律:
- A+B=B+A
- (A+B)+C=A+(B+C)
设矩阵A=(aij),记 -A=(-aij) -A称为矩阵A的负矩阵,显然有 A+(-A)=O。
由此规定矩阵的减法为A-B=A+(-B)
数与矩阵相乘
定义3 数λ与矩阵A的乘积记作λA或Aλ
- λμ)A =λ(μA)
- (λ+μ)A =λA +μA
- λ ( A + B ) = λ A + λ B
矩阵与矩阵相乘
矩阵相乘,就是如你想象那样,两个矩阵的相互碰撞。
定义4 设A=(aij)是一个m*s矩阵,B=(bij)是一个s*n矩阵,那么规定矩阵A与矩阵B的乘积是一个m*n矩阵C=(cij)
cij=ai1b1j+ai2b2j+…+aisbsj= ∑ aikbkj
按此定义, 一个1*s行矩阵与一个s*1列矩阵的乘积是一个1阶方阵,也就是一个数。
由此表明乘积矩阵AB=c的(i,j)元Cij就是A的第i行与B的第j列的乘积。
矩阵的乘法不满足交换律,AB!=BA
对于两个n阶方阵A、B,若AB=BA,则称方阵A与B是可交换的
矩阵λE=…,称为纯量阵,
有了矩阵的乘法,就可以定义矩阵的幂,显然只有方阵的幂才有意义。
矩阵的转置
定义5:把矩阵A的行换成同序数的列得到一个新矩阵的,叫做A的转置矩阵
- (AT)T =A
- (A+B)T =AT+BT
- (λA)T =λA T
- (AB)T =BTAT.
对称矩阵:它的元素以对角线为对称轴对称相等
方阵的行列式
定义6 有n阶方阵A的元素所构成的行列式(各元素的位置不变),称为方阵A的行列式,记做detA 或|A|
方阵和行列式是两个不同的概念,n阶方阵是n^2个数按一定方式排成的数按一定方式排除的数表,而n阶行列式则是这些书按一定的运算法则所确定的一个数。
- |AT|=A(行列式性质1);
- |λA|=λ^n|A|;
- |AB|=|A||B|.
行列式|A|的各个元素的代数余子式Aij所构成的如下的矩阵
。。。
称为矩阵A的伴随矩阵的,简称伴随阵。
逆矩阵
逆矩阵的定义、性质和求法
在数的乘法中,对不等于零的数α总存在唯一的数b,使ab=ba=1,此书b即是a的倒数,即b=1/a=a^-1,利用倒数,数的除法可转化为乘积的形式:x/a=x*1/a.
定义7 对于n阶矩阵A,如果有一个n阶矩阵B,AB=BA=E, 使则说矩阵A是可逆的,并把矩阵B称为A的可逆的,并把矩阵B称为A的逆矩阵,简称逆阵
如果矩阵A是可逆的,那么A的逆矩阵是唯一的,这时因为:若B、c都是A的逆矩阵,则有 B=BE=B(AC)=(BA)c=EC=c
所以A的逆矩阵是唯一的。
A的逆矩阵记作A^-1,即若AB=BA=E则B=A^-1
定理1 若矩阵A可逆,则|A|!=0
定理2 若|A|!=0,则矩阵A可逆,且A^-1=1/|A|A*
当|A|=0时,A称为奇异矩阵,否则称非奇异矩阵,由上面两定理可知:A是可逆矩阵的充分必要条件是|A|!=0,即可逆矩阵就是非奇异矩阵。
推论:若AB=E(或BA=E),则B=A^-1
逆矩阵满足下述运算规律:
- 若A可逆,则A^-1亦可逆,且(A^-1)^-1=A
- 若A可逆,数λ!=0,则λA可逆,且(λA)^-1=1/λA^-1
- 若A、B为同阶矩阵且均可逆,则AB亦可逆,且(AB)^-1=B^-1A^-1
克拉默法则
克拉默法则:如果线性方程组的系数矩阵A的行列式不等于零
第3章 矩阵的初等变换与线性方程组
矩阵的初等变换
定义1 下面三种变换称为矩阵的初等行变换
- 对换两行(对换i,j两行,记作ri<->rj)
- 以数k!=0乘某一行中的所有元(第i行乘k,记作ri*k)
- 把某一行所有的元的k倍加到另一行对应的元上去(第j行的k倍加到第i行上,记作ri+krj)
把定义中的行换成列,即得矩阵的初等列变换的定义
矩阵的初等行变换与初等列变换,统称初等变换
如果矩阵A经有限次初等行变换变成矩阵B,就称矩阵A与B行等价,记作A~rB,如果矩阵A经过有限次初等列变换变成矩阵B,就称矩阵A和B列等价,如果矩阵A经有限次初等变换变成矩阵B,就称矩阵A与B等阶。
矩阵之间的等价关系具有下列性质:
- 反身性 A~A
- 对称性 若A~B,则B~A
- 传递性 若A~B,B~C 则 A~C
它的左下方的元全为0;每段竖线的高度为一行,竖线的右方的第一个元为非零元,称为该非零行的首非零元,具有这样特点的矩阵称为行阶梯形矩阵,为明确起见给出如下定义:
定义2 1非零矩阵若满足 1.1 非零行在零行的上面 1.2 非零行的首非零行所在列在上一行(如果存在的话)的首非零元所在列的右面,则称此矩阵为行阶梯形矩阵
若A是行阶梯形矩阵,并且还满足 1.1 非零行的首非零元为1 1.2 首非零元所在的列的其它元均为0,则称A为行最简形矩阵
对行最简形矩阵再施以初等列变换,可变成一种形状更简单的矩阵,称为标准形
定理1 设A与B为M*N矩形
- A~B的充分必要条件是存在m阶可逆矩阵P,使PA=B
- A~B的充分必要条件是存在n阶可逆矩阵Q,使得AQ=B
- A~B的充分必要条件是存在M阶可逆矩阵P及n阶可逆矩阵Q,使得PAQ=B
定义3 有单位矩阵E经过一次初等变换得到的矩阵称为初等矩阵
初等矩阵,第i,j两行对换,得初等矩阵,用m阶初等矩阵Em左乘矩阵A。
相等于,矩阵的中的两行进行了对调
性质1 设A是一个M*N矩阵,对A施行一次初等行变换,相当于A的左边乘相应的M阶初等矩阵,对A施行一次初等列变换,相当于在A的右边乘相应的n阶初等矩阵;对A施行一次初等列变换,相当于在A的右边乘相应的n阶初等矩阵
性质2 方阵A可逆的充分必要条件是存在有限个初等矩阵p1,p2…pn,使A=p1p2…
推论 方阵A可逆的充分必要条件是A~E
矩阵的秩
定义4 在m*n矩阵A中,任取k行与k列,位于这些行列交叉处的k^2个元素,不改变它们在A中所处的位置次序而得的k阶行列式,称为矩阵A的k阶子式
m*n矩阵A的k阶子式共有Cm k * Cn k个
引理 设A~B,则A与B中非零子式的最高阶数相等
定义5 设在矩阵A中有一个不等于0的r阶子式D,且所有r+1阶子式全等于0,那么d称为矩阵A的最高阶非零子式,数r称为矩阵A的秩。记作R(A),并规定零矩阵的秩等于0
定理2 若A~B,则R(A)=R(B)
推论 若可逆矩阵p、q使PAQ=B,则R(A)=R(B)
- 0<= R(Am*n)<= min{m,n}
- R(AT)=R(A)
- 若A~B,则R(A)=R(B)
- 若P,Q可逆,则R(PAQ)=R(A)
线性方程组的解
定理3 n元线性方程组Ax=b
- 无解的充分必要条件是R(A)
向量组的线性相关性
定义1 n个有次序的数a1,a2,…所组成的数组称为n维向量,这个n歌数称为该向量的n个分量,第i个数ai,称为第i个分量
若干个同维数的列向量所组成的集合叫做向量组
**定义2 给定向量组A:a1,a2,..am,对于任何一组实数k1,k2,..km表达式 k1a1+k2a2+…+kmam 称为向量组A的一个线性组合,k1,k2…km
称为这个线性组合的系数**
向量b能有向量组A线性表示
定理1 向量b能由向量组A: a1,a2,..am线性表示的充分必要条件是矩阵A=(a1,a2…am)的秩等于矩阵B=(a1,a2…am,n)的秩
定义3 有两个向量组A:a1,a2…am及B:b1,b2….bl,若B组中的每个向量都能有向量组A线性表示,则称向量组B能由向量组A线性表示,若向量组A与向量组B能相互线性表示,则称这两个向量组等价
定理2 向量组B:b1,b2,…bl能由向量组A:a1,a2,..am线性表示的充分必要条件是矩阵A=(a1,a2,…am)的秩等于矩阵(A,B)=(a1,a2…am,b1,…bl)的秩,即R(A)=R(A,B)
推论 向量组A:a1,a2…am与向量组B:b1,b2,…bl等价的充分必要条件: R(A)=R(B)=R(A,B),其中A和B是向量组A和B所构成的矩阵
定理3 设向量组B:b1,b2,b3…bl能由向量组A:a1,a2,…am线性表示,则R(b1,b2,…bl)<=R(a1,a2,…am)
向量组的线性相关性
定义4 给定向量组A:a1,a2,…am;如果存在不全为零的数k1,k2,..km使 k1a1+k2a2+….+kmam=0 则称向量组A是线性相关的,否则称它线性无关
它线性相关的充分必要条件是a1,a2的分量对应成比例,其几何意义是两向量共线,三个向量线性相关的集合意义是三向量共勉。
定理4 向量组A:a1,a2,…am线性相关的充分必要条件是它所构成的矩阵A=(a1,a2,…am)的秩小于向量个数m;向量组A线性无关的充分必要条件是R(A)=m
定理5 1若向量组A:a1,…am线性相关,则向量组B:a1,…am,am+1也线性无关,反之,若向量组B线性无关,则向量组A也线性无关
定理5 2 m个n维向量组成的向量组,当维度n小于向量个数m时一定线性相关,特别地n+1个n维向量一定线性相关
定理5 3 设向量组A:a1,a2…am线性无关,而向量组B:a1,…,am,b线性相关,则向量b必能有向量组A线性表示,且表示式是唯一的
向量组的秩
定义5 1设有向量组A,如果在A中能选出r个向量a1,a2,..ar线性无关2向量组A中任意r+1向量都线性相关,那么成向量组A0是向量组A的一个最大线性无关向量组,最大无关组所含向量个数r称为向量组A的值
推论 设向量组A0:a1,a2,…ar是向量组A的一个部分组,且满足:
- 向量组A0线性无关
- 向量组A的任意向量都能由向量组A0线性表示,那么向量组A0便是向量组A的一个最大无关组。
定理6 矩阵的秩等于它的列向量组的秩,也等于它的行向量组的秩
定理2 向量组b1,b2,…bl能由向量组a1,a2,…am线性表示的充分必要添加是R(a1,a2,…,am)=R(a1,a2,a3,…am,b1,b2…bl)
定理3 若向量组B能由向量组A线性表示,则RB<=RA
线性方程组的解的结构
性质1 若x=ξ1,x=ξ2 为向量方程(2)的解,则x=ξ1+ξ2 也是向量方程(2) 的解.
性质2 若x=ξ1 为向量方程(2)的解,k为实数,则x=kξ1 也是向量方程 (2)的解.
定理7 设m*n矩阵A的秩R(A)=r,则n元齐次线性方程组Ax=0的解集s的秩Rs=n-r
性质3 设x=η1 及x=η2 都是向量方程(5)的解,则x=η1-η2 为对应的齐 次线性方程组
向量空间
定义6 设V为n维向量的集合,如果集合V非空,且集合V对于向量的加法及数乘两种预算封闭,那么就称集合V为向量空间
所谓封闭,是指在集合V中可以进行向量的加法及数乘两种运算,具体地说,就是:若 若 a ∈ V , b ∈ V , 则 a + b ∈ V ; 若 a ∈ V ,λ ∈ R , 则 λ a ∈ V
定义7 设有向量空间V1 及V2,若 ,就称V1 是V2 的子空间.
定义8 设V为向量空间,如果r个向量 a1,a2,…,ar∈ V,且满足
- a1,a2,…ar线性无关
- V中任意向量都可由a1,a2,…ar线性表示
那么,向量组a1,a2,…ar就称为向量空间V的一个基,r称为向量空间V的维数,并称V为r维向量空间
**定义9 如果在向量空间V中取定一个基a1,a2,…,ar,那么V中任一向量
x 可惟一地表示为
x=λ1a1 +λ2a2 +…+λrar**
相似矩阵及二次型
向量的内积、长度及正交性
[x,y]称为向量x和y的内积
方阵的特征值与特征向量
定义6 设A施n阶矩阵,如果数λ和n维非零列向量x使关系式Ax=λx成立,那么,这样的数λ称为矩阵A的特征值,非零向量x称为A的对应于特征值λ的特征向量(A-λE)x=0
上式是以λ为未知数的一元n次方程,称为矩阵A的特征方程,其左端|A-λE|是λ的n次多项式,记作f(λ),称为矩阵A的特征多项式。显然,A的特诊值就是特征方程的解,特征方程在负数范围内恒有解,其个数为方程的次数,因此,n阶矩阵A再负数范围内有n个特征值。
定理2 设λ1,λ2…λm是方阵A的m个特征值p1,p2,…pm依次是与之对应的特征向量,如果λ1,λ2,…λm各不相等,则p1,p2…pm线性无关
推论 设λ1 和λ2 是方阵A的两不同特征值,ξ1,ξ2,…,ξs 和η1,η2,…,ηt 分别是对应于λ1 和λ2 的线性无关的特征向量,则ξ1,ξ2,…,ξs,η1,η2,…,ηt 线 性无关.(证明留作习题.)
相似矩阵
设A,B都是n阶矩阵,若有可逆矩阵p,是P^-1AP=B,则称B是A的相似矩阵,或说矩阵A与B相似,对A进行运算P^-1AP称为对A进行相似变换,可逆矩阵P称为把A变成B的相似变换矩阵
定理3 若n阶矩阵A与B相似,则A与B的特征多项式相同,从而A与B的特征值亦相同
定理4 n阶矩阵A与对角矩阵相似的充分必要条件是A有n个线性无关的特征向量