矩阵分析——向量空间

欢迎大家来到IT世界,在知识的湖畔探索吧!

什么是向量空间？

向量空间相对来说，是一个比较抽象的概念，需要思维提升再提升，视野扩大再扩大，脑洞大开再大开，想象突破再突破。

我们按照这个顺序来讲：纯量—>域—>向量空间

纯量

百科中是这样说的，纯量一般指标量（scalar），亦称“无向量”。有些物理量，只具有数值大小，而没有方向，部分有正负之分。

在数学中，就是指纯粹的某类数，比如实数、整数、有理数等。

域

在Roger A.Horn与Charles R.Johnson著的《矩阵分析》第二版（《Matrix Analysis》Second Edition）这本书中，有下面的描述：

欢迎大家来到IT世界,在知识的湖畔探索吧!

下面分析：

①“典型的基础域是实数或者复数，不过它也可以是有理数，以一个特殊的素数为模的整数，或者是另外的域”

对于域来讲，实数、复数、有理数、……都是并列的取值环境，和数的分类，和数之间的隶属没有关系。

所以才有了另外一个域的举例，“以一个特殊的素数为模的整数”，英文原版是“the integers modulo a specified prime number”。

这句话可以这样理解为， “modulo”是按…模进行计算的意思，“the integers”就是一类整数（也许应该称为余数），这类整数是，某个整数集以一个指定的素数为模数进行模运算而得到，而且是有限的，永远不会超过该模数，比如集合{4,2,6,10,5,8,24,30,21},如果以7（素数）为模数进行模运算，得到是集合{4,2,6,3,5,1,0}，但是如果以8（偶数）为模数进行模运算得到是集合{4,2,6,5,1,0},虽然8比7大，但是，反而没有素数7得到更加全面而且均匀的余数集合。

话再说回来。

域和纯量最重要的区别在于：

域也是一个集合，但是，它的元素“必须关于二元运算‘加法’和‘乘法’是封闭的”。

比如，实数就是一个域，两个实数相加是实数，两个实数相乘也是实数。

另外，在域中：

②“该集合中每一运算都需要一个单位元”

这里的“单位元”，是这样一种单位元，它其实也是集合中的一个元素，而这个元素必须满足这种条件：就是集合中的任意一个元素（比如用字母a来表示），与单位元（这个特殊元素）经过（“加法”或“乘法”）运算后，还是会等于该元素本身a，那么满足这种条件的元素，就是域中，对应于该运算的单位元。

所以，举例来说，在实数域中，对“+”运算来说：

对于任何一个实数a加上0，都会等于实数a自己，那么，元素0就是实数域上“+”运算的单位元。

而数a在“+”运算上的逆元就是，有这样一个元素，它和a经过“+”运算，会等于“+”运算的单位元0，也就是：

这就产生了数a的逆元b，就是“+”运算下数a的逆元，对于b也是如此。

同理，对于“X”运算：

在实数域内，和数a经过“X”运算后还等于数a的元素就是1，那么1就是实数域上“X”运算的单位元。

那么，同样，上图中数b就是数a在“X”运算下的逆元，对b也是如此。

所以，单位元的定义一定在域内，而且是和某种运算紧密联系的。

另外，注意，为什么在这里，运算用符号代替，而没有直接说“加法”或者“乘法”，这是因为，在数学里，运算是定义出来的，不仅仅是，习惯上我们通常所理解的“加法”或者“乘法”，下面还会讲到。

上面，这就是域的大致概念。

向量空间

向量空间也是一类集合，它的元素是向量，这个向量的产生依托于某个域，重点是：

1、向量空间元素是向量。

2、向量空间在某个域上产生，不仅仅是一个简单的元素聚集。

对于向量元素来说，[2, 3.1, 4, 5.2, 11]是以实数域为基础形成的数组向量元素，那么函数sin(x)也是向量元素，其中x可以为任意实数，2x^5也是，向量元素不能局限于通常看到的数组向量[3, 5, 1]、[0, 1, 0, 1]等。

构成向量空间元素的基础是域，这就要求我们理解向量空间，不能仅仅看到它为简单的向量元素集合，还必须满足，域的一些特点，这就包括域上运算的闭合关系。

所以，我们才经常说“域F上的一个向量空间”。

正是因为域有特殊的运算特性要求，在此基础上，也形成了向量空间的运算规则。

首先，向量空间里面的元素可以相加，向量相加的基础依托于域元素的相加规则。

《矩阵分析》第二版（《Matrix Analysis》Second Edition）中：

③可以看出，作者在这里，是举了一个例子，某种向量集合中的向量元素（n维的），逐个相加可以构成一个向量空间。当然，这个加法也会根据你的域运算中加法定义的不同，而有所不同。

④“实系数或者复系数多项式的集合……”

在实数三维向量空间中，对于数组向量i=[1,0,0]、j=[0,1,0]、k=[0,0,1],显然对于某个向量a=[3,2,4]=3*i+2*j+4*k，当然，在该空间中，其他任何一个向量，都可以由它们线性相加而构成。

同样，在多项式向量空间中，向量5+2x+3x^2就是向量1、x、x^2所组成的，对于维度1和x来说，它们是绝对不能互相替换的，就像i、j、k之间不能互相替换一样，它们不是一个维度的，同样x和x^2也不是一个维度的，所以向量5+2x+3x^2=5*1+2*x+3*x^2。就是由其他向量线性相加组成的，对于函数集合也是如此(比如sin(2x))。

在此，就要深入理解域和向量的意思，同样，这也就是为什么向量空间变得更加抽象了。

在向量空间的定义中，并没有完全使用域中的乘法运算，它只使用了在此基础上形成的数乘，这是向量空间定义中的一个重要特点，下面，会有明确的叙述。

好了，说了这么多，下面就给出，具体的向量空间定义：

这个概念在《工程数学-线性代数》（同济大学数学系编第六版）就有一个很清晰的说明：

域上满足这八条运算规律的向量集合，就是某个域上的线性空间。

而这种由八条运算规律定义的运算就是线性运算。

敲黑板的第一条：

向量空间是建立在域上，域上 “加法”和“乘法”的封闭性，在向量空间里有天然的继承性，向量元素在定义规则下的运算也是封闭的。

敲黑板的第二条：

向量空间的定义中，对于向量元素之间的加法，会存在一个加法单位元0，前面说过，单位元也是集合中的一个元素，只是一个特殊元素而已，所以在向量空间里，单位元0在这里也是向量空间的元素，它是0向量，它存在于任何一个向量空间中，记住“是任何一个”，这是第三条规则定义所明确的。

敲黑板的第三条：

在满足敲黑板第一条的基础上，必须满足“八大纪律”，就可以成为向量空间，但是向量的运算定义可以更抽象化。

《工程数学-线性代数》（同济大学数学系编第六版）中明确地说明了：

第一、向量不一定是有序的数组，就如刚才说过的多项式和函数等等。

第二、向量之间的运算也不一定是就是我们在实数域中，经常理解的那种加法和乘法运算，运算的定义只要满足“八条”运算规律就可以。比如下面：

上图定义了另外一种乘法运算，这里用到了其中的数乘。

所以，对于同一个元素向量集合，若定义了两种不同的线性运算，就会构成两种不同的向量空间，同时，若定义的运算不是线性运算，也不能构成向量空间，什么是线性运算，就是那个“八项工作纪律”。

总结来说：

向量空间是一个集合，一大堆向量的集合，它里面的元素是向量；

是定义在某个域上的向量，因为集合中元素是建立在域上的，所以向量元素之间运算，不能跳出“九界之外”，这是封闭性；

运算规则可以被各种定义，但是，运算规则必须满足 “八项工作纪律”（线性运算），这样的集合就是向量空间。

所以，线性运算是向量空间的本质，而其中的向量元素，可以定义为任何向量元素（可以不断地推广和扩大）。

因此，把向量空间叫做线性空间，也许更为合适，以后如果遇到线性空间或者向量空间的叫法，它们其实说的就是一件事，我们这里还继续延用向量空间的叫法。

好的，下一篇我接着理解——向量子空间及其他。