线性代数向量正交的条件(线性代数精华从正交向量到正交矩阵)
线性代数向量正交的条件(线性代数精华从正交向量到正交矩阵)
2024-11-06 12:28:06  作者:午夜寂寞  网址:https://m.xinb2b.cn/tech/ewn128300.html

我们今天一起来看正交向量和正交矩阵的概念,首先我们来复习一下向量相关。

向量内积

这个基本上是中学当中数学课本上的概念,两个向量的内积非常简单,我们直接看公式回顾一下:


这里X和Y都是n维的向量,两个向量能够计算内积的前提是两个向量的维度一样。从上面公式可以看出来,两个向量的内积就等于两个向量对应各个维度的分量的乘积的和

为了和矩阵乘法以及普通的乘法做区分,我们通常把两个向量的内积写成:


这里有一个很重要的性质,对于一个向量而言,我们可以用欧几里得公式计算它的长度。进一步,我们可以用向量的长度以及向量之间的夹角来表示向量的内积,如下:


其中的θ是x和y向量之间的夹角,对于三维及以下空间内的向量,这一点非常直观。对于高维度的向量,我们很难想象它的物理意义。不过没有关系,我们一样可以认为向量之间存在一个广义超空间内的一个夹角。在机器学习领域,我们通常用这个夹角来反应向量之间的相似度。两个向量越相似,那么它们之间的夹角应该越小,对应的cos余弦值应该越大。所以我们可以用两个向量之间的余弦值来反应它们之间的相似度。余弦值的计算就源于此。

正交向量

从上面的公式可以看出来,向量的内积等于两个向量长度乘上向量之间的夹角。对于非零向量而言,它们的长度都应该是大于0的。所以两个向量的内积的大小,就完全取决于向量之间的夹角θ。

如果θ小于90°,那么


,那么内积为正值。如果θ大于90°,那么余弦值为负值。所以我们可以通过余弦值正负判断夹角是锐角还是钝角。既然说到夹角,自然就离不开一种特殊情况——垂直

如果是在二维平面当中,两个向量夹角是90°,那么显然这两个向量垂直。在高维空间当中也是一样,不过我们一般不说垂直,而是会换一个词——正交。两个非零向量的内积为0,说明两个向量正交。

正交向量组

搞清楚了正交向量之后,正交向量组也就明确了。正交向量组是指一组两两正交且非零的向量组。

如果n维的向量组:


两两正交,那么,它们一定线性无关。也就是说不存在一组不为零的系数λ,使得:


这点很容易证明,由于向量组内向量均不为0,我们只需要在等式两边随便乘上一个向量即可,假设我们乘的是a1。由于它与其他向量两两正交,所以其他项全为0。如果要等式成立,那么必须要:


由于a1不为0,那么必然不为0,要使得等式成立,只能是λ1为0。

规范正交基

我们把正交向量组的概念和基的概念融合,如果向量组


是向量空间V的一个基。如果它们之间彼此正交,那么就称它们是一组规范正交基

对于向量a,我们可以很方便地求出它在规范正交基下各个维度的坐标:


也就是说向量a,在规范正交基下某一个维度的坐标, 等于它和整个维度的正交基向量的内积

如果说我们已经知道向量空间V中的一组基是


,我们怎么求V的规范正交基呢?

这里要用到一个算法,叫做施密特算法。通过这个算法,我们可以通过向量空间的一组基来求出它的正交基

这个算法很简单,我们可以直接写出它的公式:


我们随便取两个b向量乘一下就知道,b向量组之中两两正交。所以,我们只要将b向量组单位化一下,就可以求出对应的规范正交基了。

即:


这个算法虽然不难,但蛮重要。在机器学习领域中一些降维算法,很多都与施密特正交化方法有关。

正交矩阵

之前我们在介绍矩阵的时候,曾经说过,我们可以把一个矩阵看成是一个特定的向量组的结构。同样,我们也可以把一个规范正交基向量组看成是一个矩阵,那么这个矩阵就称为是正交矩阵。

它拥有如下性质:


其中I是单位矩阵,它的充要条件是矩阵A当中的每一列都是一个单位列向量,并且两两正交

最后,我们看一下正交矩阵的性质。它的主要性质有三个:

1. 如果A是正交矩阵,那么


,也是正交矩阵,并且


2. 如果A和B都是正交矩阵,并且它们阶数一样,那么AB也是正交矩阵。

3. 如果A是正交矩阵,向量y经过A变换之后行列式保持不变。

这三个性质都很简单,我们通过正交矩阵的性质基本上都可以直接推导得到,或者是非常直观,和我们的直觉吻合。其实怎么推导不是重点,对于算法工程师而言,更重要的是理解这些概念的意思,并且将它与算法模型当中起到的功能联系起来,这才是最重要的事情。

今天关于正交向量和矩阵的内容就到这里,希望大家学有收获,如果喜欢本文, 请点个关注或者转发支持作者吧~

  • 社保可以断缴多久会清零(社保断缴账户不会清零)
  • 2024-11-06社保断缴账户不会清零3、4月份是换工作的高峰期,有些人离职后,社保就断缴了,有的人根本不在乎社保断缴会有什么后果,有的人则过分担心,生怕会被全部清零,那么问题就来了,社保断缴究竟有什么后果呢?一品财税为大家解答首先我们必。
  • 老婆怀孕要给老公买什么东西(说说老婆怀孕以来买过的东西)
  • 2024-11-06说说老婆怀孕以来买过的东西孩子快4个月了,今天来说说从老婆怀孕到现在都选择了哪些母婴用品东西比较多,只能捡些最常用的和印象最深的东西说,希望能够给家长们些“前车之鉴”,少费点脑子少走些弯路 1.药品:钙片、叶酸、DHA、退热贴。
  • 你不仁我不义什么意思
  • 2024-11-06你不仁我不义什么意思【你不仁,我不义】[nǐbùrén,wǒbùyì]是汉语词汇,为汉语语言体系中复形容句释义为你不讲仁义道德,我也就不讲道义了【成语结构】复句式【近义词】反义词你仁我义【反义词】你仁我义【感情色彩】褒义。
  • 风起洛阳百里弘毅为什么离开?掌春使竟是百里弘毅的兄长
  • 2024-11-06风起洛阳百里弘毅为什么离开?掌春使竟是百里弘毅的兄长风起洛阳:掌春使竟是百里弘毅的兄长,正直的他如何变成这样?春秋道的掌春使竟然是百里弘毅的兄长,不得不说观众看到这个信息也吓了一跳,想过百里弘毅的兄长会和春秋道有关系,但却没想到竟然在春秋道中身居高位,。
  • 奔跑吧第11季白鹿周深在吗(奔跑吧周深白鹿藏不住了)
  • 2024-11-06奔跑吧周深白鹿藏不住了《奔跑吧》已经是国民综艺老品牌了,但最新完结的第十季依旧给观众带来无尽的惊喜,特别是最后一期收官战,全员勾心斗角,名场面接连不断,节目播出后蔡徐坤直接发微博告别跑男,周深和白鹿也遭到了网友的“吐槽”,。
  • 检查高考各项准备工作(深入细致做好高考组织工作)
  • 2024-11-06深入细致做好高考组织工作来源:人民网-人民日报新华社北京5月30日电中共中央政治局委员、国务院副总理孙春兰30日到北京市和教育部教育考试院检查高考准备工作,她指出,今年全国高考报名人数创历史新高,共1193万人,设普通考场3。
  • 气球简单造型小狗(长气球制作可爱小狗狗造型)
  • 2024-11-06长气球制作可爱小狗狗造型周一咯,小伙伴们有没有睡醒呢今天要跟大家分享的教程是教大家用长气球制作可爱的小狗狗造型,这种小狗狗气球还是很常见并很受欢迎的在很多的宣传活动相关场合都会有见到,送给小朋友们还是非常合适的无论您是自己弄。
  • 杨烁欢乐颂2剧组庆生(欢乐颂小包总杨烁)
  • 2024-11-06欢乐颂小包总杨烁这段时间不刷点《欢乐颂》,和小伙伴的友谊大船都不知如何起航了现在《欢乐颂》第一季已接近尾声,一众人物悉数登场,收获评价不一而24集才首次出现的男主人公之一,杨烁出演的小包总,仅凭24/25/36/37。