为什么要引入矩阵这个数学工具?它能简化哪些不用矩阵会复杂的问题?


刚看到这个问题时,我在想:投影、最小二乘法、回归、SVD、PCA、图像处理、优化、机器学习、密码学……这些全都要用矩阵啊。

但是我转念一想,好像矩阵确实不是必需的:

假设 A 是一个

的矩阵, 那么

可以写作


假设 B 是

的矩阵,那么矩阵乘法

可以写作


当然,行列式

也是可以表示出来的

其中

是 n 阶对称群。


当然,有了行列式,就可以定义"伴随矩阵"

那么,"逆矩阵"的公式就有了:

所以,我们线性代数课上学过的

,就可以表示成


这样下去,其实任何需要矩阵的地方,都可以不使用矩阵列出公式。

有些常用的计算,比如“最小二乘法”的公式,是这样的:

其中 A 是

的矩阵,很多高赞都提到了这个公式,它可以用来做线性回归,在统计学和数据科学中都有很多应用。

但是,经过我们刚才的一番推导,我们发现,这个式子其实也可以不用矩阵写。我们现在可以尝试把它翻译一下,写成不需要矩阵的形式。翻译过后,它差不多大概长这样:

算得不一定对。但是基本意思大家都能明白:这个式子太复杂了!!

而且,实际应用中,你还不能直接用这个式子,因为它的计算量太大了!为了让计算机更快地算出答案,你还要“化简”上面这个式子,找到能让计算机快速算出答案的算法。

来吧!化简这个式子!


这里举一个更简单的例子:大家有没有想过,为什么人类要发明乘法?

为什么不写做(5+5+5+5)呢?乘法的发明到底简化了哪些问题?

确实,乘法本身好像并没有解决任何问题,更复杂的乘法,比如

,也可以表示成加法的形式

然而,没有人愿意计算[(5+5+5+5)+(5+5+5+5)+(5+5+5+5)] + [(5+5+5+5)+(5+5+5+5)+(5+5+5+5)],但如果你学过乘法,你可以很快算出

事实上,“让复杂的公式变得简洁起来。”本来就是一件很重要的事情。因为,它能精简人们的思维,让人们更容易发现问题的关键,然后去探索更加深奥的问题。


在简化这些式子的途中,我们还能发现很多新的问题。乘法一开始只是在化简“同一个数字连加”的问题。但是,随着乘法使用得越来越广泛,人们开始关注更加深奥的问题,比如

这种乘法,就不是某种“同一个数字连加”的问题。

线性代数其实也可以被推广到更广泛的形式,不过实际应用中比较少见。

比如 @Bazinga 就提到了线性空间和线性算子。感兴趣的朋友还可以自行搜索一下度量空间、赋范空间、内积空间、埃尔米特伴随算子。

然后我们回来看刚才的“最小二乘法”。

我们知道,所谓最小二乘法,就是找到一条线,使得误差的平方之和最小。

那么,如果我们不去最小化“误差的平方值和”,换一个优化目标,那么我们还有没有

这样的式子呢?

事实上,你会发现,优化“误差的平方值和”其实就是在优化真实值与预测值之间的欧几里得距离,也就是 l2 距离。而这个 l2 范数是以向量点乘为内积诱导出来的。而在使用向量点乘为内积的实向量空间中,我们有

其实,我们可以有一个更广义的“最小二乘法”,它将作用于任何一个内积空间中,它就是

。其中

的埃尔米特伴随。而此时这个 x 所最小化的目标,就是在这个内积空间所诱导出来的度量空间中,真实值与预测值之间的距离。

在实内积空间中,我们有

,这个式子就是

.在复内积空间中,我们有

,这个式子就是

。再其它内积空间中,

,这个式子仍然还会成立。

实内积空间上的

或许还能用初等代数勉强代替一下。但是,抽象的内积空间上的“最小二乘法”,也就是

,大概是不能用初等的代数代替的。

就像

不能用加法来表示一样。

为什么要发明和使用微积分?(为什么要发明和使用微积分的原理)
上一篇
历史上有没有超越时代的人?(超出时代的人)
下一篇
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

相关推荐

  • 苹果手机各个功能介绍,iphone必须关闭的十个功能

    1、关闭蓝牙。现在已经很少有人用蓝牙传输文件了,而且iPhone与安卓的蓝牙并不兼容,所以,可以在设置中,关闭蓝牙功能。2、关闭通知功能。关于APP推送,无非也就是一些更新提醒,关了也不会有什么影响,还能多省点电。3、关闭自动调节亮度功能。一般来说,可以将屏幕亮度在15%-30%之间,在强光环境中,在进行手动调整就可以了。4、禁止后台刷新。在设置—通用中,关闭后台自动刷新功能,也可以对省电起到一点...

  • 高德打车怎么设置途经地,高德如何添加途经路线

    1、点击高德地图APP界面底部的“导航”按钮,进入导航模式。2、点击右下角的“路线”,进入路线设定页面,根据要求输入起点、终点进行路线规划。3、点击“添加途经点”,弹出添加途经点页面,点击右上角,可以添加或者删除途经点,乘客可以手动输入要添加的途经点。4、当添加完途经点时,点击“确定”按钮,即可添加途经路线。此时地图会显示出这条路线上所有的途经点,以及当前途经点的地点信息。怎么设计高德地图设置要经...

  • 高中必修二物理知识点总结,高一物理必修2重点知识点归纳

    您好,1.运动学-位移、速度、加速度的概念及计算方法-相关运动的分析方法,如相对运动和抛体运动-牛顿运动定律及其应用2.力学-力的概念及种类,如重力、弹力、摩擦力等-牛顿第一、二、三定律及其应用-力的合成与分解-能量、功、动能定理、功率的概念及计算方法-动量、冲量定理及其应用3.热学-温度、热量、热能的概念及计量单位-热传递的方式及其特点,如传导、对流、辐射-热力学第一、二定律及其应用,如热机效率...

  • 行星金星是否会成为第二地球?(金星属于哪一类行星)

    金星几乎没有任何价值开发,这是人类经历了幻想、探测和失望的真实体验。金星在各个文化里被人类寄予了极大的希望,中国很早便叫它启明、太白星,西方也用爱与美丽的女神维纳斯来命名。上世纪的科幻小说里,但凡是关...

  • 熵增定律是否违背进化论?(熵增定律是几年级的内容)

    这个问题很老套,但是我所看到的回答其实没有令人满意的,这里面误解重重,即使是一些专业人士也不能免俗。it must be said that in the grand contest for the...