浮点运算是什么?(excel浮点运算误差怎么解决)


浮点运算区别于定点运算。

float operation per second,即 flops,每秒可支持的浮点运算数,经常成为衡量一个设备计算能力的指标。

浮点,浮点,这个点是什么,为什么又浮着?

答:这个点是小数点。

高票回答里把浮点运算跟小数运算做等价,其实不是那么准确的。因为这种解释没能解答这个“浮”在哪里。

我来举例子让你更好的理解浮点运算:

如果设计一个无符号 32 位的加法器,你怎么来用这 32 个 bit 呢?

你可以这么做,16 位放到整数部分,剩下 16 放到小数部分。那么这 32 位能表达的最大数是多少呢?2^16。

能表达的最小精度是多少呢?2^(-16)。

把小数点左边(即整数)的位宽和小数点右边(即小数)的位宽固定,这就是一个定点数。

如果我愿意把小数部分的位宽分给整数,或者相互分享,比如我可以 20 位放在整数,12 位放小数,在运算过程中,小数点左右的位宽可以一直变换。这就好比小数点在 32 个 bit 中浮动,这样的计算就叫浮点运算。

浮点运算有什么好处呢?对于 32 位宽来说,它支持最大的数是 2^32,支持最小的精度是 2^(-32)。这就比定点数的在同样位宽的情况下表达力更强了。

欧洲中世纪的农奴制是怎样的?(中国是在哪个时期进入奴隶社会的)
上一篇
为什么蜜蜂死亡之前会一直摸肚子?(蜜蜂死亡)
下一篇
本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

相关推荐

  • 苹果手机各个功能介绍,iphone必须关闭的十个功能

    1、关闭蓝牙。现在已经很少有人用蓝牙传输文件了,而且iPhone与安卓的蓝牙并不兼容,所以,可以在设置中,关闭蓝牙功能。2、关闭通知功能。关于APP推送,无非也就是一些更新提醒,关了也不会有什么影响,还能多省点电。3、关闭自动调节亮度功能。一般来说,可以将屏幕亮度在15%-30%之间,在强光环境中,在进行手动调整就可以了。4、禁止后台刷新。在设置—通用中,关闭后台自动刷新功能,也可以对省电起到一点...

  • 高德打车怎么设置途经地,高德如何添加途经路线

    1、点击高德地图APP界面底部的“导航”按钮,进入导航模式。2、点击右下角的“路线”,进入路线设定页面,根据要求输入起点、终点进行路线规划。3、点击“添加途经点”,弹出添加途经点页面,点击右上角,可以添加或者删除途经点,乘客可以手动输入要添加的途经点。4、当添加完途经点时,点击“确定”按钮,即可添加途经路线。此时地图会显示出这条路线上所有的途经点,以及当前途经点的地点信息。怎么设计高德地图设置要经...

  • 高中必修二物理知识点总结,高一物理必修2重点知识点归纳

    您好,1.运动学-位移、速度、加速度的概念及计算方法-相关运动的分析方法,如相对运动和抛体运动-牛顿运动定律及其应用2.力学-力的概念及种类,如重力、弹力、摩擦力等-牛顿第一、二、三定律及其应用-力的合成与分解-能量、功、动能定理、功率的概念及计算方法-动量、冲量定理及其应用3.热学-温度、热量、热能的概念及计量单位-热传递的方式及其特点,如传导、对流、辐射-热力学第一、二定律及其应用,如热机效率...

  • 毒物科普:砒霜和砷(砒霜是不是砷化物)

    发现这个系列居然没有写砷,大概是因为砒霜的毒性众所周知,而且研究得太久,资料真的太多了,早期毒理学、毒物分析化学的主要研究对象就是砒霜和其他砷化物,之前讲的锑、镉、汞、铊等都有部分症状的原理是未知的,...

  • 欧洲中世纪的农奴制是怎样的?(中世纪欧洲农奴)

    我用大家最容易理解的方式来回答吧。奴隶制和农奴制这两者都是为了在权利方面,把某一类人置于根本的不利地位,奴隶制专注于完全剥夺权利,而农奴制相反,它从根本上着眼于对取得这些权利进行收费。在爱丽丝·李奥的...