同事用"两个浮点数相等" 被说了一顿

嵌入式客栈 2021-11-14 08:49

正文


大家好,我是bug菌~

最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。

1

浮点数据的不均匀

我们经常会谈到浮点数的精度问题,float-单精度,double-双精度,double类型相比float类型精度更高,相应的需要的内存字节个数也越多,谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识任何的点,整形数就不用说了,小数部分直接不能标识,对于浮点数的一些知识其实bug菌在很早之前就有过介绍过:

【典藏】别怪"浮点数"太坑(C语言版本)

毒王这篇文章基本上可以从浮点数的存储到表意来较好的认识浮点数数据类型,但是中间部分对于浮点数精度部分的介绍并不是很形象,所以今天再详细一点说明一下。

首先我们要认识到通常float类型的变量占据四个字节,而uint32_t的整形类型也是占据四个字节,既然都是四个字节,那他们所能表示的不同数据个数是一样的。

如果不太理解,可以把float看成4个bit,uint32_t也是4个bit,那么他们不管经过什么变换,每个数据类型都只能够标识16个数。

好,如下图以4字节float的数据存储模型所示:

4个字节的浮点数,不像无符号整形所有的bit都是数据区,并且以每个数据之间相差1均匀分布,而浮点数把这4个字节分为了不同的区来起到不同的作用,从而用另外一种方式表达数据。

其指数部分越大,表示的数据就越大,但是尾数部分只能表示到23位,这样的话导致数据的精度就越差,如果不太理解可以用一个较大的数通过上面的转换方式进行换算,便能理解。


所以同样是4个字节,根据浮点数的表示,越接近0就越稠密,越远离0就越稀疏,呈现一种不均匀的数据排列状态,如上图所示,同样它也也不能标识实轴上任意的点。

2

验证一下不均匀

好了,讲了这么多理论,多多少少得来点程序验证一下:

看看上面的代码,这还用说,肯定这两个数相等呀,相减也等于0,然而看一下输出结果:

结果并不相等,并且相差还不少。

其结果也就说明了浮点数在大数的标识精度不好,只能近似标识,同时也说明了为什么一般不使用浮点数相等来进行判断的原因。

这也是为什么有时候明明我们采用直接编码用准确的浮点数,到了浮点数变量里面却损失了精度,因为4个字节的float标识不了,只能近似处理。

3

非要判断相等

由于有些应用非要使用浮点数进行相等的处理,我们不应该直接使用浮点数进行等于号的判断,而是要在一定的误差和精度范围内进行满足。

如上图所示代码是比较常用的处理办法,在往期的文章中,bug菌没有详细的讲解这个误差宏的定义,前面了解到当数据比较大的时候相邻的差值会比较大,这样就存在两个浮点数的差值大于所设置的误差范围而无法判断相等。

所以这样的处理办法来判断浮点数近似相等会存在一些局限性。

那有没有相对更好一点的办法呢?

当然是有的,不然接下来没得写了。

还是要从浮点数的存储和标识出发来处理该问题,既然浮点数天然就存在一定的误差,而有时候计算又无法获得唯一的数值,如下图所示,浮点数计算出来的实轴上的值都会因为浮点数无法存储标识而近似到其相邻的可以标识的数值上。

从浮点的存储模型来看,指数部分代表着浮点数的范围,尾数部分代表着浮点数的精度,那么尾数的最后一位其实就表示了浮点数的当前数值附近的精度。

于是对浮点的近似相等进行了算法上的修改,如下代码所示:

解释一下 : 

如果直接相等,说明浮点数各数据位都相等;而如果不相等可能相邻,于是强制转化为整形,比较尾数最后一位是否不同。

这里使用一个小技巧,采用异或的处理办法,如果其他位都相同,而最后一位不同,结果就等于1认为两个浮点数近似相等。

本文到此结束,我相信大家应该对浮点数有了一个更加深入的了解,面对一些问题心中也会有一些答案,比如浮点数为什么不能作为switch的参数,也是同样的原因。

但总的来说还是建议大家不要判断浮点数相等,非要用也要特别小心。

最后

      好了,今天就跟大家分享这么多了,如果你觉得有所收获,一定记得点个~

—— The End —


推荐阅读  点击蓝色字体即可跳转
☞ Linux驱动:手把手教hello world驱动配置、编译进内核或为模块
☞ 步进电机调速,S曲线调速算法你会吗?
 图文详解Modbus-RTU协议
☞ RS-485总线,这篇很详细

欢迎转发、留言、点赞、分享,感谢您的支持!

嵌入式客栈 欢迎关注嵌入式客栈,主要分享嵌入式Linux系统构建、嵌入式linux驱动开发、单片机技术、FPGA开发、信号处理、工业通讯等技术主题。欢迎关注,一起交流,一起进步!
评论
  • 作为优秀工程师的你,已身经百战、阅板无数!请先醒醒,新的项目来了,这是一个既要、又要、还要的产品需求,ARM核心板中一个处理器怎么能实现这么丰富的外围接口?踌躇之际,你偶阅此文。于是,“潘多拉”的魔盒打开了!没错,USB资源就是你打开新世界得钥匙,它能做哪些扩展呢?1.1  USB扩网口通用ARM处理器大多带两路网口,如果项目中有多路网路接口的需求,一般会选择在主板外部加交换机/路由器。当然,出于成本考虑,也可以将Switch芯片集成到ARM核心板或底板上,如KSZ9897、
    万象奥科 2024-12-03 10:24 86浏览
  • TOF多区传感器: ND06   ND06是一款微型多区高集成度ToF测距传感器,其支持24个区域(6 x 4)同步测距,测距范围远达5m,具有测距范围广、精度高、测距稳定等特点。适用于投影仪的无感自动对焦和梯形校正、AIoT、手势识别、智能面板和智能灯具等多种场景。                 如果用ND06进行手势识别,只需要经过三个步骤: 第一步&
    esad0 2024-12-04 11:20 88浏览
  • 遇到部分串口工具不支持1500000波特率,这时候就需要进行修改,本文以触觉智能RK3562开发板修改系统波特率为115200为例,介绍瑞芯微方案主板Linux修改系统串口波特率教程。温馨提示:瑞芯微方案主板/开发板串口波特率只支持115200或1500000。修改Loader打印波特率查看对应芯片的MINIALL.ini确定要修改的bin文件#查看对应芯片的MINIALL.ini cat rkbin/RKBOOT/RK3562MINIALL.ini修改uart baudrate参数修改以下目
    Industio_触觉智能 2024-12-03 11:28 104浏览
  • 戴上XR眼镜去“追龙”是种什么体验?2024年11月30日,由上海自然博物馆(上海科技馆分馆)与三湘印象联合出品、三湘印象旗下观印象艺术发展有限公司(下简称“观印象”)承制的《又见恐龙》XR嘉年华在上海自然博物馆重磅开幕。该体验项目将于12月1日正式对公众开放,持续至2025年3月30日。双向奔赴,恐龙IP撞上元宇宙不久前,上海市经济和信息化委员会等部门联合印发了《上海市超高清视听产业发展行动方案》,特别提到“支持博物馆、主题乐园等场所推动超高清视听技术应用,丰富线下文旅消费体验”。作为上海自然
    电子与消费 2024-11-30 22:03 103浏览
  • 《高速PCB设计经验规则应用实践》+PCB绘制学习与验证读书首先看目录,我感兴趣的是这一节;作者在书中列举了一条经典规则,然后进行详细分析,通过公式推导图表列举说明了传统的这一规则是受到电容加工特点影响的,在使用了MLCC陶瓷电容后这一条规则已经不再实用了。图书还列举了高速PCB设计需要的专业工具和仿真软件,当然由于篇幅所限,只是介绍了一点点设计步骤;我最感兴趣的部分还是元件布局的经验规则,在这里列举如下:在这里,演示一下,我根据书本知识进行电机驱动的布局:这也算知行合一吧。对于布局书中有一句:
    wuyu2009 2024-11-30 20:30 141浏览
  • 当前,智能汽车产业迎来重大变局,随着人工智能、5G、大数据等新一代信息技术的迅猛发展,智能网联汽车正呈现强劲发展势头。11月26日,在2024紫光展锐全球合作伙伴大会汽车电子生态论坛上,紫光展锐与上汽海外出行联合发布搭载紫光展锐A7870的上汽海外MG量产车型,并发布A7710系列UWB数字钥匙解决方案平台,可应用于数字钥匙、活体检测、脚踢雷达、自动泊车等多种智能汽车场景。 联合发布量产车型,推动汽车智能化出海紫光展锐与上汽海外出行达成战略合作,联合发布搭载紫光展锐A7870的量产车型
    紫光展锐 2024-12-03 11:38 121浏览
  •         温度传感器的精度受哪些因素影响,要先看所用的温度传感器输出哪种信号,不同信号输出的温度传感器影响精度的因素也不同。        现在常用的温度传感器输出信号有以下几种:电阻信号、电流信号、电压信号、数字信号等。以输出电阻信号的温度传感器为例,还细分为正温度系数温度传感器和负温度系数温度传感器,常用的铂电阻PT100/1000温度传感器就是正温度系数,就是说随着温度的升高,输出的电阻值会增大。对于输出
    锦正茂科技 2024-12-03 11:50 135浏览
  • 概述 说明(三)探讨的是比较器一般带有滞回(Hysteresis)功能,为了解决输入信号转换速率不够的问题。前文还提到,即便使能滞回(Hysteresis)功能,还是无法解决SiPM读出测试系统需要解决的问题。本文在说明(三)的基础上,继续探讨为SiPM读出测试系统寻求合适的模拟脉冲检出方案。前四代SiPM使用的高速比较器指标缺陷 由于前端模拟信号属于典型的指数脉冲,所以下降沿转换速率(Slew Rate)过慢,导致比较器检出出现不必要的问题。尽管比较器可以使能滞回(Hysteresis)模块功
    coyoo 2024-12-03 12:20 153浏览
  • 最近几年,新能源汽车愈发受到消费者的青睐,其销量也是一路走高。据中汽协公布的数据显示,2024年10月,新能源汽车产销分别完成146.3万辆和143万辆,同比分别增长48%和49.6%。而结合各家新能源车企所公布的销量数据来看,比亚迪再度夺得了销冠宝座,其10月新能源汽车销量达到了502657辆,同比增长66.53%。众所周知,比亚迪是新能源汽车领域的重要参与者,其一举一动向来为外界所关注。日前,比亚迪汽车旗下品牌方程豹汽车推出了新车方程豹豹8,该款车型一上市就迅速吸引了消费者的目光,成为SUV
    刘旷 2024-12-02 09:32 131浏览
  • 光伏逆变器是一种高效的能量转换设备,它能够将光伏太阳能板(PV)产生的不稳定的直流电压转换成与市电频率同步的交流电。这种转换后的电能不仅可以回馈至商用输电网络,还能供独立电网系统使用。光伏逆变器在商业光伏储能电站和家庭独立储能系统等应用领域中得到了广泛的应用。光耦合器,以其高速信号传输、出色的共模抑制比以及单向信号传输和光电隔离的特性,在光伏逆变器中扮演着至关重要的角色。它确保了系统的安全隔离、干扰的有效隔离以及通信信号的精准传输。光耦合器的使用不仅提高了系统的稳定性和安全性,而且由于其低功耗的
    晶台光耦 2024-12-02 10:40 134浏览
  • RDDI-DAP错误通常与调试接口相关,特别是在使用CMSIS-DAP协议进行嵌入式系统开发时。以下是一些可能的原因和解决方法: 1. 硬件连接问题:     检查调试器(如ST-Link)与目标板之间的连接是否牢固。     确保所有必要的引脚都已正确连接,没有松动或短路。 2. 电源问题:     确保目标板和调试器都有足够的电源供应。     检查电源电压是否符合目标板的规格要求。 3. 固件问题: &n
    丙丁先生 2024-12-01 17:37 111浏览
  • 11-29学习笔记11-29学习笔记习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习笔记&记录学习习笔记&记学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&记录学习学习笔记&学习学习笔记&记录学习学习笔记&记录学习学习笔记&记
    youyeye 2024-12-02 23:58 88浏览
我要评论
0
点击右上角,分享到朋友圈 我知道啦
请使用浏览器分享功能 我知道啦