社区首页
博客
论坛
下载
文库
评测
芯语
研讨会
商城
EE直播间
芯视频
E聘
更多
社区
论坛
博客
下载
评测中心
面包芯语
问答
E币商城
社区活动
资讯
电子工程专辑
国际电子商情
电子技术设计
CEO专栏
eeTV
EE|Times全球联播
资源
EE直播间
在线研讨会
视频
白皮书
小测验
供应商资源
ASPENCORE Studio
活动
IIC Shanghai 2023
2023(第四届)国际 AIoT 生态发展大会
全球 MCU 生态发展大会
第四届临港半导体产业高峰论坛暨司南科技奖颁奖盛典
IIC Shenzhen 2023
第四届中国国际汽车电子高峰论坛
更多活动预告
杂志与服务
免费订阅杂志
电子工程专辑电子杂志
电子技术设计电子杂志
国际电子商情电子杂志
帖子
帖子
博文
电子工程专辑
电子技术设计
国际电子商情
资料
白皮书
研讨会
芯语
文库
×
提示!
您尚未开通专栏,立即申请专栏入驻
帖子
博文
用户
芯语
首页
专栏作家
CEO专栏
论坛
博客
E币商城
资讯
电子工程专辑
国际电子商情
电子技术设计
浮点数
程序员必看:浮点数精度问题全解析
目录0、导读1、引言2、浮点数存储格式3、转换流程3.1、将整数部分转换为二进制3.2、将小数部分转为二进制3.3、规范化3.4、调整阶码3.5、尾数舍入3.6、组三元素4、单/双精度浮点数比较4.1、存储格式4.2、精度4.3、浮点数范围4.4、浮点数比较5、阶码相关问题探索5.1、什么是移码5.2、如何计算移码5.3、为什么要用移码表示6、指数e6.1、指数范围6.2、特殊值7、文中问题解答8
typedef
2024-11-25
81浏览
整数与浮点数存储差异与精度损失
扫描关注一起学嵌入式,一起学习,一起成长为什么我们代码将浮点数、整数进行强制转换,或打印输出时会出精度损失,或出错的情况?想要搞明白这个问题,就需要了解一下整数、浮点数的存储规则。一、浮点数存储规则 根据国际标准IEEE(电气和电子工程协会)规定,任何一个浮点数NUM的二进制数可以写为:NUM = (-1) ^ S * M * 2 ^ E; (S表示符号,E表示阶乘,M表示有效数字)①当S为0时,
一起学嵌入式
2024-02-21
531浏览
FPGA学习视频精选|定点数、浮点数学习视频
点击上方蓝字关注我们哔哩哔哩小程序观看:(点击下面链接即可观看)END【福利】:QQ交流群173560979,进群备注名字+学校/企业。淘宝店铺:https://shop588964188.taobao.com论坛网址:www.sxznfpga.com叁芯智能FPGA课程往期精选 【免费】FPGA工程师人才招聘平台FPGA人才招聘,企业HR,看过来!系统设计精选 | 基于FPGA的实时图像边缘
FPGA技术江湖
2024-02-08
503浏览
串口通信如何传输浮点数据
嵌入式系统的串口数据传输都是以字节为单位,但是有些特殊的数据类型,比如浮点型 float a=231.5,在内存是如何表示的呢?我们知道浮点型float数据类型占用4个字节,实际上在内存当中a=0x43678000,只是嵌入式芯片访问a时,知道a是浮点型数据,所以一次性读取4个字节,而且也按照浮点型的数据表示规定,将a转换为十进制的可读数据231.5。如果我们从串口接收到4个字节数据{0x43,0
嵌入式电子
2023-09-28
644浏览
用“两个浮点数相等”被说了一顿
大家好,我是bug菌~最近进行代码的review过程中,看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不均匀我们经常会谈到浮点数的精度问题,float-单精度,double-双精度。double类型相比float类型精度更高,相应的需要的内存字节个数也越多。谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识任
嵌入式ARM
2023-09-27
1382浏览
别怪“浮点数”太坑(C语言版)
今天为大家带来C语言浮点数的那些事,做嵌入式开发的小伙伴应该多多少少被C中的浮点数给坑过吧?不过也不能怪人家C,怪就只能怪自己知识不牢靠,曾经太年轻!一、浮点数如何存储大家在平时的嵌入式软件开发过程中,应该对整形的存储形式会比较熟悉,因为我们进行底层寄存器的配置大部分都是使用无符号整形进行赋值写入。然而,对于有符号整形的存储形式,你是否已经了解清楚了?对于浮点类型的数据的存储呢?好吧,今天这篇文章
嵌入式ARM
2023-09-20
836浏览
串口通信如何传输浮点数据
扫描关注一起学嵌入式,一起学习,一起成长嵌入式系统的串口数据传输都是以字节为单位,但是有些特殊的数据类型,比如浮点型 float a=231.5,在内存是如何表示的呢?我们知道浮点型float数据类型占用4个字节,实际上在内存当中a=0x43678000,只是嵌入式芯片访问a时,知道a是浮点型数据,所以一次性读取4个字节,而且也按照浮点型的数据表示规定,将a转换为十进制的可读数据231.5。如果我
一起学嵌入式
2023-09-06
1044浏览
如何使用union处理浮点数据?
一、联合体的使用和分析1、联合体联合体(union)与结构体(struct)有一些相似之处。但两者有本质上的不同。在结构体中,各成员有各自的内存空间,一个结构变量的总长度是各成员长度之和。而在联合体中,各成员共享一段内存空间,一个联合变量的长度等于各成员中最长的长度。应该说明的是,这里所谓的共享不是指把多个成员同时装入一个联合变量内,而是指该联合变量可被赋予任一成员值,但每次只能赋一种值,赋入新值
嵌入式ARM
2023-06-26
800浏览
如何使用union处理浮点数据?
关注、星标公众号,直达精彩内容联合体(union)的使用和分析1、联合体联合体(union)与结构体(struct)有一些相似之处。但两者有本质上的不同。在结构体中,各成员有各自的内存空间, 一个结构变量的总长度是各成员长度之和。而在联合体中,各成员共享一段内存空间, 一个联合变量的长度等于各成员中最长的长度。应该说明的是, 这里所谓的共享不是指把多个成员同时装入一个联合变量内, 而是指该联合变量
小飞哥玩嵌入式
2023-05-14
1020浏览
FPGA学习视频精选|定点数、浮点数学习视频
点击上方蓝字关注我们哔哩哔哩小程序观看:(点击下面链接即可观看)官方淘宝店:https://shop588964188.taobao.comFPGA交流 QQ 交流群:173560979论坛网址:www.sxznfpga.com叁芯智能 FPGA课程往期精选 【免费】FPGA工程师人才招聘平台FPGA人才招聘,企业HR,看过来!系统设计精选 | 基于FPGA的实时图像边缘检测系统设计(附代码)
FPGA技术江湖
2022-11-14
1826浏览
FPGA学习视频精选|定点数、浮点数学习视频
点击上方蓝字关注我们哔哩哔哩小程序观看:(点击下面链接即可观看)官方淘宝店:https://shop588964188.taobao.comFPGA交流 QQ 交流群:173560979论坛网址:www.sxznfpga.com叁芯智能 郝旭帅团队制作往期精选 【免费】FPGA工程师人才招聘平台FPGA人才招聘,企业HR,看过来!系统设计精选 | 基于FPGA的实时图像边缘检测系统设计(附代码
FPGA技术江湖
2022-07-26
785浏览
内存中整数和浮点数存储的差异
关注+星标公众号,不错过精彩内容作者 | 夜风编排 | strongerHuang为什么我们代码将浮点数、整数进行强制转换,或打印输出时会出精度损失,或出错的情况?想要搞明白这个问题,就需要了解一下整数、浮点数的存储规则。浮点数存储规则根据国际标准IEEE(电气和电子工程协会)规定,任何一个浮点数NUM的二进制数可以写为:NUM = (-1) ^ S * M * 2 ^ E; (S表示符号,E表示
strongerHuang
2022-05-19
898浏览
定点数和浮点数
定点数定点数是指,数字在小数点之后和之前具有固定的位数。可以用Qm.n表示法进行表示.m位为整数部分 n位小数部分有符号数的总位数N = m + n + 1当n=0时,则定点数用来存储整数。 定点数(整数)定点数可以用来存储整数,包括正整数和负整数。定点(整数)表示的常见格式有unsigned integer, offset binary, sign and magnitude, two’s co
加油射频工程师
2022-04-27
1006浏览
可能你还不懂浮点数~
在网上看到一个问题然后看到这篇关于浮点数的文章,希望大家看了之后有所启发。想一下,为什么第一个打印的和预设值不同,但是第二个是相同的?如图:尾数部分是如何转变成二进制的?前言很多人在初学写程式时都会遇到所谓的浮点误差,如果你到目前都还没被浮点误差雷过,那只能说你真的很幸运XD。以下图Python 的例子来说 0.1 + 0.2 并不等于0.3,8.7 / 10也不等于0.87,而是0.869999
嵌入式资讯精选
2022-04-27
1382浏览
同事用"两个浮点数相等"被说了一顿
大家好,我是bug菌~最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不均匀我们经常会谈到浮点数的精度问题,float-单精度,double-双精度,double类型相比float类型精度更高,相应的需要的内存字节个数也越多,谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识任何
嵌入式大杂烩
2022-01-13
1187浏览
同事用"两个浮点数相等"被说了一顿
大家好,我是bug菌~最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不均匀我们经常会谈到浮点数的精度问题,float-单精度,double-双精度,double类型相比float类型精度更高,相应的需要的内存字节个数也越多,谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识任何
TopSemic嵌入式
2021-12-29
882浏览
同事用"两个浮点数相等" 被说了一顿
正文大家好,我是bug菌~最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不均匀我们经常会谈到浮点数的精度问题,float-单精度,double-双精度,double类型相比float类型精度更高,相应的需要的内存字节个数也越多,谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识
李肖遥
2021-11-16
1533浏览
同事用"两个浮点数相等" 被说了一顿
正文大家好,我是bug菌~最近进行代码的review过程中看到同事在代码中直接拿浮点数相等来作为条件,其他同事提醒他的时候,他还迷迷糊糊不知道为什么,所以就有了今天这篇文章。1浮点数据的不均匀我们经常会谈到浮点数的精度问题,float-单精度,double-双精度,double类型相比float类型精度更高,相应的需要的内存字节个数也越多,谈到精度的问题,其实也就说明这种数据类型并不能够连续的标识
嵌入式客栈
2021-11-14
1078浏览
整数、浮点数在内存中的存储规则
关注+星标公众号,不错过精彩内容 作者 | 夜风 编排 | strongerHuang 为什么我们代码将浮点数、整数进行强制转换,或打印输出时会出精度损失,或出错的情况? 想要搞明白这个问题,就需要了解一下整数、浮点数的存储规则。 嵌入式专栏
strongerHuang
2020-12-04
1252浏览
浮点数的秘密
1 前言 我们在学习 C 语言时,通常认为浮点数和小数是等价的,并没有严格区分它们的概念,这也并没有影响到我们的学习,原因就是浮点数和小数是绑定在一起的,只有小数才使用浮点格式来存储。 其实,整数和小数可以都使用定点格式来存储,也可以都使用浮点格式来存储,但实际情况却是,C 语言使用定点格式存储整数,使用浮点格式存储小数,这是在 “数值范围” 和 “数值精度” 两项重要指标之间追求平衡的
嵌入式ARM
2020-09-17
1944浏览
嵌入式工程师,别怪"浮点数"太坑!(C语言版本)
1、浮点数如何存储 大家在平时的嵌入式软件开发过程中应该对整形的存储形式会比较熟悉,因为我们进行底层寄存器的配置大部分都是使用无符号整形进行赋值写入,然而对于有符号整形的存储形式你是否已经了解清楚了?对于浮点类型的数据的存储呢?好吧,今天这篇文章主要是对浮点类型数据进行讲解,其他相关大家可以查阅
嵌入式ARM
2020-05-01
2931浏览
正在努力加载更多...
广告
今日
新闻
1
印尼拟提高智能手机本土化要求,全球手机市场或面临新挑战
2
中国四大行业协会联合发声警告:美国芯片采购需谨慎
3
英特尔开始从外部寻找新CEO:陈立武等在候选名单上
4
中国第二批汽车芯片白名单发布,涉及10大类芯片、2000个应用案例
5
利用CMP降低SiC晶圆生产成本并提高效率
6
赴美参加消费电子展(CES)的中企遭大面积拒签
7
Intel新一代B系游戏显卡发布,还带AI帧生成...
8
商务部:加强对美出口管制,涉及镓、锗、锑、超硬材料等两用物项
热门
文章排行
1
各大车企付款周期汇总
一览众车
1785
2
突发!美国再次出手!对中国140家芯片公司重大打击!
集成电路IC
1724
3
美国欲限制140家中国芯片公司,包含多家设备巨头
半导体工艺与设备
1287
4
【完整名单列表】美国再将140家中国半导体企业列入实体名单!
EETOP
805
5
突发!美将140家中国半导体企业列入实体名单,附完整名单及政策细节!
大鱼机器人
654
6
华为Mate70搭载的麒麟9020芯片有多强悍?!
凡亿PCB
472
7
日本一水坝现巨型哥斯拉壁画:预计明年1月底将消失
快科技
472
8
新一代麒麟到底啥水平!华为Mate70系列麒麟9020处理器跑分揭秘
快科技
432
9
中国芯片新锐50强
贞光科技
420
10
最新禁令来了!140多家中国芯片公司被限制
谈思实验室
363
11
传小米2025年正式发布自研3nmSoC芯片
皇华电子元器件IC供应商
304
12
不到5%!国产存储芯片急需突破!全球存储芯片市场“冰火两重天”?
飙叔科技洞察
295
13
华为Mate70Pro“纯血鸿蒙版”来了!无法兼容安卓!
飙叔科技洞察
258
14
传小米明年正式发布自研3nmSoC芯片
ittbank
256
15
牙膏挤爆!iPhone17八大升级,苹果史无前例的巨变
手机技术资讯
251
16
索赔800万,字节起诉模型“投毒”实习生~网友:800万只是电费!!!
C语言与CPP编程
251
17
刚刚!美国新限制140家中企!(名单曝光)
中国半导体论坛
241
18
美将140家中国半导体企业列入实体名单,附完整名单及政策细节!
射频美学
241
19
牙膏挤爆!iPhone17八大升级,苹果史无前例的巨变
快科技
219
20
产业链人士曝华为Mate70系列核心零部件供应商
PCBworld
217
21
完整名单表:美国再将140家中国半导体企业列入实体名单
智能计算芯世界
204
22
2024年11月新能源汽车销量排名
一览众车
203
23
彻底疯了!CES不给中国人发签证
集成电路IC
200
24
华为手机前三季度出货量接近去年全年,Mate70系列成新增长点
52RD
195
25
HBM禁令深度思考
集成电路IC
193
26
美国又拉黑140家中国芯片企业,包括北方华创、拓荆、昇维旭…
芯通社
188
27
商汤绝影最新智驾「大杀器」:1块GPU顶500台量产车,而且有5.4万块
智能车参考
179
28
比亚迪:明年将推出新一代刀片电池
锂电联盟会长
176
29
先进封装:美国、中国、韩国最新进展盘点
半导体前沿
164
30
突发又来!美国将所有HBM纳入管控,限制24种半导体设备,三种软件
集成电路IC
163
广告
最新
评论
更多>>
不错不错,加油奋力追赶美国的脚步,针对外国的芯片制裁打压,必定国产崛起
洋华Louis
评论文章
2024-12-04
华为大曝光!
电容器(英文:capacitor,又称为condenser)是将电能储存在电场中的被动电子器件。电容器的储能特性可以用电容表示。在电路中邻近的导体之间即存在电容,而电容器是为了增加电路中的电容量而加入的电子器件。
james1982...
评论文章
2024-12-04
数字万用表的8种方法检测方法!
资料
文库
帖子
博文
1
《论系统工程》(第2版,钱学森 著,1988年10月修订版)
2
170中国新能源汽车品牌图谱
3
STM32HAL库手册
4
JESD204B协议读书笔记
5
《星际航行概论》(钱学森 著,科学出版社,1963年)
6
激光加工
7
《普通高中教科书:数学》(人教A版)选择性必修 第1册 教师教学用书
8
ADS SI 仿真分析与设计
9
Arduino Nano 和 DHT11 实现 LabVIEW 温湿度采集
10
点思DS2730多口快充65-100W适配器
1
这里二极管是什么作用?
2
《十万个为什么》Excel 问题与答案 得分 比较游戏 规则
3
【东软载波 ES32VF2264 开发板】环境搭建和开箱测评打印数据
4
封装衬底的铜皮如何转换成焊盘,或者直接添加一个管脚序号
5
电流回路示意图,对不对?这样也采不到负载(灯)的电流吧?要怎么更改才能采集到灯头(负载)的电流
6
【东软载波 ES32VF2264 开发板】05 基础功能测试——ADC
7
【Arduino uno教程 】合集
8
【Arduino uno教程 】(六)串口通信,发送与接收
1
基于TOF微型多区激光传感器在MCU上的AI手势识别
2
比较器检测模拟脉冲说明(四)
3
温度传感器精度的影响因素
4
紫光展锐联合上汽海外发布量产车型,赋能汽车智能化
5
瑞芯微方案主板Linux修改系统串口波特率教程,触觉智能RK3562开发板演示
6
工控板方案中,哪些功能可以通过USB扩展出来?
7
12-2学习笔记
8
简析光耦的基本原理和其在光伏逆变器产品中的重要作用
1
贴片功率电感失效原因
2
汽车底盘电控技术
3
纯电动汽车电池管理系统及工作模式
4
新手在配电箱维护上会有哪些问题
5
磁饱和变压器可以用来做什么?
6
分享一份I2C通讯总结
7
新能源汽车产业链核心供应商盘点
8
二极管、三极管、MOS管和IGBT基础知识
9
搞硬件,不懂PTC热敏电阻?那怎么行?
10
USB PCB布局走线设计
在线研讨会
uModule DC/DC稳压器 - 减少热量、增加功率
ADAS系统中采用的MEMS时钟
PLL基础知识及其在时钟系统中的应用
PIC16F13145单片机可配置逻辑模块(CLB)概览
EE直播间
无线前沿新技术与测试技术峰会-线上直播
直播时间:12月05日 09:30
首场直播发布: Keysight AP5000 系列新型高性价比模拟信号源
直播时间:12月06日 10:00
全面掌握功率表应用及校准
直播时间:12月10日 10:00
提升毫米波信号测试精度
直播时间:12月18日 14:00
E聘热招职位
本网页已闲置超过10分钟,按键盘任意键或点击空白处,即可回到网页
X
最新资讯
印尼拟提高智能手机本土化要求,全球手机市场或面临新挑战
中国四大行业协会联合发声警告:美国芯片采购需谨慎
英特尔开始从外部寻找新CEO:陈立武等在候选名单上
中国第二批汽车芯片白名单发布,涉及10大类芯片、2000个应用案例
利用CMP降低SiC晶圆生产成本并提高效率