• 首页
  • 资讯
  • 专家
  • 话题
  • 问题库
  • 礼品商店
  • 分类
    • 新闻资讯
    • 娱乐八卦
    • 3C数码
    • 医疗健康
    • 健康养生
    • 云盘解析
    首页   ›   正文

Excel输“=8.54-8-0.54”等于0.00000000000888178419700125

2021-12-07 11:34
1557  3
教育科学 未结
关注
树友t2uio8
树友t2uio8 2021-12-07 11:34
3条回答
  • 树友2twngl
    2021-12-07 11:44

    计算机中计算是以2进制计算的,在十进制中是一个相对短的小数,当转化成二进制时,很可能是个很长的小数,并且长度超过一定长度时,计算时就需要截断到一个电脑可存储可计算的范围(当前32位,或64位系统)。

    这就计算时两个数值截取不同精度时,导致误差产生

    0
  • 树友wcbaoo
    2021-12-07 11:45

    这是进制的问题,我们平时所说的数字都是十进制,而计算机用的是二进制,我们给计算机输入一个十进制的问题,它会自动转化为二进制来计算,计算出的结果在转化为十进制的数字显示给我们,这个误差就出现在这个转化的过程中

    0
  • 宽容的仙酱
    2021-12-07 12:05

    这个是 浮点误差 的问题,一句话说不清,你可以百度  浮点误差 上面有解释。解决的方案可以设置单元格式里设小数点位数,或在公式上用ROUND函数设定位数就可以  如 =ROUND(8.54-8-0.54,2)

    0
 看不清?
提交回复

如本站内容“对您有用”,欢迎随意打赏,让我们持续更新!

打赏
游客
登录后展示个人签名去登录
0文章 0问题 0回答 0点赞
写作
发布问题
发布文章
关注微信
加QQ群
随机文章
哺乳期吃什么下奶多 哺乳妈妈吃什么奶水多
2021-12-05 23:09:21
国产手机都要提前预定 为什么iPhone 14预热不开启预定?
2022-12-24 17:19:30
父母不同意女儿远嫁连人带包赶下车 现场被路人拍下女孩让人心碎
2021-12-09 21:53:34
赶在小米12发布前 小米新机入网:高通骁龙870加持
2021-12-04 22:29:08
苹果iPhone 12全系开始支持无需更换整个设备的新部件维修方式
2021-12-05 22:02:10
苹果对山寨下手了 iOS 16将弹窗提醒非官方AiPods耳机
2022-12-27 11:25:32
辣木籽的食用方法 辣木籽的功效与作用
2021-12-05 00:34:16
江西、浙江高温日数超25天:10省区市将现37℃以上高温
2022-09-17 09:20:35
台积电TOP10客户名单:没有华为后 苹果一家独大
2021-12-17 08:16:33
权威解答:新冠疫苗最新消息 新冠疫苗有没有必要打?
2021-12-09 21:12:23
别被坑了!罗永浩怼上运营商视频彩铃业务:网友齐叫好
2022-03-13 07:59:07
情侣相恋3年 女友医院检查是男儿身:医生科普概率几万分之一罕见病
2022-09-30 07:55:34
《蜘蛛侠:纵横宇宙》大闹天宫海报公布:6月2日上映
2023-05-26 09:36:35
无数人来川的“第一站”!成都火车北站将停运改造
2023-06-06 09:53:22
白果的副作用 白果的副作用有哪些
2022-02-19 08:59:23
热门标签
智能手机为何越卖越贵 马斯克加速抢滩一文了解脑机接口 凛冬将至苹果还能靠iphone支撑多久 新野蛮人马斯克 630wrtx 4090解锁极限功耗 马斯克没有打价格战的基因 ipad营收锐减卖不动了 小米13 lite现身小米13家族最便宜版本 感受守护网络安全的黑科技app 感受守护网络安全的黑科技 新一代影像性能旗舰努比亚z50官宣 黑亚当纽约首映式 黑亚当创下巨石强森个人最好成绩 超人归来电影免费观看 超人回归dc 超人回归 贝鲁奇谈贝鲁奇 辐射剧集首张剧照 大超与白狼不可兼得 用废品造的iphone你会买单吗
Copyright © 2026 网站备案号: 闽ICP备2020021158号-10 本站所有信息来自于互联网或网友上传,如有侵权,敬请来信联系我们,1494738443@qq.com 我们立刻删除。
responsive_hankin 主题. Designed by 极速问答社区
赞赏作者

请通过微信、支付宝 APP 扫一扫

感谢您对作者的支持!

 支付宝 微信支付