• 首页
  • 资讯
  • 专家
  • 话题
  • 问题库
  • 礼品商店
  • 分类
    • 新闻资讯
    • 娱乐八卦
    • 3C数码
    • 医疗健康
    • 健康养生
    • 云盘解析
    首页   ›   正文

Excel输“=8.54-8-0.54”等于0.00000000000888178419700125

2021-12-07 11:34
1546  3
教育科学 未结
关注
树友t2uio8
树友t2uio8 2021-12-07 11:34
3条回答
  • 树友2twngl
    2021-12-07 11:44

    计算机中计算是以2进制计算的,在十进制中是一个相对短的小数,当转化成二进制时,很可能是个很长的小数,并且长度超过一定长度时,计算时就需要截断到一个电脑可存储可计算的范围(当前32位,或64位系统)。

    这就计算时两个数值截取不同精度时,导致误差产生

    0
  • 树友wcbaoo
    2021-12-07 11:45

    这是进制的问题,我们平时所说的数字都是十进制,而计算机用的是二进制,我们给计算机输入一个十进制的问题,它会自动转化为二进制来计算,计算出的结果在转化为十进制的数字显示给我们,这个误差就出现在这个转化的过程中

    0
  • 宽容的仙酱
    2021-12-07 12:05

    这个是 浮点误差 的问题,一句话说不清,你可以百度  浮点误差 上面有解释。解决的方案可以设置单元格式里设小数点位数,或在公式上用ROUND函数设定位数就可以  如 =ROUND(8.54-8-0.54,2)

    0
 看不清?
提交回复

如本站内容“对您有用”,欢迎随意打赏,让我们持续更新!

打赏
游客
登录后展示个人签名去登录
0文章 0问题 0回答 0点赞
写作
发布问题
发布文章
关注微信
加QQ群
随机文章
年轻人低血压吃什么好的最快 吃什么能调节血压
2021-12-05 22:42:36
女司机开理想ONE倒车失控:“飞”到荣威车顶上
2023-07-02 09:48:07
iPhone 13将推紫色版引热议:消息称Pro版本独享、比前代紫色更浓
2022-03-04 08:34:35
口腔溃疡缺什么维生素 口腔溃疡缺什么
2021-12-05 22:50:24
肛拭子怎么做?新冠核酸检测为什么要查肛拭子 肛拭子是什么检查疼吗
2021-12-04 19:50:04
小孩消化不良吃什么好 小孩吃什么能治疗消化不良
2022-11-14 19:50:12
便秘吃什么排便快 吃什么能通便
2021-12-05 22:47:10
女人喝咖啡的最佳时间 女人喝咖啡的好处
2021-12-06 19:59:08
iPhone 14 Pro Max上手不到半天:网友的灵动岛被摔成“蜘蛛岛”
2023-01-17 09:11:54
三星掌门人李在镕获得特赦 恢复在三星工作
2022-11-24 09:03:47
有哪些食物补脑 日常如何保护大脑健康
2021-12-18 08:15:53
挪威圣诞派对爆发大规模聚集性疫情:出现多名奥密克戎感染患者
2021-12-06 19:46:50
可降低50%死亡率 美国默克宣布新冠口服药物免费分享给105个国家
2021-12-06 19:51:28
邻居吃榴莲男子以为煤气泄漏报火警:这现场让人哭笑不得
2022-02-19 08:35:39
吃什么对肝脏好 哪些食物对肝脏不利
2022-02-19 09:03:38
热门标签
智能手机为何越卖越贵 马斯克加速抢滩一文了解脑机接口 凛冬将至苹果还能靠iphone支撑多久 新野蛮人马斯克 630wrtx 4090解锁极限功耗 马斯克没有打价格战的基因 ipad营收锐减卖不动了 小米13 lite现身小米13家族最便宜版本 感受守护网络安全的黑科技app 感受守护网络安全的黑科技 新一代影像性能旗舰努比亚z50官宣 黑亚当纽约首映式 黑亚当创下巨石强森个人最好成绩 超人归来电影免费观看 超人回归dc 超人回归 贝鲁奇谈贝鲁奇 辐射剧集首张剧照 大超与白狼不可兼得 用废品造的iphone你会买单吗
Copyright © 2025 网站备案号: 闽ICP备2020021158号-10 本站所有信息来自于互联网或网友上传,如有侵权,敬请来信联系我们,1494738443@qq.com 我们立刻删除。
responsive_hankin 主题. Designed by 极速问答社区
赞赏作者

请通过微信、支付宝 APP 扫一扫

感谢您对作者的支持!

 支付宝 微信支付