神武八荒一颗小说,已完本玄幻小说排行榜,小说阅读网站

工控人家園 綜合討論 一個關于浮點數除法的疑問

科技改變未來

知識就是讓你禿頭的力量

級別: 家園常客

發送短信
加為好友

精華主題: 0
發帖數量: 552 個
工控威望: 758 點
下載積分: 10387 分
在線時間: 439(小時)
注冊時間: 2011-04-18
最后登錄: 2024-11-06
查看科技改變未來的主題 / 回貼

樓主發表于: 2022-08-24 10:44

全看 | 小中大

圖片：

如圖通過模擬發現被除數小于82時候，算出的結果是準的。被除數大于83 ，為什么結果就不準了呢/有知道原因的小伙伴嗎

niningtt

級別: 工控俠客

發送短信
加為好友
QQ聯系

精華主題: 0
發帖數量: 1230 個
工控威望: 3550 點
下載積分: 858 分
在線時間: 459(小時)
注冊時間: 2010-08-24
最后登錄: 2024-11-16
查看niningtt的主題 / 回貼

1樓發表于: 2022-08-25 11:54

全看 | 小中大

IEEE 754 浮點數的尾數部分是23位，也就是23位的二進制是真正實現數值的精度的，指數可以近似理解為確定小數點位數(這么說便于理解)。1/128=0.0078125,也就在這附近了，精度不夠了，所以浮點數不需要糾結最后面的小數，只要小數點前位數多，小數點后就會出現，甚至太多的話個位、十位、百位都有可能北省去

工控人家園 綜合討論 一個關于浮點數除法的疑問

http://m.bulh.cn
訪問內容超出本站范圍，不能確定是否安全
繼續訪問	取消訪問

日本特级淫片免费看-日本特级黄色-日本特级黄录像片-日本视频中文字幕-成年偏黄网站站免费-成年人福利