↑Ｂ

ツイート
2018.11.19

30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話

• 30年前のBASICで「0.01を10000回足したら100.003」になると書いてあったので、今の環境で試してみたら同じ結果だった話 - Togetter 1 users

マジか。

Category:Perl・Javascript・python、サーバー管理メモ

Follow @fetuin

コメント

いいっすね！=6
001 [11.19 11:21]ふとまる:ベーシックの演算精度はずっと同じはず。というか、変えたら昔のコードバグる。 ↑(1)
002 [11.19 14:30]昔は@Iij:有効数字と演算精度を意識した科学技術演算と、誤差を許さない金融演算は、大昔はFORTRANとCOBOLで棲み分けがあったので、こんな事で「マジか」とか言うバカはいなかったんだけどねぇ。 ↑(3)
003 [11.19 19:18]。:>>002 分野違いの話に驚く人をバカ呼ばわりする人も居なかった筈だよね。 ↑(1)
004 [11.19 19:20]F@Dion:floatやdoubleがfpuのレジスタ上に乗るようになって久しいが形式変えたらたしかにバイナリファイルが困りそうだな。業務システムとか精度優先ならdecimal使う。 ↑

名前 ↑Ｂ

ツイート
コメント(※改行は省略されます）

※３回以上の連続書き込み不可

この記事のアクセス数:


→カテゴリー：Perl・Javascript・python、サーバー管理メモ(記事数:83)
アクセス数の多い記事(過去1ヶ月)

すべて見る