■ちょっとした物理の質問はここに書いてね271■

[694 ご冗談でしょう？名無しさん 2022/01/23(日) 12:52:06.30 ID:???]

>>691
無知の人には解らんだろが、小数表記は正確な表現ではない。

コンピュータ理論を学んでれば１０進数で小数が有限でも内部の２進数では有限とは限らない
つまり、２進数に変換しただけで誤差が発生する。