X



有効数字について教えてくれ
■ このスレッドは過去ログ倉庫に格納されています
0001Nanashi_et_al.
垢版 |
2018/06/28(木) 00:30:40.69
二つの測定値a,bがある。積abを求めよ。
a=1.2 ,b=1.9
本来ならab=2.28≒2.3…@となるはずや
しかーし
aの幅は1.15≦a≦1.24 ,bの幅は1.85≦b≦1.94
ゆえに
最小ab=1.15×1.85=2.1275≒2.1
最大ab=1.24×1.94=2.4056≒2.4
本来の答え2.3の幅は2.25≦2.3≦2.34やから
2.1も2.4もこの範囲にないんや
これおかしくないか?
0003Nanashi_et_al.
垢版 |
2018/06/28(木) 13:26:47.57
>>1
> 本来の答え2.3の幅は2.25≦2.3≦2.34やから

これが間違い
エラーバーのある測定値に演算を施せば、演算結果のエラーバーの幅は施したのがどういう演算なのかに応じて様々に変わる
■ このスレッドは過去ログ倉庫に格納されています

ニューススポーツなんでも実況