【RaspberryPi】1ボードPCを語るスレ13【Pine64】

822774ワット発電中さん2018/11/09(金) 18:47:00.45ID:eQqifzck
>>813
単精度じゃ、未知の数値計算で失敗する可能性あるんで(例えば高位の極付近がオーバーフローしやすいとか)、
倍精度で検証してもらえないか?

新着レスの表示
レスを投稿する