【RaspberryPi】1ボードPCを語るスレ13【Pine64】

■ このスレッドは過去ログ倉庫に格納されています
822774ワット発電中さん2018/11/09(金) 18:47:00.45ID:eQqifzck
>>813
単精度じゃ、未知の数値計算で失敗する可能性あるんで(例えば高位の極付近がオーバーフローしやすいとか)、
倍精度で検証してもらえないか?

■ このスレッドは過去ログ倉庫に格納されています