FFT掛けられるなら、処理前と処理後を比較して、
100Hzでフィルタされてるかどうか見れば簡単じゃん
もし、その結果が正しければ、あなたの言う山がつぶれるのは仕方ないでしょ。

ただ、山の周期が50Hz以下だというなら、書きに示すように
100Hzのバターワースで山が消えるのはおかしい。

バターワースの周波数レスポンスは周波数正規化後
1/√(1+ω^(2n))であらわされる。
カットオフ100Hzのフィルタに50Hz食わせれば
1/√(1+0.5^(2n))≒1なのでほぼ通過する。
消えることは無い。