具体的にどれぐらいの高さの音かわからないと何とも言えないんですが、
振動のような低音じゃなくて、そういう隙間から漏れるような音であれば、内窓の効果は期待できると思いますよ

もし音の周波数がわかれば、
http://inplast.jp/glass.compare.html
ここのサイトの特性表で、その音に一番効くガラスを選べば効果的なんだけど…