ACオンリーと矩形波がNGとは直接は関係はない。
矩形波のスペクトルが、帯域(ACオンリーという文脈ではHPF)に十分入っていればいいし。

矩形波がダメだとしたら、元質問の「10kHzの矩形波」がサウンドのオシロだと問題になると思う。
矩形波を矩形波として観察しようとしたら、最低5倍、できれば7倍ぐらいの帯域は欲しい。
なので、10kHzの矩形波だったら50kHzの帯域は欲しい。
一般的な44.1kサンプル/秒だと帯域は実質20kHz以下。

1chでいいなら>>625が書いてるようなもの(DSO138とか?)でも良いと思うけど、できれば2chは欲しい。
使い勝手の違いで言えば、2chと4chの差より、1chと2ch(または1ch+トリガ)の違いの方がはるかに大きい。