一般的な三端子レギュレータの場合、二次側コンデンサは電圧安定度に寄与しない
発振抑制のためにレギュレータメーカが推奨する種類と値のコンデンサを挿入する。
いたずらに大きな値のコンデンサ特に周波数特性の悪い電解コン等を挿入すると
異常発振を起こしやすくなる。

レギュレータ一次側は、電源や配線のインピーダンスが充分に低ければコンデンサ不要
レギュレータ一次側電圧と二次側電圧の差が小さいとか、一次側配線が長い等
インピーダンスを低く出来ない場合は、発振抑制、リップル低減、電流バッファの
目的でコンデンサを挿入する。

何れにせよレギュレータ品種ごとに最適値(容量)が異なるのでメーカーが出している
データシートとか規格表を見てコンデンサ種類と値を検討した方が良いと思うぞ。