>>780 と同じバージョンの platex で、>>767 の1つ目のリンク先に書かれている
ソースで使われている \ifcaseが正しく動作するのを確認したよ。

\begin{eqnarray}は、\begin{gather*} に変えても通った。

ただし、\DeclarePairedDelimiter を使えるようにしてけど、

\DeclarePairedDelimiterX{\innset}[2]{\lbrace}{\rbrace}{%
#1\;\delimsize\vert\;#2}

の \DeclarePairedDelimiterXは、新しいバージョンのものらしく、未定義だと怒られるので
使えなかった。でも、本質的にはいけます。



------------------------------------------------------------
\newcommand{\innseta}[3]{
innseta( #1, #2, #3 );
\vsa
}
\newcommand{\innsetb}[2]{
innsetb( #1, #2 );
\vsa
}
\newcommand{\innsetc}[2]{
innsetb( #1, #2 );
\vsa
}
\newcommand{\myset}[3][2]{%
1=#1, 2=#2, 3=#3 :
\ifcase#1\relax
\innsetb{#2}{#3}\or % 0
\innseta{big}{#2}{#3}\or % 1
\innseta{Big}{#2}{#3}\or % 2
\innseta{bigg}{#2}{#3}\or % 3
\innseta{Bigg}{#2}{#3} % 4
\else
\innsetc{#2}{#3}
\fi}

\begin{eqnarray}
\myset{A}{\frac{B}{C}} \\
\myset[0]{A}{\frac{B}{C}} \\
\myset[1]{A}{\frac{B}{C}} \\
\myset[2]{A}{\frac{B}{C}} \\
\myset[3]{A}{\frac{B}{C}} \\
\myset[4]{A}{\frac{B}{C}} \\
\myset[-1]{A}{\frac{B}{C}}
\end{eqnarray}