ふつう、球面三角形では辺の長さを180°以下とするから
12/R＜π 即ち R＞12/π=3.8197 が課せられるのだが、
この範囲にはたぶんない。

一辺だけ180°を超えることを許せば存在するみたいだ。
12/R＜2π かつ 8/R＜π
即ち R＞8/π=2.5464 でよいことになる。

どうやら
R=3.2722 のときに
(大円の半周は πR=10.279)

∠A=210.16°, ∠B=60°, ∠C=40,
AB=8, BC=12, BC=3.4175
(角度で表すと
AB/πR=0.7804=140.07°,
BC/πR=1.1707=210.11°,
AC/πR=0.3324=59.840°)

という解があると思う。