AB = 8, BC = 12, ∠B = 60°, ∠C = 40° のとき、
球面三角形ABCの存在する球の半径xを求めよ
という問題にして

中心角
a=BC/x=12/x
b=CA/x
c=AB/x=8/x
内角
B=pi*60/180=pi/3
C=pi*40/180=pi*2/9

sin(b)/sin(B)=sin(c)/sin(C) 正弦定理
cos(b)=cos(c)cos(a)+sin(c)sin(a)cos(B) 余弦定理
を適用して
sin(b)=sin(8/x)*sin(pi/3)/sin(pi*2/9)
cos(b)=cos(8/x)*cos(12/x)+sin(8/x)*sin(12/x)*cos(pi*2/9)

cos(b)^2+sin(b)^2=1で立式
(sin(8/x)*sin(pi/3)/sin(pi*2/9))^2+(cos(8/x)*cos(12/x)+sin(8/x)*sin(12/x)*cos(pi*2/9))^2=1

数値解を出すと
fn <- function(x)(sin(8/x)*sin(pi/3)/sin(pi*2/9))^2+(cos(8/x)*cos(12/x)+sin(8/x)*sin(12/x)*cos(pi*2/9))^2 -1
curve(fn(x),xlim=c(12/(2*pi),10),bty='l') ; abline(h=0,lty=3)
optimize(fn,c(6/pi,4))
(r1=uniroot(fn,c(6/pi,2.54),tol=1e-24)$root)
(r2=uniroot(fn,c(2.54,4),tol=1e-24)$root)

解が２つ出てきた
> (r1=uniroot(fn,c(6/pi,2.54),tol=1e-24)$root)
[1] 2.063988
> (r2=uniroot(fn,c(2.54,4),tol=1e-24)$root)
[1] 3.323372