大問2の(3)までは、
BC=6^(1/2)+2 ^(1/2)
三角形OBC=1/2
三角形EBO=[2+{2 ^(1/2)-6 ^(1/2)}a]/4

大問3の(1)(2)は、a: 4, 18、b: 3, 80

そこまでしか分かりません…