>625
(3)式と(4)式に同じ数を代入するということは、

x^2+y^2=(x+2)^2にx=3,y=4,z=5を代入すると成り立つので
x^2+y^2=(x+√3)^2にx=3,y=4,z=5を代入すると成り立つ、ということですか？

いいえ、
x^2+y^2=(x+√3)^2にx=3*√3/2,y=4*√3/2,z=5*√3/2を代入すると成り立つ、ということです