|a| * |b| * cos(θ) ≠ a1*b1 + a2*b2 + a3*b3

ですね。

|a| * |b| * cos(θ) の値は座標系とか関係ないでよね。