あれは作者さんが誤解を招きやすい書き方をしているんだ。
2*(y1^-1)　←として計算してて、引っかかってるんでしょ。
以下の計算式で解いてごらん。

lmd = (3 * (x1 ^ 2) + a) * ((2 * y1) ^ -1) (mod prime)

wikipediaを見て回るなど、複数の情報源に当たることも重要かもね。
http://en.wikipedia.org/wiki/Elliptic_curve
http://upload.wikimedia.org/wikipedia/en/math/4/b/b/4bbfabfcd349fd11e3075d7fb630d26e.png