「AIが自身のプログラムを書き換える」
これ
「どのように」が抜けてて、それがあたかもAIがプログラムを「良いように」書き換えて人類あぼん
みたいな妄想が良くあるパターン

プログラムは自身のプログラムを書き換えることは出来ません。
ディープラーニングは動作を書き換えるだけでプログラム（アルゴリズム）は書き換えない

「ロボット三原則」とか文系の発想で妄想だけが先走る良くあるパターン
人類に危害を与えないとか、こんな事プログラムすることは出来ないからね