ディープラーニングは端的に言えば「同じ物（似た物）を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
チェスとか将棋の類では過去に対局された棋譜を検索して次の手を探してくるだけだし、株価予測も顔認証も過去のデータや登録された顔データと比較してるだけ

プログラムを書き換えるのは全く出来ないわけではない、端的に言っただけなので訂正しておく
if a == b { print "A=B" } else { print "A!B" } print "Done!" print "Say again. Done!!!"
これが、
if a == b { print "A=B" } else { print "A!B" print "Done!" print "Say again. Done!!!"
になっただけで「閉じてねーよｺﾞﾙｧ」って怒られる（動作しない）そして、AIにはこれのどこに「}」を入れたらいいかを判断できない（正確にはエラーを起こさないようには出来るけどそれが正しいかを判断できない）
さて、これをどうやって「人類の脅威になるような」プログラムに書き換えるんだい？って話、そもそもこのコードをAIがどっからひねり出すんだい？っていう
過去の人間が作ったソースコードからコピペする事は出来るが、ある目標を持ってAIがコードを作るのではなく、あくまで人間が意味を見いだすってだけ

2045年がどうとか言われてるけど、空振りだと思うよ
音声認識、顔認証なんかは生活に溶け込んでるとは思うし、昼過ぎて食ってない昼食をスマホが催促してきたりはするかもしれないけど、創造的な作業は機械には出来ないのは変わらない