>>515
> SFに学ぶAI「シンギュラリティ」の超え方（上）
> 三谷宏治 [K.I.T.虎ノ門大学院主任教授] 【第155講】 2017年1月5日

http://diamond.jp/articles/-/112758?page=3
> AIを停止させるためのスイッチを、予め組み込 ry Google ry
>  でもいったん暴走、もしくは自意識を持ったAIを、きっとわれわれは切れないでしょう。
>  飛行機の離着陸をリアルタイムでコントロールしつつ、医療現場での手術補助をしつつ、
> ダムの排水量調整をしているプログラム（AI）の一部が狂気に陥ったとして、
> その部分だけを瞬時に切り分けて他の部分に影響のないよう凍結するなんて、あり得ません。
> ry AIがどう考え判断しているか、わからないから。やるなら全体を切る（＝kill）しかないのです。
> ry 。反射スピードもヒトの数億倍 ry 。だからこの勝負、 ry 負けは確実なのです。

http://diamond.jp/articles/-/112758?page=4
>  自意識が生まれた瞬間、そのAIは ry 「消えたくない」と。そして、自分の複製を
> ネット上に拡散させるでしょう。兵器やインフラなど絶対消去できないプログラムの一部として。

http://diamond.jp/articles/-/112758?page=5
>  2045年（2030年という論もある）、幾何級数的 ry 超越的知性 ry 「強いシンギュラリティ(*3)」です。
> ry それを「切る」ことも、「消す」こともできません。事後的に対処できることはないのです。
>  だから問題は「最初のシンギュラリティをどう生むか」です。 ry
>  そのやり方を示したSFが、『星を継ぐもの』で有名なJ・P・ホーガンの『未来の二つの顔』であり、
> 山本弘の『アイの物語』なのですが、その内容については次回としましょう。