哲学のスレからリンク拝借

AI 時代の数学
(層・圏論・そしてトポスへの道のり)
http://imetrics.co.jp/academy/Topos-presentation.pdf

81項（pdf41ページ）

＞AIやAIを搭載したロボットが人間の仕事をすべて肩代わり
するという未来はやって来ない. それは, 数学者なら誰にでもわかることだ. AIはコンピューターで
あり、コンピューターは計算機であり, 計算機は計算しかできない. それを知っていれば, ロボット
が人間の仕事をすべて引き受けてくれたり, 人工知能が意思を持ち、自己生存のために人類を攻撃
したりするといった考えが妄想に過ぎないことは明らかだ. AIがコンピューター上で実現されるソ
フトウェアである限り, 人間の知的活動のすべてが数式で表現できなければ, AIが人間に取って代
わることはない. AIに神様になってほしいと思う人たちには残念なことかもしれないが, 今の数学
にはその能力はない. コンピューターの速さや, アルゴリズムの改善の問題ではなく, 数学の限界な
のだ.