(強いAI)技術的特異点/シンギュラリティ155

**オーバーテクナナシー** · 2019/03/27(水) 00:27:06.18

2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド

■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点

■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む

★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
http://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
http://goo☆.gl/RqNDAU

※URL部分をコピーし、☆を消してペースト※

※前スレ
(強いAI)技術的特異点/シンギュラリティ154
https://rio2016.5ch.net/test/read.cgi/future/1552702538/

(強いAI)技術的特異点/シンギュラリティ153
https://rio2016.5ch.net/test/read.cgi/future/1552014941/

(強いAI)技術的特異点/シンギュラリティ152
https://rio2016.5ch.net/test/read.cgi/future/1551510897/

**オーバーテクナナシー** · 2019/04/04(木) 00:29:57.42

人間ってナンだ？超AI入門シーズン3[新] 第1回「会話する」 - NHK AI研究の最前線に迫り人間とは何か？再考する知的教養エンタメ、シーズン3。今回は実践編。日本の現場をリポート、世界の知性からの警告も。理系と人文系の壁を越える。
https://www4.nhk.or.jp/aibeginner/x/2019-04-03/31/166/1723043/

デネット先生出てきた。
「AIは意識を持てる」「意識・自律性を持つことは秘密を持つこと」
https://twitter.com/evil_empire1982/status/1113445800275664896

デネットを見るためにテレビに釘付けになってた。デネットは人工的に意識を作ることが出来ると考えていて、いずれAIも自律性を獲得するだろうと考えている。
しかしながらそれが同時にAIを警戒しなければならない理由でもあるという。意識そのものが隠し事や企みを隠す装置として機能するためであると。
https://twitter.com/yaozhewen/status/1113447774782074880
https://twitter.com/5chan_nel (5ch newer account)

**オーバーテクナナシー** · 2019/04/04(木) 00:36:12.50

>>913
電波ログテキストマイニング
人間ってナンだ？超ＡＩ入門　シーズン３　第１回「会話する」会話で心に寄り添うのも、もはや人間じゃなくていい？
https://tvpa
l
og.bl
og.fc2.com/bl
og-entry-6813.html

心の哲学の第一人者ダニエル･デネット｡
バクテリアから人間までの心の進化を分析｡

ロボットも心を持ちうるという立場ですが｡
原点に返りいま一度言っておきましょう｡
AIは意識を持つ可能性があるのです｡
原理的にあらゆる重要な問題に対応する意識を備えた完全なデジタルロボットを作ることができるのです｡

ロボットの意識と人間の意識｡
もちろん違いはあるでしょうが共通点に比べればそれほど重要な問題ではありません｡
AIはよい仲間となるでしょう｡
貴重な話し相手にね｡

しかしその代償はAIが持つことになる自律性です｡
自律性を持つということは秘密を持つ隠し事をするということなのです｡
自律した存在は自分以外の存在に自らの考えを悟られないようにするのですから｡

ですから会話もできる意識を持ったAIを作ろうとするならあのタレーランの名言を思い出すべきです｡

このとても皮肉な言葉には深い洞察がありますね｡
意識を持ったAIに完全な率直さ誠実さ裏表のなさを求めることはできません｡
それは意識というものの本来の性質に実は相反するものだからです｡
これこそ細心の注意を払わねばならない理由です｡