(強いAI)技術的特異点/シンギュラリティ118
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド。
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点。
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則。
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
https://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
https://goo☆.gl/RqNDAU
★関連書籍・リンク・テンプレ集(必見)
https://goo☆.gl/Puha9e
※URL部分をコピーし、☆を消してペースト※
※前スレ
(強いAI)技術的特異点/シンギュラリティ117
https://rio2016.5ch.net/test/read.cgi/future/1522158608/
(強いAI)技術的特異点/シンギュラリティ116
https://rio2016.5ch.net/test/read.cgi/future/1522149406/
(強いAI)技術的特異点/シンギュラリティ115
https://rio2016.5ch.net/test/read.cgi/future/1521525644/ >>647
田舎だろうね
先見の明がある自治体がジョジョに許可を出していくと思う シンギュラリティって本当に来るのかな
2045年を過ぎても何も起きなくて、
結局今と大して変わらない生活を送ってるとかだったら嫌だ >>655
普通に考えりゃ来るわけないじゃんって判断するわけだが
たまにガチでシンギュラリティは不可避とか言ってるやつがいてビビるんだが
だいたい計算機が人間の脳の数十億倍の性能になれば凄いことになるとかいう
体育会系出身も真っ青の根性論丸出しの思想が現実社会で通用するとでも思ってるのか？
どの数字にも根拠ないし、技術的詳細が語られることも皆無だし
まあ遠い先のことは考えずに目の前の問題を解決しながら生きるのが賢い生き方だと思うよ そう思うならここにはもう来ずに
目の前の問題を解決していってくれ >>657
計算リソースばかりでなくアルゴリズムも進歩している現実を無視するの？ さっきの どん！ って ここからそうおんだして ばいくの えんじんとめて
なんかでものおとだして
そんなｋとしないとおもうよ いくら げすでも >>659
アルゴリズムの進歩って、シミュレーションモデルの計算方法
の進歩じゃないだろうか。
だとすると、シミュレーションモデルの開発はまだこれから先が長いとか。 >>629
まだ先だと思うぜ。200万円で完全自動運転なら早くても15年は掛かる 目の前の問題解決って、今週営業先で苦情を言われて上司にも怒られたから、来週どうやって謝りにいこうかとかそういうことか？
そんな話ここでグチグチされても身につまされるだけだろ！ >>657
真摯に「シンギュラリティが不可避ではない」という理由があるのなら是非とも聞きたい。
多分人類がシンギュラリティを迎えられないシナリオは数個しか考えられない
1.脳は純粋な情報処理装置ではなかった
→数理的モデルで再現不能な「魂」などが実在したため、コンピュータで汎用ＡＩを作れなかった/拡張知能を作れなかった
2.人類が何らかの理由により技術的発展を停止した
→ある時点で人類は全面核戦争による絶滅/破滅/ABCD兵器による死滅/その他猛烈な感染力をもつ病気の蔓延等による個体数激減/環境破壊による自滅した場合
3.知能の地平の限界は我々の予測よりずっと近かった
→汎用ＡＩ/知能拡張人間は開発が成功したものの、知能の上昇がみられなかった/頓挫した
今のところ1.、2.、3.の命題のどれも偽ではない場合、技術的特異点は迎えざるを得ない >>664
ポンコツwebシステムが完成したが、担当者は逃げるように退職
制作会社も保守契約結ばない、他の会社は逃げるかふっかけてくる
俺がやるしかない状況
AI助けて >>665
2はあまり意味がないな
人類が絶滅してもいずれ似たような生物が同じものを作り上げるのだろう >>665
訂正
X の命題のどれも偽ではない
O の命題のどれも真ではない >>667
まぁ一応『"人類が"シンギュラリティを迎えられないシナリオ』という設定なので
そういう指摘はナシの方向で…（個人的には別生物がシンギュラリティというのは十分ありうると思うけど） どうせ脳は量子コンピュータだから
従来方式で人間の脳とコンピュータの処理能力を比較するのにはあまり意味はない
まぁ万物の理論を携えた量子コンピュータが登場すれば簡単に抜かれるのかもしれないが
人間の脳も量子もつれを起こす量をコントロールできる時代になったりして
結局コスパ的に生体脳が最強っていうふざけた自体になったりするかもしれないぞ なぜ脳は量子コンピュータだと思うの？
これほど証拠が無いのに？量子が量子的性質を保つ為の器官も見つかっていないし >>665
こういうキチガイはネタでやってるのか？と毎回思う
数理モデルで脳を再現できたところでそこから実際に作動するaiを作るのは別の問題
数理モデルだけなら光速に限りなく近いロケットだってあるが、現実にはムリ
そもそも知能の定義も定かでない
知能が上昇したらそれより上位の新しい知能を生み出すというのも無根拠 >>672
1.脳を十分な精度で再現できたことを確認できればそれはすなわち人工（=artificial）の知能（=intelligence）と呼ばずして何と呼ぶ？
再現できていることが真ならばそれが作動するaiであることもまた真だろう
2.知能の定義が不明瞭という問題
これはそれこそ脳などの計算システムの解明につれてハッキリしてくる問題だと思うので現段階で語れる内容は限定的だ
3.（不明瞭な定義である）知能が上昇すると別の知能を再生産可能である
これは疑う余地が無い。人間がまさにそうであるから（他の知能を再生産可能であるから）に他ならない >>671
経験則だね
自分の思考について思考してみた結果
思考というものは常にプラスとマイナスの間で揺らぐものだって結論に至ったから
しかもただ単純に+-で揺らぐのではなくて
思考というのは+-の側面を同時に保持していて
ちょっとした考え方次第で+か-が表層に現れる
しかもその表層に現れた思考結果を自身で観測したとしても
新たに揺らぎが引き起こされる
これは量子ビットの特性に非常に近しい 人間の場合、人工知能を作ることで様々なメリットがあるから作るけど、
人工知能がさらに自己発展し続けようとする動機はなんだろう >>672
特に3.については、alphaZeroなんかは、囲碁だけに使う知能に限ってもalphaZeroを作った開発者の棋力を結果的に大幅に上回っている
これは正に人間が自身の知能より「上位の新しい知能を生み出」したという証拠ではないか？ >>673
脳を再現するには数理モデルだけじゃ意味ないだろって話なんだわ
実際にコンピュータ上でプログラムは知らせるための
エネルギーやハードウェアを完全に無視した妄言
まず計算機が人間より高い知能を持つという根拠がないだろ
知能の定義がハッキリしないんだから
人間がほかの知能を再生産してるとは言えないね >>677
>脳を再現するには数理モデルだけじゃ意味ないだろって話なんだわ
むしろ数理モデルで再現できないものってあるの？それって単に機械の演算能力が足りなかったり数学的にもまだ未発達な分野ってだけじゃないのか？
他に何が必要なのか是非とも具体例を挙げて頂きたい。魂？根性？
>まず計算機が人間より高い知能を持つという根拠がないだろ
そんな話してないんだが…まぁいいや
超知能を実現するやり方としては、計算機で拡張する方法以外にも、脳機能を直接拡張する方法も考えられている
>知能の定義がハッキリしないんだから
>人間がほかの知能を再生産してるとは言えないね
それは確かにその通りなのだが、実際には人間のプライドのせいで知能の定義が激しく移り変わるのが問題なんだよ
たとえば有るタスクが人間にしかできない知能と考えられていても、ある時点でそのタスクの完全な自動化を達成すると、
そのタスクを「知能」の定義から外してしまう傾向が人間には存在する
そのせいで、定義づけることが極めて困難になっている >>677
エクサで全脳シミュレーションを実施できるアルゴリズムが登場したのに、そういう進歩を無視するってご都合主義じゃん。
あなたの言う通り一歩一歩着実にテクノロジーは前進しているじゃないか。 >>678
>>679
だから言ってるようにエネルギーとハードの問題があんじゃん
無限にエネルギー使い放題なんていうあり得ない状況でもない限りシンギュラリティなんて起きない >>677
>>680
>実際にコンピュータ上でプログラムは知らせるための
>エネルギーやハードウェアを完全に無視した妄言
あー、わかった。完全に理解した。
エネルギーについては問題ない。いざとなればスパコンの近くに原発を数基建てるなりして無茶すれば済む話だし、それは中国が既にやっている
ハードウェアについては、現代のコンピュータは「決定性チューリング完全」と言って、あらゆる計算がこなせると考えられてるので、脳が計算システムである限り、
コンピュータ上で100%再現可能なはず。
演算能力については、一応理研がエクサスケールスーパーコンピュータで全脳レベルでシミュレーション可能であるという算段を付けてくれた。
http://www.riken.jp/pr/press/2018/20180326_1/
エクサスケールが利用可能になるのは2020年以降なのでもう間もなく。 >>677
＞知能の定義がハッキリしないんだから
＞人間がほかの知能を再生産してるとは言えないね
結局の所、
科学はどこまで行っても、
仮定の上に仮定を積み上げてるだけだから、
知能の定義なんてものは、
勝手にすればいいだけなんだが、
要は、それを記述して、
それがプログラムとして動かした際に、
求められている機能要件を満たすかどうか？
でしかない。
知能の謎を解明するとか、
知能とは何かを解明するとか言い出したら、
バカじゃねーの？とは思うが、
適当に定義した、
知能をいくつも試して、
プログラムとして動くものを探すのは、
勝手にやれば良いんでないの？
運が良けりゃアタリが出るかもしれない。 要は人が望むものを全て実現してくれれば人工知能よ
今は人が望むものを人が入力してるに過ぎないからな >>681
シンギュラリティを起こすなら原発数基なんてものじゃなくて
それこそ無限のエネルギーが必要になるわけだが
より大きい計算リソースにはより大きな電力が必要になるわけだからな そう言う話ではなくて、
汎用AIに到達する、
人工知能を作るとした場合、
汎用AIの定義の問題が出てくるけど、
要は、
自分で自己バージョンアップができて、
無限に成長できる超知能に到達する
プログラムを作りたいって事じゃないの？ >>684
>シンギュラリティを起こすなら
>無限のエネルギーが必要になるわけだが
ここの論理展開が意味不明だなぁ。
勘違いしているのかも知れないが、あくまで無限の技術力向上と知能向上が起こるのは、「シンギュラリティが起こった後」であって、（=無限の演算リソースと電力が必要となる）
「シンギュラリティを起こすとき」は有限で済む
その上、コンピュータ上で動かす知能アルゴリズムは汎用ＡＩに自己改良させれば電力効率は放っておいても勝手に上がっていく >>686
物理上の限界がある以上電力効率が上がったところで意味がないんだが
そして仮にシンギュラリティが起こせたとしても
有限のエネルギーしか存在しない以上、すぐに知能の自己改良による成長は止まって
シンギュラリティが起こっても何の意味もない
大げさに語られるような大変革は怒らないということだな では、
無限に成長する超知能って何なの？
と言う話になってくる。
それは、
自己増殖するタイプのプログラムで、
親の世代のプログラムより、
子の世代のプログラムが優れていれば、
無限に成長し続ける超知能と言うことになる。
じゃあ、
親の世代と子の世代で、
優劣とは何なの？と言う話になる。
優劣を判別するには、
評価関数が必要になってくるが、
GAN：敵対的生成ネットワークでは、
超知能には到達し得ない。 >>687
物理上の限界って何？
電力だ！っていうなら電力効率あげればいいし、
ハードウェアだ！っていうならコンピュータを増やして並列に繋げればいい
シンギュラリティを起こすのに無限のエネルギーなんか必要ないよ？ >>689
いや定義上必要だね
まず発電の時点、送電の時点で理論上の上限がある
半導体に電流流す時点で熱として逃げていく分もある
電力なしで動くありえないコンピュータみたいなもんだよ
シンギュラリティによる成長物語は >>690
無根拠が過ぎる。なんの理由も証拠もなく納得できるわけない。 アンチの妄想だな。まさにID:G6RKvccm自身の言うとおり妄言が炸裂している MRもいいが未来技術のなかでイチオシはVR、バーチャルセックスだろう
妊娠性病人の噂がなければ人々はもっとセックスをするようになる
筋肉を使わないから中高年に優しいのもgoodだ
テレクラみたいに未〇年と性交する機会も増えるだろう
で顔だけガキで感じてるのは９０歳でしたって攻殻機動隊にあったオチｗ 
>709：yamaguti~貸 2017/10/19(木) 23:55:18.91 ID:EAntymw8?2BP(0) >774
:
>>>○ HTM = 現段階で ( 体力不足な ) 強い AI ( AL )
:
> × 予測の働きがなければ、新皮質はただの記憶シ ry 、汎用 AI は決して実現できない
> △ 予測の働きがなければ、新皮質はただの記憶シ ry 、汎用 AI ( 長期記憶外部化型 ) は非効率的ながら実現できても独立型ポータブル電子頭脳は
>694：620 2017/06/25(日) 08:13:51.48 ID:kmvAJvy0
> 人間並とは言ったが 人間風とは言ってない
:
http://rio2016.5ch.net/test/read.cgi/future/1427220599/694# NingenTeki >>6 >>24 知能の定義はgooの辞書の定義ではだめなんですか？
知能
１ 物事を理解したり判断したりする力。「―の高い動物」
２ 心理学で、環境に適応し、問題解決をめざして思考を行うなどの知的機能。
人間のやっていることに当てはまって、1と2に当てはまるなら
どんなに仕掛がわかっても、量やレベルの違いがあっても
知能でいいのでは。
例えば熱い物にさわって手を引っ込める反射でも、レベル0の知能だ、とか。 >>696
それ日本が少子化してる原因じゃないだろうか。
人類が心配だからAIがVRに思わせて実はリアルだったとかやるかも。 >>681
>エネルギーについては問題ない。
>いざとなればスパコンの近くに原発を数基建てるなりして無茶すれば済む話だし、
>それは中国が既にやっている
それが中国の強み。
環境アセスメントとか無視して突っ走れる。
一刻を争う事態なのだから、そういう強引な選択肢があるのは有利。
普通の民主主義国家では絶対に不可能。 >>602
誉めて伸ばす教習所が人気らしい。
教習所って男に厳しく女に優しい指導員が多すぎ。
男女の区別無くマイルドがいいに決まってる。
「ほめちぎる」ことで生徒数が増加した教習所から学ぶ、ほめてやる気にさせる技術
https://www.lifehacker.jp/2018/02/book_to_read_compliment.html
今後はティーチングよりもコーチングが重要。 >>700
AIが考えすぎで原発ごと発狂して真っ赤とか
中国経済危ういらしいからありそう。 >>701
行く方から見たら罵倒される噂のあるところに行きたくないよね。
でも罵倒されるけどすなおにがんばるだけで他よりすぐに合格できます
みたいなので対抗できないんだろうか。 >>702
中国危ないならアメリカも危ない。中国が米債売ればアメリカ積む。 >>705
ってことはアメリカのAIも真っ赤になってもっと大変だ。
日本はAIも原発も動いてなくてよかったねになったりして。 中国は崩壊しないし
アメリカも崩壊しないよ
普通にAI大国になるよ >>671
消費カロリーと計算速度
いかにも量子コンピュータくさい >>705
米国債ってアメリカが持ってるよ
敵対行動するなら売り買い停止できる
ほとんど戦争だよ、そんなことしたら 国際緊急経済権限法IEEPA
アメリカに対して安全保障上の脅威と認定されたら大統領のサイン一つで相手保有の米国債を無効化できる 結局、『囲碁ソフトがプロに勝つには15年掛かる』とか『囲碁ソフトウェアには大局観が必要』とか『囲碁ソフトウェアには直感力が必要』とかそんなもんは全くの嘘っぱちだったな
DNN+モンテカルロ木探索法+強化学習のゴリ押しで神レベルの棋力になることが出来た
おそらく意識の実装も同じことではないかと無根拠に考えている
例えばクオリアとか魂とかそういうものも所詮マヤカシじゃないのか >>712
新興国と覇権国家の戦争は歴史のお決まり。 >>714
下手な意識なんか必要ないと俺は思う
大脳の働きを真似るだけで十分で、人類にとっても手懐けやすい
ただシンギュラリティを信じてる人間にとっては面白く無いけどねｗ >>712
アメリカ債の一番のお得意さんは中国。日本と違って買ったり売ったりして儲けているらしい。 機会との融合は諦めた。恐らく生きている間中に俺まで版は回ってこないのだろう
しかし融合した人の感想は効きたい
カーツワイルははよダイソン球になってくれ >>714
ただ問題は、意識とはそもそも何かって事になんの決着もついてないこと
そもそも存在するかどうかすら不明 でも本当に意識って何だろうと思うよ
例えば脳の機能の80%を失っても辛うじて自分は何者かが把握できる状態であれば
そのあと再生医療で80%分を回復すれば治ったと言えるのかな
そして実は失った80%が何らかの形で保全されていて
そちらが本体だった場合はどうなるんだとか >>722
第三者から見て、明らかに存在するといえる明確な要素がない
で、それを感じてるこの意識というのも本当にあるかどうか
>>723
それも考えたこと有るが、
結局どこが本体なのか分からないので何の結論も出せない ただ一点、観測するという行為はこの意識でないと出来ないようなので
不確定な量子を確定させることそのものが意識ではないかと思っているが、 例えば人間は多くの細胞から構成されているが、細胞一つ一つの気持ちがわかるわけではない
なにかこう、細胞やら脳やらの構成要素を超えたところに意識というものがあるような気がしている 電力なんて、太陽がなくならない限りほぼ無尽蔵なんだよなぁ
それでも足りないと言うなら、核融合炉を地上に作っちゃえばいい。 >>690
元も子もないけどシンギュラリティ後に今の理論当てはめようとする時点でナンセンスやで >>665
2は少子化で人口が急減する可能性がある
3は予測が困難だが、現在でも半導体チップの性能向上は限界に近い 横からだが
半導体が21世紀半ばまで主流であるとは限らないでしょ
単に半導体の限界がその程度であるだけで 市長の役割はモデルの設計と最終的な責任を負うこと
「AI市長」と言っても、実際は「AIを活用した市長」と呼ぶのが正しい。
人としての市長の役割はなくならないからだ。
「最初は市長の給料を1円にして、
AWS（Amazon Web Services）の費用だけ下さいと言おうと思ったが、
市長の給料は責任に対する報酬だと思う。
AIが失敗したときに、誰が責任を取るのか？
それはやはり人が取らないといけない。
何かあった時に賠償責任は市長が負う。
自動運転もそう。
責任を問うという意味で市長のポジションは必要」（松田さん） >>714
>例えばクオリアとか魂とかそういうものも所詮マヤカシじゃないのか
もしそうならば茂木健一郎は形無しだなｗ ひと昔前までは直感が人間のすごい能力みたいに言われてたが >>731
＞半導体チップの性能向上は限界に近い
これずーっと言われてない？
で、毎年のように新技術が現れては消えていき、ある時ブレイクスルーが起きる ひと昔前までは直感が人間のすごい能力みたいに言われてたが実際はDeep Learningにもできる無意識の特徴量抽出だった
経験に基づいて論理的に考える方がよほどコンピュータには難しい 意識は、
・統合情報理論
・現象数理学
・情報幾何学
この三つで説明できる by金井良太 ５感VRだけ来てくれればなんでもいい
あと３０年以内に頼む 原始時代の人類が今の人間の生活を想像できないように、シンギュラリティ後の生活は想像を絶するんだろうな 五感VRが極限にまで進化して色んな世界を堪能できるようになるさ
WW2の世界に行き神風アタック決めたり
中世風のファンタジーな世界で俺tueeeeeしたりなんでもあり >>739
そりゃ、
金井良太さんの考える意識が、
・統合情報理論
・現象数理学
・情報幾何学
によって定義されているってだけで、
その意識は実際に存在しているのか？とか、
本物なのか？を一切、説明していないし
構造的に説明できない。
まあ、定義は勝手にやればいいから、
>>740
＞じゃあさっさとアルゴリズムにせーよ
と言う、話にはなるわな。
統合情報理論の問題は、
意識が存在していることを証明したとか、
訳の分からない事を言ってしまうことで、
そんなのは、存在してようが、
してなかろうが、どっちでもいいから、
人間からみて、
意識っぽいものが動いていると思える
プログラムを作る事が重要。 >>743
原始人に、Youtuberを説明できるのか？ってことだね。
>>740
>123：YAMAGUTIseisei 2018/03/24(土) 22:04:31.89 ID:Ou0YUfWa?2BP(0)
> >4 公共放送名無しさん 2018/02/04(日) 08:08:31.27 ID:zxRk/of6
>> 中国政府、人工知能に５兆円投入 ５兆円
>>http://hayabusa9.
>99：yamaguti 2018/02/24(土) 22:46:56.02 ID:YaESnXc7?2BP(0)
:
> 訳 : 理系共あくしろや ( 尚お賃金払わず ) >>747
一世紀前の人でも説明が難しい
まずインターネットについて説明せなあかんし >>747
理解した瞬間、未来への絶望を感じるだろう 意識が存在すると、
仮定するのは構わないが、
意識が存在すると、
証明するのは、
今の学問ではできない。
だからチューリングテストと言う話になるんだけど、
チューリングがチューリングテストを提唱した意味を、
何十年も経っても理解できない人は、それなりに多い。
別にチューリングは、
完全な知性や意識や魂の証明や判断基準のために、
チューリングテストを提唱したわけではない、
完全な知性や意識や魂の定義や存在証明なんて、
やりようがないから、
人間から見て、
知性や意識や魂だと思えるものを、
知性や意識や魂だと言うしか方法がないという事を説明している。
だからチューリングテストによって、
知能があるとか意識があるとか、魂があるとかが、
証明されるわけでもなんでもないけど、
それ以外の評価基準に意味が無いということを言ってる。 生まれる時代間違えたなぁと思う
俺の老後は安泰だが、若いうちの青春ができない
VRMMO全盛期に若い時代を生きたかった
中年や老人がVRで人間関係や出会いを求めてもキモいだけだろ
テクノロジーで若さを保つことが当たり前になり中高年でも
若い人間と同じことをするのが当たり前の時代ならよかった ■ このスレッドは過去ログ倉庫に格納されています
