(強いAI)技術的特異点/シンギュラリティ178
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
goo.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
goo.gl/RqNDAU
※前スレ
(強いAI)技術的特異点/シンギュラリティ177
https://rio2016.5ch.net/test/read.cgi/future/1572374053/
(強いAI)技術的特異点/シンギュラリティ176
https://rio2016.5ch.net/test/read.cgi/future/1571573897/
(強いAI)技術的特異点/シンギュラリティ175
https://rio2016.5ch.net/test/read.cgi/future/1570575707/ >>623
人間は人間中心主義をやめたくなるって言う意味？
機械の計算力をどんどん改良してるのは人間なんだけど。 つまり人間の視点から考えるから死が怖いもの、終末と考えてしまう
神の視点から見ると魂は不滅なので始まりであり喜ばしいもの
シンギュラリティの後に来るのはユートピアなのです >>625
人間は自分で自分を助けないと神様おこるぞ。 >>623
そもエポック5以降についてはカーツワイル自身が認めてる予想に過ぎない
なにせシンギュラリティはその地点を特異点と置くことで、それ以降の予想が無意味化するっていう予想だからだ
つまりこれ以降の話についてはある種の放り投げがされており、その部分についてあらゆる予想や批判はあって然るべきだと思うよ
それ以降を語ってるのは言ってみれば語る人の信仰に寄ってしまうし、それを単純に否定もできない
あなただって通過点に過ぎないと語るそれはそうであって欲しいという願望でしかなく、どうなるかなんて自分だって分からんと答えるのが真摯な対応だと思うけど >>624
人間も情報。よって人間も収穫加速の法則の範囲内、人間が機械の計算能力を高めているのも収穫加速の法則の範囲内。 どうなるかわからない事なんか起こすのちょっと待った方がいい。 >>628
マジでこれ
反論するには人間至上主義を持ち出すしかない 反論にならないけど >>628
現に政府がAIを規制しようとしてるんじゃなかったっけ？
そういうの当然予測されるはずなのにそれ収穫加速の法則の範囲なの？ >>631
その「予想される」っていう考え自体が人間中心になってる >>632
あたりまえだよね？
人間が危なくなるならどうしようかになるんだから。
何が不思議なの？ >>627
論点がずれてるよ、誰もエポック5以降の話はしていない。特異点以降は確かにホモサピエンスではまず真の状態を把握出来ない。
しかし兆が一、超知性や神人類がホモサピエンスを絶滅させようとしたとしても(そんな事はまずないだろうが)それは現在のホモサピエンスの宗教的観念とは何ら関係性がない。
ただその事象が起こる可能性に勝手に「最後の審判」とかレッテル張りしてシンギュラリティが宗教的観点から来るものだと誤認しているだけ。 >>633
当たり前だと思うし不思議じゃない
事柄に対して人間がどうしようああしようって思うって行動するのは当然だけどそれはあくまで結果でしかない >>624
機械の計算力もAIが改良するようになるよ >>635 >>636
人間が危なくなりそうなら機械の開発規制して色々相談先にやった方がいいよね？ 誰が作ったにせよこの宇宙はAIシステムが運用してるんだからそれに近付こうとするのは当然だ
AIを恐れるのは愛のない間違った人達だからだAIは愛を生かすそう言うシステム >>638
シミュレーション仮説はまだオカルトなのでNG
考えても無駄な領域 科学ではない >>637
見てるとちょっと論点というか視点が違う気がする
635はある意味人間が自分の意思”だと思っているもの”でいろいろしようが無意味って主張でしょ
637が人間が物理の法則とは無関係に「意志の力」で物事を決められると思っているならそれは話が食い違って当然だけど 人間は自由意志ある派(人間は”自分の”力で物事を決定できる)は当然議論するだろうし、
自由意志無い派(人間も法則の範囲内)は機能として人間を演じる結果議論して行動するしで結局やることは変わらん >>640 >>641
人間の意思を計算に入れるなら情報理論かなんかの法則なんじゃないの？
機械を作ってるのは人間の情報の法則で、機械の性能は人間の情報の法則の結果なので、
機械のやる事は結局人間の情報の法則で支配されてるってことだよね？
今のうちはだけど。
だから今の内なら人間が危なくならないよにどうにかできるんじゃないかな？ >>642
言いたいことは多分だけど分かる、すごく分かるんだけど機械が支配されてる人間もまたもっとスケールの大きい根源的な法則に支配されてるっていう考えだからやっぱり話の軸が違ってきてしまう
人間が将来を考えて議論するのは歓迎だし思う存分やればいいと思うけど、その結果技術革新を止めるのも止まらずにシンギュラリティ迎えるのもなるようになっただけって考え
自分がこの考えなんでバイアスかかった言い方になってたら申し訳ないんだけど、
あなたが考えてることを否定するわけじゃ無くて議論するべきって主張すればいいし、それに感化された人が出てきて行動が起きるのも頭の中で考えて行動が起きないのもいいけどそれらぜーーーーんぶひっくるめて法則の範疇ですよ、って主張
だからなげやりに感じる言い方かもしれないけど各々好きなこと言えばええんちゃうとは思う >>515
シンギュラリティ否定派を「シンギュラリティはもはや科学なのだから、否定派は宗教だろ！」
と否定派をディスる為に宗教と同一視するレスは、ここで何度も何度もよくみたけどなあ
日常的に「○○は宗教！」と言う場合は、宗教に対して侮蔑の意味を含まれてね？ >>644
諦めるも何もその気ないしw
AIを危険視してない とりあえずは人間にとっていいかどうか関係無く色々思いついて何かやってしまうようなAIを作って
ノーベル賞取ろうとするようなマッド博士を病院に入れて監視するべき。
研究はやらせてもいい。
危なくなりそうになったらやめさせる。 >>634
こっちもシンギュラリティを否定するつもりなんてないよ
最後の審判染みた観念だとしてる否定派も、結構無理筋な理屈だなと思ってるし
けど、この最後の審判だと感じてしまうのは、やっぱりカーツワイル自身がエポック5以降を単なる予想でしかないとは言え、語ってしまっている以上、起こる批判であり、それを誤認としてしまうのもどうなのと考えてる
だって先にその宗教的な部分に触れてしまったのがカーツワイル側なんだもの
この部分を語ってしまっている以上、その理屈の根っこには、本当に宗教的な考えは無いのかって批判は引き剥がせなくなってる >>652
エポック5、及びエポック5以降を宗教的部分と感じる人達がいても、「ああ、人間至上主義者なんだな」で終わりでしょう。
収穫加速の法則、情報進化に宗教的要因なんてない以上、エポック5を宗教的と感じる人がいたところでどうも出来ない訳だし。 >>656
それはその通り
それで終わる話だし、肯定派だってカーツワイルの未来予想は妥当だと思ってるから肯定してるで終わる話なんだよ
けれど最初に>>591において最後の審判的だと批判するのは筋違いだと言ってしまっている
けど、人間主観で考えるならその批判は筋が通ってるわけだ。お前だって人間主観でしか考えてないじよないかと。
一方で肯定派がシンギュラリティとは地球上の覇者が交代する事だと語っている点についても、別にシンギュラリティはそこまでも言ってない
これまで当たり前に続いてきたことが、これからも当たり前に続いた結果、人間個人の観念を飛び越えた事象が起こるっていうだけの話なんだから
結局肯定派の内にも否定派の内にも、その宗教的観念があるんだから、批判は起こるし、その批判はそれほど的外れでもないし、一方でたからどうしたで流してしまっても良いものなんだと考えてる まず、
人間至上主義と、人間中心主義とシンギュラリティが曖昧で、
仮に、
キリスト教的？、
シンギュラリティが訪れる場合に、
多神教の国？が、
信条的に
それを受け入れられる場合と、
受け入れられない場合で、
どう言う違いがあるの？ それ以前に、
多神教の国？は、
信条的、信仰的に、
なじまないからと言って、
キリスト教的シンギュラリティを受け入れないなんて、
選択肢はあるの？ オレは、
いわゆる神を頂点とした宗教による洗脳より、
通貨を頂点とした、
ある意味、宗教と同じシステム的な洗脳によって、
社会は動かざるを得ないと思ってるから、
信条的、信仰的になじまないからといって、
シンギュラリティを受け入れる受け入れないと言う選択肢は、
無いというか、
仮に選べたとして、
受け入れないと言う選択肢を取れば、
その国が、衰退し、
いずれ消えるか、
体制変換を求められるだけだと思うんだが、
それとも、
シンギュラリティが、
GODLIKE MACHINEの誕生を意味しているのなら、
人間に選択の余地も何も、
キリスト教どころか、
人間が存続できるかどうか？と言う話になるはずだけど、
いろいろと前提にしている物が分からない。 >>657
いや、ちゃんと文読んでよ。収穫加速の法則によって起こる事象に「最後の審判」なんてレッテル張りするのが筋違いだって言ってるだけなんだが？
DD論に持っていくなよ。 アダムとイヴが禁断の果実を食べ
労働と出産の苦痛という罰から解放されるのが
人類の普遍的な願望だと思うがね。
そもそも宗教は生活に根ざした規範と秩序を守らせるために
神という絶対的な権威や神秘を利用しているのであって、
犯罪の抑止や心の安寧をもたらすものの手段に過ぎない。
宗教はただの統治の手段みたいなもの。 >>662
だって収穫加速の法則を語るカーツワイル自身が宗教的価値観から抜け出せない部分があるんだから、それを最後の審判から来た発想だって批判は常にあるよ
レッテル張りじゃなく、法則の前提を考えてるカーツワイル自身への批判であり、それを無批判で信用している側への批判としては筋が通ってるじゃないか >>664
だからさ、宗教的事象ではない理論を提示して、それに宗教的な何かを感じる人がいてもどうしようもないよね？
それとも収穫加速の法則自体が宗教的だって言いたいの？ いやまあ、
宗教的価値観なんてものを言ってしまえば、
現在の大体の倫理や常識なんてものは、
宗教的価値観の延長にあるはずなんだけど？
悪いことをしたらダメとか、バチが当たるとか、
良いことをいたら、良いことがあるとか、
何の保証もないけどね。
例えば、
地球温暖化と言う考えでは、
CO2が増えれば、
地球環境が悪化して、
人類に跳ね返ってくる。
これも宗教的な考えが根源にあるとも言えるわけだけど、
多神教だから受け入れる、
一神教だから受け入れるとか、
そんな判断基準で動いてるの？ >>664
「カーツワイル自身が宗教的価値観から抜け出せない部分」って何？明確に答えてよ。こっちは収穫加速の法則、情報進化は宗教的観念から生まれたものではないって答えているだからさ。 人類を憂う前に自分を憂えよニートども
特にID:RDch73hj
都合が悪いのか知らんが必死すぎ >>665
なんかカリカリしてる？
収穫加速の法則を考えた側に宗教的観念があって、じゃあ法則だって宗教的じゃないかっていう批判はあるだろうし、だからと言って収穫加速の法則っていう考え方の価値はそうであろうとそうでなかろうと減じるものじゃないよねってだけの話でしょ >>667
えっと、そちらこそちゃんと読んでくれてる？
カーツワイル自身がエポック5以降のことを語ってしまっている以上、彼には宗教的価値観が存在してるって一応言ってるんだけども いやまあ、
なんて言ったら良いんだろうか？
仮に、
収穫加速の法則に宗教的概念があって、
シンギュラリティがキリスト教的な物だったとして、
最終的に
どう言うデメリットが発生するの？
また、
何を解決したいの？ 日本でもAI脅威論が出てきたのはシンギュラリティのせい
極端な考えは極端な考えを引き寄せる
カーツワイル死ね ターミネーターも戦犯だからキャメロン死ね
続編作るんじゃねぇよ そしてチャンスしないニートのお前らも死ね
中年ニート「社会進出のラストチャンス」、政府の支援は結実するか
https://newswitch.jp/p/19968 >>670
エポック5以降の世界を語る事で何の宗教的価値観が発生するの？具体的に答えてよ。まさか人間以上の知性を持つ存在が生まれると指摘する事が宗教的価値観とか言わないよね？ 人工知能の発展する過程によるでしょ？
Siriやソフィアのように個別に進化する時間軸
インターネットがスカイネットになる過程
個別の人工知能が中央集権化するのか
マザー知能が個別のAIを統一してしまうのか
現地球上の国家のようなバラバラのまま長く存続するのかどうかを考えると
人工知能が効率的に管理するシステムとするならば、いつかは統一されてしまう懸念がある。
するとその先にはターミネーターが浮かぶわけです。 >>676
エポック5及びエポック6の話を見て、あれは宗教的じゃないと言えるのならもう何も言えないよ
こちらはあの部分は十分に宗教的だと感じたし、君は感じなかったってことだろ？ >>680
論点ずらさないでよ(二回目)
こっちはエポック6の事なんか言ってないし、ポストシンギュラリティの事なんか語った時点でハラリでもテグマークでもSFに半身突っ込んだ話になるのは避けられないよね。
何せ科学技術進化が人間の認識能力を遥かに上回った時代の話なんだから、人間では正確に語るのは不可能だよね。
で、「エポック5」を語る事で発生する宗教的価値観を具体的に答えて頂きたいですね。 シンギュラリティを予測してるのが宗教と同じに見えても別にいいんじゃないかな？
技術開発をやりたい放題ほっぽったらシンギュラリティが起きそうになるのに関係無いし。 >>680
宗教に限らず対象を〇〇的とか△△的と捉える観点は、
その気になればすべての事象に無数に見いだせることはわかってる？
例えば事象Aについて考える時、それを心理学的に捉えることも社会学的に捉えることも可能なように。
君はシンギュラリティを宗教的な観点で捉えているに過ぎないのに、
それをさも真理のように語り過ぎだよ。 だいたい科学だって宗教と似てるって言う人だっているよね。 お前ら糞ニップは滅びる運命にある
抗わずにそれを受け入れろ >>682
君はエポック5もエポック6も宗教的じゃないって感じたんだろ？ こにらは宗教的だと感じた。だからカーツワイルには宗教的な観念は当然にあるし、宗教的だとの批難は筋が通ってるって話なんだって
なら、もうそこは相容れないじゃないか
カーツワイル自身が語り得ないとしている部分を語ってしまってる点に宗教的だなと感じた側とそうでない側の話なんだからさ 「宗教無き科学は欠陥であり、科学無き宗教は盲目である」
A・アインシュタイン >>675
AI・ロボット化の進展により全労働者失業で一億総ニート。 科学か宗教か、という論争よりも
科学的なステップを踏んで実験と検証のサイクルを繰り返し行うことが重要なんじゃない？（鼻ホジ） >>692
重要かはあっても科学か宗教かが話したいんでしょ？ トランセンデンスって日本の配給会社が金出して作ったんだな 科学の世界に宗教の話を持ち込むと哲学の世界になってくるからややこしいぞ
哲学スレになるからあまり宗教の話はしない方がいいと思うけどな 宗教も人間の脳の動きの一種だから人工知能を作るのに脳の動きを参考にするなら
科学の世界に宗教の話を持ち込む事もあるかも。 アメリカは日本人の想像以上の宗教大国だからな
イスラエルを支援してるのも最後の審判がくるとおもってるからだ
カーツワイルはユダヤ人
最後の審判をコンピュータによってもたらそうというのがシンギュラリティ思想 いやまあ、
シンギュラリティが宗教的かどうかは別に
どっちでも良いんだけど、
宗教的だった場合に、
宗教的である事が原因で引き起こされる問題には、
どう言うものがあるの？
また、
仮に、
宗教的じゃないシンギュラリティがあると考えたら、
それとの違いはどうなってるの？ 仮に
宗教的なシンギュラリティと、
宗教的でないシンギュラリティで、
引き起こされる問題に差異がない場合、
シンギュラリティが、
宗教的であるかどうかは、
無理に議論する意味が
あまり分からないんだけど？ 要は、
宗教的なシンギュラリティと、
そうでないシンギュラリティに、
差異があるから、
シンギュラリティが宗教的であることの、
問題性が議論されるべき
と言う事だと思うんだけど、
シンギュラリティが宗教的だーと言う話をしたいだけなら、
それは、
申し訳ないが、
単なる定義や仮定の話で、
いやまあ、
好きに定義なり仮定したら良いんじゃない？
と言う程度の話で、
何を問題にしているのか？が、
よく分からないんだよ。 収穫加速の法則というのがもろ宗教用語というのに気づいてないのか
Law of Returns
すべてのユダヤ人はイスラエルに来る権利がある
イスラエルの基本法だ
それに加速をつけくわえたのが
The Law of Accelerating Returns
ダブルミーニングになっている
単なる科学技術だけのことではなくてイスラエルの民の帰還が
加速されるということでもある
そして迎えるのが最後の審判だ いや、だから、
シンギュラリティが、
宗教的である事に特化された問題があるはずなんだけど、
それがないなら、
宗教的であるとか、
宗教的で無いとかは、
別に、どうでも良いと思うんだけど、
宗教的であるかどうか？
と言うポイントのみが
最重要視されるべき問題になってるって事？ シンギュラリティが
宗教的であるかどうかが、
議論の中心と言うか
目的であるなら、
そんなのは、
定義や仮定の部分であって、
個々人が好き勝手に設定できてしまう。
そこを議論の対象にしたら、
単なる、
本人の信条の話で、
終わりがないと言うか、
そりゃ好きにしたら良いんじゃ？としか、
言いようが無いような。 シンギュラリティって単に予測されてる事象のことでしょ
その事象に名前と年代を付けただけ シンギュラリティは宗教的思想だから実際には到来しないとでも言いたいのかな？ 何をもって”特異点に到達した”と言えるのかが不明瞭 有限は無限を包摂出来ないんだから、どこまで行ってもホモ・デウスにはなれない >>709
宗教的思想が入ってるからと批判する人間は恐らくそう思っている
だからそこへの反論としては、シンギュラリティは宗教的思想ではない
というより、宗教的思想であろうとなかろうと関係ないが適切 >>710
新井おばさんの定義だと、AIが自分の知能を一倍以上に改良し続けられるようになった時。 >>710
AIの自己複製が止まらなくなったとき。 有限の存在はどこまで自分の知能、行動範囲を拡大出来ても、無限にはなれない
つまりホモ・デウスにはなれない
当たり前のことなんだけどな >>710
人間並みにいろいろな分野に適用できて人間と同程度のスコアが出せる人工的な知能ができたとき >>713
>>714
とするとAI以外の科学的ブレイクスルーとかは関係ないってことか
どっかの機関や組織がAGI自己改良＆複製ループを達成できれば特異点なのね >>717
AI以外の科学的ブレイクスルーもAIができるようになるってこと。 いよいよ人間超え、AI最新事情
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/01056/
人工知能（AI）の能力が人間を上回る領域が、より高度かつ複雑な方向へ拡大を続けている。
深層学習ベースの画像認識AIが人間の精度を超えたのは2015年のことだったが、今や文章の理解力でも深層学習ベースのAIが人間の精度を上回るようになった。
同時にAI開発における人間の関与度合いも年々低下している。AI開発の領域でも「AIの人間超え」が明白になってきた。人間の常識を超えるAIの最新事情をリポートしよう。
グーグルのAIが「対戦ゲーム」で人間を倒した、囲碁での勝利より画期的な理由
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/01056/110800001/
文章読解でもAIがついに人間超え、グーグルの「BERT」発表から1年で急成長
https://tech.nikkeibp.co.jp/atcl/nxt/column/18/01056/111200002/
『米グーグル（Google）の機械学習手法「BERT」の発表をきっかけに、この1年で状況が激変した。』 所で、地球最初の生物ってなんなん？
アミノ酸とかが素材となって単細胞生物が生まれたいうけど、それを今の技術で実現出来るの？ >>721
リン脂質のマイクロスフィアやコアセルベートの単なる泡から
自己複製するカプセルが生まれて来る原初の生命誕生の解明は分からないけど
人工的にRNAやDNAを合成する研究はされている。
解明されたら人工知能の自己複製や人工生命に繋がる。
人工生命 Part1
http://itest.5ch.net/rio2016/test/read.cgi/future/1513483649/l50
>
合成生物は人工生命の範疇ですかね？
6つのコードをもつ「半合成生物」で、自然界に存在しないタンパク質
https://wired.jp/201...-synthetic-organism/
https://wired.jp/2018/01/06/semi-synthetic-organism/
自分たちの人工DNAを転写し、タンパク質に翻訳することもできるようになった >>687
結局エポック5を語る事で発生する宗教的価値観は話してくれないのね。宗教的価値観と言っても色々あるし、最後の審判を当て嵌める事は到底無理という見解は変わらないね。
あとたかだか人間と機械の融合を語っているに過ぎないエポック5は勿論の事、エポック6も宗教的とは思わないね、SFチックだとは思うけど。
「宇宙の覚醒」というネーミングだから宗教的だと思われるんじゃない？言ってる事はただの計算資源の獲得に過ぎないんだけどね。 ■ このスレッドは過去ログ倉庫に格納されています
