技術的特異点/シンギュラリティ190【技術・AI】
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★技術情報『米国におけるAGI研究 最新動向』
goo.gl/eVzS7M
※前スレ
技術的特異点/シンギュラリティ189【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1592961047/ 不確定性原理があるから汎用AIムリって意見も聞くけど
実際どうなんだ？
自己言及のパラドックスどうやって解決するんだ？
中国語の部屋とかばかりで汎用AI実現に関してこちらはあまり語られてないみたいだけど >>269
ゲーテルの不完全性定理とAIのウェブページはあった。
自己言及のパラドックスは初めて聞いた。
詳しければ簡単に説明してくれないか？ 人間という「自然汎用知能」があるのに何故人工になると途端に出来なくなると考えるのだろうか？
よくわかんねえな 結局は、数学的に間違ってること(もしくは、正確に書き記せないこと)を人間は理解して、それを同士と共有しているということか。
そして、YesかNoどちらともあり得る概念も現実にはあって、こちらも数学的に【正確】に示すことはできないということか。
最後は、主観的な体験と客観的な視点は一致しないということか。中国語の部屋はそんなに問題でもなさそうだけど。要するに便利ならいいのでとは思った。どうなの？ 記号設置問題が深層学習で解決したけど、
このことがゲーテルの不完全定理によるAGIへの障害や自己言及の問題なども同様に解決できるということなのか？
解決したとしても、フレーム問題やらムーアの法則の終わりやら、倫理面ではトロッコ問題もあるし課題が山積みだな。 記号設置問題は部分的に解決したのか。
まだ、人間レベルの自然言語処理を実現するアルゴリズムはないから、つまり意味を現実の人間並みに理解するという技術的な課題はある種の記号設置問題だよな。
でその残りの記号設置問題にゲーテルの不完全性定理やら、自己言及のパラドックスやらの障害も含まれる可能性があるということね。
結局は問題となる具体的なものや、そのヒントをつかむ足掛かりとなるブレークスルー待ちじゃん。
あまり、深くつっこむと中国語の部屋絡みで不可能という意見もありそうだけど、チューリングテストに合格したらAGIだと俺は容認する派だから議論しない。 人間並みの自然言語処理ができるということは、人間でいう言葉の意味を理解するに等しい(中国語の部屋の問題無視)。 人間レベルの自然言語処理能力の獲得(以降はNLPの完成)はどうやってやるのだろうか。
①人間の脳のたんぱく質レベルの模倣は、ブレイン・イニシアチブの状況から解明にはうまくいっても数十年かかるだろうな。
そして、それをエミュするのはムーアの法則が順調だと過程して、今世紀半ばだ(収穫加速の法則無視)。
②今の路線を突っ切るは、業界ではほぼ不可能という意見なのは、Lex Fridmanの講義で理解したからほぼ違うと思うが、確定ではないな。
③投資を派手にして、深層学習に代わる新しい手法を開発されるのを待つ。普通のシナリオではこのパターンが多いと予想されるので正規ルートと言えよう。
④BMI経由で、③を無理やりというかショートカットで解明しようという話。脳解析できるBMIが実現したら、①並みにガチだろう。ただ、そのBMIの開発も非常に難しい。
ということで、俺の可能性のある順序としては③＞④＞①＞②だな よく考えたら
③、①＞④＞②だ。
①は時間がかかるだけ、ある意味確実。手間を考慮しなければ 所々でソースほしい場合は言ってくれ。
あと、指摘があれば教えてほしい。
俺は20年後に自称未来学者で生計立てるから。
半分本気なんだけどw
あとは③の手法を議論する余地はあるが、
そこは筋金入りのAI研究者しか語れないとは
思うがここでもできるだろうか。 未来は一筋縄にはいかない。
例えば、①のルートに関して、ブレインイニシアチブでも④は絡んでいるし、①ないし④のある程度解明で頓挫し、③へのヒントになる場合もある。そして、④と③を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな①～④のルートが出てくる可能性もある。 一応科学者の基本的な考えは蠅→猫→チンパンジー→人間みたいな感じでスケールアップしていって
前項で学んだ脳の知見、解明方法を活かしてより大きなスケールの脳を効率的に解明していこうという魂胆なんだろうけどなぁ
そんな悠長なと思ってしまう
>>276
ただ③は深層学習が成功したのは一重にマシンパワーが足りなかったからという側面があるから、今成功していないアルゴリズムでも、より莫大な計算性能を与えるスパコンなら使い物になる可能性もある
未知の汎用人工知能になるアルゴリズムが突然発見されるかもしれないしそれは分からない
ところでカプセルネットワークはどうなった？ NLPの完成は、正規ルート③に関して課題と解決が何回繰り返されるのかは分かっていない。
①に関しても、計算資源に限れば量子力学レベルまで掘り下げるなら22世紀以内に実現できるかも不明。その手前のStochasticレベル(量子力学の原理を簡略したものと思われる)なら2111年頃になる。
Whole brain emulation : a roadmapより
運要素は、
革新的技術の登場だ。
それは、あらたなアルゴリズムなり、BMI技術だったり、脳解析ツールだったり。つまり、全て運。 実際脳をエミュレートしてハエやらネズミやらは仕組みがわかったんだろか
結局中国脳でしかないのでは >>280
ほう、つまり既存の技術を深める②も可能性は考えられるということか。
②は既存の技術やディープラーニングに計算資源を強化していくルートという意味合いだった。分かりずらかったかもな。 >>281
これ、浮上してくる可能性あるな。
脳の解明でもう少し補強も必要かもしれないし。
中身は全くしらない。教えてくれw ？なので？は意味不明です
>>277は
＞よく考えたら
＞？、？＞？＞？だ。
＞？は時間がかかるだけ、ある意味確実。手間を＞考慮しなければ >>283
その通りだと思う。
神経細胞の分類やグリア細胞の分類もまだできていない。機能も全く分からないか、少し分かっている程度。
それらがどう相互作用するとかもね。
これは人間の身体のたんぱく質同士の相互作用みたいに確認するのが大変そうだな。
たんぱく質は数万の組み合わせで、
脳の細胞の種類よりは遥かに多そうだけど、
脳の配線とかも超複雑そうだし、何より
あるたんぱく質の働きはたんぱく質化合物で確認できるらしいが、電気信号は次元が違う難易度だろうなw >>287
すまない。
> よく考えたら
> 3、1＞4＞2だ。
> 1は時間がかかるだけ、ある意味確実。手間を考慮しなければ GPT-3に穴埋め問題として食わせてくれ
>>279
未来は一筋縄にはいかない。
例えば、？のルートに関して、ブレインイニシアチブでも？は絡んでいるし、？ないし？のある程度解明で頓挫し、？へのヒントになる場合もある。そして、？と？を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな？～？のルートが出てくる可能性もある。 この投稿か
書き直すほどのものではないから恥ずかしいなw
> 未来は一筋縄にはいかない。
> 例えば、1のルートに関して、ブレインイニシアチブでも4は絡んでいるし、1ないし4のある程度解明で頓挫し、3へのヒントになる場合もある。そして、4と3を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな1～4のルートが出てくる可能性もある。 >>289
どっちにしても番号参照は可読性が低下するのでやめてほしい >>293
ディープラーニングに代わるまったく新しいAIの学習方法だよ。
俺もMITの講義でいってた情報を書き写しただけだから。Lex Fridmanの そうか、みんな理解してないのは分かった。
俺の言葉が足りないみたいだな。
出直してくるわ(^^; あと、まったく新しい機械学習の手法が必要だと俺は聞いたが、
ここでの会話でディープラーニングは計算資源が足りなかっただけで、もともとのアイデアは昔からあったんだろうけど、
CapsNetみたいにもうすでに存在している可能性の方が高い気がしてきた。
同じく計算資源が足りないだけとは限らないが、あと少しある機能を補えば実はうまくいくものがあるかもしれない。
ここで、まったく新しい機械学習やAIの強化方法のアイデアが出てくるとは思えないから、むしろ、既存の革新的なプロトタイプを注視すべきだなとおもった。
Numentaも似たようなものあったよな。 CapsNetって2017年に紹介されてもうkerasで実装されてるなあ
でも特徴のある物体の場所も同じような演算で出せるようにしてるけど、
そっちで行くかあるいはもっと新しいYolov4だのCornerNetだのを使った方がいいか >>297
そんな情報どこで手にはいるんだw
知ってる人は知ってるのか。
俺はおおまかな仕様もまったく知らないから、
あれだけど。
この手のものをまとめて紹介する記事とかあれば
かなり面白そうなんだよな。
別々のものでも、似たような部分もあるだろうし、むしろ、共通点から注目されている部分を今後の方向性としてとらえても予測としては間違いではないからね。 >>241
産業革命て経済成長率にして+1%くらいのインパクトだったみたいよ イタリアのチームは7月、退院患者143人中9割近くが発症から約2カ月後になんらかの症状があったとする論文をまとめた。
https://r.nikkei.com/article/DGXMZO61919500V20C20A7EA1000?n_cid=SNSTW001&;s=3
世が障害持ちで溢れれば医学が急速に発展する。 ようやく7才児並ぐらいの文章が掛けるようになったか
すくすく育ってほしいわ >>299とかAGIとか見ると思うけど人間は傲り高ぶり過ぎだわ
ポルポトじゃないけど現状に満足して質素に暮らせよ >>303
GPT-3なんてただ数値的な性能をアップさせただけだぞ アルゴリズム的には進化してないだろ
力押しで今までの精度が上がっただけ もうこれ以上力押しじゃ向上しない可能性だってある
人間の知能は統計論だけで出来てるわけじゃないからな
7歳児ぐらいの本能だけで生きてる僕ちゃんの知能ぐらいなら統計論の精緻化で表面的にはモノマネ可能ってだけだろ
「チーズは冷蔵庫に入れると溶ける？」みたいな常識能力も相変わらず期待できないみたいだ そこは7歳児にも遠く及ばないね アルゴリズムだけでは相当難しいと思う
D-waveが頑張れば更に一歩飛躍するだろう
と思っていたけど思ったよりも早くAI自身が自己進化コード書けるようになるかもしれない 自己進化コード特化なら常識とかも不要になる
しばらくはどう自己進化させるかだけを考えてもいいのではないかな そうそう
成長しない人間の4才児よりも、成長するミジンコの方が将来有望じゃないかな GPT-3の作った文章を見ていて思ったけど、映画「パプリカ」に似ているんだよな
支離滅裂な文章と世界観というかそういうのが似てる
当たり前だがその支離滅裂なものに一貫性というか意図がないから言い知れぬ気持ち悪さがある >>306
AIと量子コンピューターは関係ないぞ
量子コンピューターの用途はまだ狭く、AI処理には使えない >>311
組み合わせ最適化の考えがAI開発に入って無かったらその方がおかしい。 機械へ意識をアップロード？ 東大准教授、不老不死への挑戦 研究の活力は“死への恐怖” 2020/07/24 [朝一から閉店までφ★]
https://egg.5ch.net/test/read.cgi/scienceplus/1595676323/ >>304
ヤマギシ会インフォメーション 幸福会ヤマギシ会公式ホームページ
http://www.koufukukai.com >>305
クイズっぽいのはGPT-3は現状では期待できないね
総合的な文章読みと、それをreact.jsを通じたPC画面操作を含むアウトプットにする能力が
得意なだけだ
ただし画面操作だけでなくてデータベース入出力やWebプログラミングもある程度対応できるみたいなので
もうちょっと頑張ればシリアル通信で外部のロボットも操作できる事になる
最新型東ロボ(ひいてはBERT)とGPT-3をうまく繋げられるのかどうかは分からん
それでも、これまでよりは大規模な進歩でしょ
まあ、いきなり全人類が失職して同時にメシと電気と水と服と部屋などが十分に与えられる、
というのは、これだけだと勿論とても無理だな HTML5のcanvasで3DCGの幼稚なものは扱えるなあ
ReactJSでシリアル通信が出来るようになるかどうかというのとは別に
例えば倉庫とかコンビニで、canvas内に作った仮想店舗内を
中に作ったキャラクターオブジェクトが言語指示でちゃんと動けるようになるか？
というのをテストしたらいいのかな チューリングテストもパスしそうな文章生成AI、GPT-3はプレゼン資料作りもこなす！
https://techable.jp/archives/132357 >>310
その書き込みで思い出したが、数年前話題になったDeep Dream を思い起こした
AIの作り出すテキストや芸術はいずれ違和感ないものになっていくのだろうか
CGの不気味の谷を超えるように >>127
技術的投稿の巻込規制といったものには閉口致しますものです カーツワイルの特異点より先に
労働の形態が変わるんじゃないかなって思っている
最低限の生活ができるハードルが低くなるなど
プログラミングしなくても、作業を筋道を通して的確な言語で示せる人なら
ジョブシステムのクリエイターになれるのだとしたら
労働がどんどん自動化されてしまう
その代わり、筋道の通ってない作業をしている企業はどんどん淘汰される、と
ただしクビになっても最低限の生活だけは、ジョブマシン群が生み出す
サービスのお陰で可能になる
あと10年掛からずに一部の国でこれが可能になる
本邦がどうなるかはともかく 金融緩和によるインフレで最低限の生活がより大変になる可能性 ヘリマネで一人１０００万円をばら撒けばインフレになるんじゃね？
今は２０年も続くデフレだからインフレ懸念などナンセンス まぁたかだか10万円を国民全員に配ってもまったくデフレから脱却出来ていないんだ 政治経済のポンコツぶりに対して、科学は役に立てないのかねえ
これだけの人間が居るのに、ごく一部の政治に左右されすぎておかしいし >>322
そういや2015年ぐらいだけどGoogleの人工知能が描いたっていう
あのやたら犬っぽい模様が出てる絵見たことあるけど何も感銘とか受けなかったなぁ
別に人間が特別とかいう話じゃなくて純粋にただのテキトーな合成にしか思えなかった
芸術なんて物は言いようみたいな世界で、何でもそれなりに見えるモンだと思ってたからちょっと驚いた
やっぱり根底に人間特有の感覚やフィーリングがないと芸術でもうまく行かないのかね >>332
政治が強欲糞政治過ぎて稼ぎの半分以上持っていくからどうにもならんだろう
あえていうならグローバル企業を作ってロボットを開発し
政府を叩き潰すしかない 巨大コングロマリット企業「オムニ・コンシューマ・プロダクツ」（OCP, 通称「オムニ社」） なんかアホーダンスみたいな名前の理論だけど大丈夫なんか？ >>336
心理学用語だな
この図形なら、このパターンではこれだよな、みたいな
そこに特徴量をうまく当てはめるかな 人工知能が世界に関する常識を持ってくれれば今の弱いＡＩのままでもある程度使い物になるだろう 弱いAIのままだったら
今よりも自殺者増えると思うから
さっさとGPTが自己進化して欲しい GPTが実現している機能は、
汎用人工知能に必要なほんの一部の能力でしかない GPTだけじゃなく、他の弱い特化型AIを複数組み合わせれば、
汎用人工知能が完成する可能性がある ググれるがユーザの欲しい情報だけ選定してくるのが死ぬほど難しい >>346
ググるのはユーザーの欲しい情報じゃなく問題を解くのに必要な常識 >>348
人間は大量に読めないから絞り込みが難しい。
AIが問題を解決するために必要な常識なら関係ありそうな常識を大量に集めさえすればいいからその分絞り込みが簡単になるはず。
しかもデータが多い方が計算の精度が上がる。 ＮＡＳＡ火星探査車、３０日に打ち上げ…日本の技術者らが独自技術やアイデアで貢献
https://www.yomiuri.co.jp/science/20200727-OYT1T50133/
＞探査車は、火星地表の道なき道を地形などを判断しながら、自動走行で進む。
＞日本人研究者である小野雅裕氏が探査車の人工知能（ＡＩ）の改良に取り組み、時速２００メートルで、１日に走行できる距離はキュリオシティの数倍となった。 AGIへの道のり(妄想)
ステップ1
目、耳 : ディープラーニング
ステップ2
目、耳の機能的な拡張 : yolov8など
脳の神経細胞メカニズムの模倣 : CapsNetなど
ステップ3
？
別のアプローチ
生物の意識レベル毎で機能実現
1.エサを認識して、捕らえる
2.エサの隠れていそうな場所を探す
エサを仲間に横取りされないように工夫する
→仮想世界を意識の中に持つ
3.エサを将来のためにストックする
→意識の中に時間の概念をもつ
4.仲間で協力して狩りや子育てをする
弱い常識の概念を持つ(共食いしないなど)
→意識の中に相手の立場を想像できる
5.常識の概念をもつ(社会的通念など)
創造力をもつ(道具、言葉など)
→人間レベルAGIの完成 351みたいな資料とか記事とかどこかにないよな？
本でもいいんだが。
最近、そこら辺が気になるんだよな ＞＞351の鳥類(3番)くらいまでなら何とかいけそうな気はする。
しかし、鳥類から哺乳類(4番)が急に難しくなる。
イルカや猿は単純な言葉というか発声や音波、ジェスチャーで仲間とコミュニケーションがとれる。
狩りでは魚群を追い詰めるために、仲間に指示したり連携したり、はたまた娯楽でサッカーのような遊びもしているらしい。
哺乳類から高級哺乳類の人間(5番)は計算資源をつぎ込んだり、既存の技術を改善すればいけそう。 >>356
猫の小脳は解明できた。
ネズミはまだ、コネクトームの完全解析ができてない。 DeepMindがAIとロボティクスの融合を試みている。AIにロボットという身体を付与して、現実世界を認識させる試みだ。
これは恐らく2番に相当する。
仮想世界をエミュして、現実世界で問題(障害物や課題)に対してどう挙動すべきかを考える力はあるはずだから。
時間の概念(3番)をどう実装するかは、次の次のステップだが、そもそも時間の概念ってよく分からないんだよな。 2017.9.6
https://youtu.be/arSULeElR6Y
3年経ったけど、世界は何一つ進化してないな
カーツワイルもダンマリだし 発想の元ネタ
Kurzgast channel
Consciousness (意識)
日本語字幕あり
https://youtu.be/H6u0VBqNBQ8
What is intelligence? Where does it began?
(知性とは何か？どこから発生したのか？)
日本語字幕あり
https://youtu.be/ck4RGeoHFko テクノロジーは指数関数的な発展を遂げるが人間は線形的に物事を考えがちなので将来予測をしばしば見誤る
カーツワイルの言う通り 現実的予測の範囲で考えて
・人間は宇宙に出ても星の開発なんか何千年単位で時間がかかる
・脳の解明した所で再現は無理(ビッグバンが分かってもそこに行けないのと同じ)
・寿命は元々125歳が限界、マウスの寿命を伸ばせないなら人間が伸ばせるわけない
・VRとかリアルと変わらなくなったとして、リアルが発展するわけじゃない
・AGIが出来た所で、物言わぬ賢い人間程度が増えるだけ
という事で、これから何千年単位で変わらない文明が続く可能性は高いな >>352
>>106> ポストAIとしてのALife研究
https://lovetech-media.com/eventreport/aisum13_20190526/#ALife-2
ALife研究４つの流れ
https://lovetech-media.com/wp-content/uploads/2019/05/aisum13_02.png
池上氏によるALife４つの流れ図
1>まず一つ目は、グレイ・ウォルター（Grey Walter）氏から始まった第2種ロボットの流れ
2>次は、生命哲学の流れ。源流はグレゴリー・ベイトソン（Gregory Bateson）に立ち戻れる
3>次は、化学反応の流れ。アラン・チューリング（Alan Tuling）氏は、コンピューター原理である計算可能性を体系化
4>最後が、オートマトンを始めとするコンピュータの中の生命の流れだ。ジョン・フォン・ノイマン（Jon Von Neumann）氏 空を飛びたいと考えた時、人間そのものは飛べるようにならんが
飛行機を作って代替した
という概念のチェンジが最も現実的に行われてきた事なので、大真面目にシンギュラリティを考えるならば、
脳をダイレクトにいじる事で、本人は不老不死になってシンギュラリティになったと思い込ませる技術、
がそれの事かもな
傍目で見れば、いや何も変わってないじゃん、空飛んでないじゃん
って感じだが、本人にとっては目的達成出来てんだから良いよねと
シンギュラリティは寂しいな >>359 15:40あたり～
面白いな
ゲノムの解析
→現在進行中
たんぱく質レベルの解析(プロテオーム解析)
→ここまで行けばたんぱく質の折り畳み方や
その性質を手間のかかるアナログな解析を
ほぼ必要としなくなると思う。
さすがに治験とかはアナログなステップは必要だと思うけど。
新陳代謝の解析(メタボローム解析)
→ここまで行けば身体のすべてのメカニズムが分かる。不老不死の具体的な道筋が確定する。
もちろん、これとは別にたんぱく質を合成(リボソーム機能の実現)して、上手く折り畳むよう誘導(シャペロン機能の実現)する技術は別に必要。 人工生命 Part1
http://itest.5ch.net/rio2016/test/read.cgi/future/1513483649/98-102
＞現状の具体例は
1、自然進化を模倣してロボットを人工進化させようという
「進化ロボティクス（Evolutionary Robotics：ER）」
1.アシモやアトラス、ソフィアやペッパー
2、生命哲学の流れ。文化人類学・精神医学など
ひとつの人間集団を、関係性のダイナミックスという視点
2.SETI通信コミュニティ探索、群知能ロボ協調ロボチャットロボ
3、化学反応の流れ。生き物が作り出す様々なパターンを数学的に表現したチューリング・パターン、
現代で言うところの反応拡散系制御による組織化の理論
3.NASA地質化学物質探査、過酷な環境調査
4、オートマトンを始めとするコンピュータの中の生命の流れ
生命のような自己複製する機械をコンピュータ上の数学モデル（自己複製オートマトン）で実装
4.ライフゲームとゲームAI >>365
それ以降の医療の発達の9項目も面白い。
これは本当だと思う。
医療に詳しいからこそできる話だな。 ■ このスレッドは過去ログ倉庫に格納されています
