技術的特異点/シンギュラリティ190【技術・AI】
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★技術情報『米国におけるAGI研究 最新動向』
goo.gl/eVzS7M
※前スレ
技術的特異点/シンギュラリティ189【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1592961047/ タミネタ２の敵は、
液体金属にナノマシンを混ぜて、プログラム制御すれば実現できる。
ナノマシンを動かすことで、液体金属も動く 日本風に言えばなんだろう。
技術的な名称は美しく花や風景に例える動きがある。
江戸時代の疫病のワクチン技術『遁花秘訣』みたいに。
>>244
同意するよ 『富岳』もセンスあるよな。日本は素晴らしい。
>>246
あれは技術者から完全SFって言われてる。
フォグレットやら分子レプリケーターがそれ風に振舞えばいい。 >>242
恐らくそれは単体ではなく群体なんた。ウィルスや菌のように全体に伝播する「流行」
みんながそれは「正」と知っていれば実行するはず
それが「悪」なら実行されない
そんな群体
それは恐らく、2020年現在ではホモサピエンスというもので実現されているはずだ
伝播は少し曖昧だが・・・SNSってもので伝わっているはず
まぁ、人間の振る舞いにもう少し期待してもいいと思う
中国ですらあれだけ争い続けた歴史がようやく収まった（収まってない）
>>248
粘菌はそれっぽくないかなぁ ターミネータ２の液体金属は動きがのろい。
人間の目ではとても負えない挙動のことを意味する。
しかも、地球上で動いでも空気の摩擦力で燃損しない巨大構造物。 まぁあれは映画だからね・・・
本気だせば取っ組み合った瞬間にでろでろになって相手の体内に侵入すれば誰でも瞬殺
更に本気だすなら自分を生み出すレベルの企業や国を育てれば更にok
T2000は色々とアカンすぎる。 >>249
それを技術的に人工物に付与するときは、
名前ほしいだろ。
しかも、一瞬で伝わり動作する。分子レベルで完璧に挙動する。
たとえば、『以後、水になれ』と命令すればその集団は水になって機能的に死ぬ（解体する）んだ。
それを飲んでも普通の水で無害。 1SIRモデルに基づく隔離制御によるCOVID-19感染症の制圧 御手洗修
SIRモデルは今まで未完成だったがこれをついに完成した．ワクチン，外出制限，隔離制御すべて込みです．
http://www.qpn.kyushu-u.ac.jp/lab7/COVID-19-Mitarai-2020-0519.pdf >>252
それは難しいと思う、というよりやってはいけない
「人間を皆殺しにしろ」という命令を全部が来ちゃうと大変な事に
（それはダメでは？）という反対勢力あってこその群体だろう
ミジンコから見た人間はそれかもしれない >>254
人間中心の倫理観を実装するには、
まずはそれを定義しないといけないが、
すべての個人に同意がとれるものはなかなか難しいと思う。
そこで、完璧ではないけど、今ないと困るもの。
例えば、世論や社会情勢に合わせて常に改善しながら運用している法律や
判例に忠実に服従、
または緊急の場合は準拠して保留状態を維持し、
細部は専門の組織に報告するようにプログラムすればいいかもしれない。
それにはやっぱり自然言語を理解できるAIがないと無理だろう。 倫理問題で人間に適用する最先端バイオテクノロジーの発展は停滞しつつある。
（例：デザイナーベイビー、CRISPER－CAS9など）
そのほかにも、個人情報や独占禁止法関連のテックジャイアントの野心的な革新技術の足止めがある
ITテクノロジーもそうだし。
そういう倫理問題や法整備は、そこまで政府には差し迫って注目されていないしな。
そういえば未来技術発展のための倫理問題の議論スレってあったっけな？ >255
もちろん言ってる事は分かるが・・・
しかし人工知能側からすればどれが正しいんだろうか
・そもそも人工知能が人間に従う
・従う人間の分類。共産主義なのか、民主主義なのか
・差別の是非 255の続き
ただし、ニック・ボムストロムの『スーパーインテリジェンス』では
ASIをたかだか人間の定義した人間の認める未完成な法律では
縛ることはできないと指摘している。
人間中心の良心や徳の要素をプログラムできたとしても、
良心や徳の行き着く先は人間を滅ぼすシナリオになりえるかもしれないし、
人間の『文系』での定義では無理といった方がいい。
わざと、自己改善できない。受動的で金魚のふんみたいな性格の人間レベルのAGIに
人間の法律や道徳観を叩き込んだ方がましだ。 >>257
もしも、ASIでなく。成長できないAGIなら、
それを利用する組織や個人が属する国から出ないこと、
または干渉しないことを大前提として、
また、その国の法律、道徳観の規範を第一として、
その他、特に致命的な行動のもとになりえない要素は主の考え方や言うと通り
でいいのではないかな？ 自発的に創造することはのびた君、教えられたことを守ることはできすぎ君、主にはしずかちゃんとドラえもん、無関係な市民にはジャイアンでいいよ。
いわゆる護衛とアシスタント。 サービス料金を支払わなければ主に対してスネ夫君になる >>259
成長しないという前提はさすがにありえないかな 翻訳って今すごいレベルになってるけど(TOEIC900点以上)
プログラミングも一種の言語だしDeep learningで学習させられないの？ 最短で効率的に人工超知能を作るにはどうすればいいのか
汎用人工知能経由しか正規ルートは無いのか？ 遠回りだが確実に汎用人工知能を作る方法が脳を計算論的神経科学的に模倣すること
近道は…しらん 不確定性原理があるから汎用AIムリって意見も聞くけど
実際どうなんだ？
自己言及のパラドックスどうやって解決するんだ？
中国語の部屋とかばかりで汎用AI実現に関してこちらはあまり語られてないみたいだけど >>269
ゲーテルの不完全性定理とAIのウェブページはあった。
自己言及のパラドックスは初めて聞いた。
詳しければ簡単に説明してくれないか？ 人間という「自然汎用知能」があるのに何故人工になると途端に出来なくなると考えるのだろうか？
よくわかんねえな 結局は、数学的に間違ってること(もしくは、正確に書き記せないこと)を人間は理解して、それを同士と共有しているということか。
そして、YesかNoどちらともあり得る概念も現実にはあって、こちらも数学的に【正確】に示すことはできないということか。
最後は、主観的な体験と客観的な視点は一致しないということか。中国語の部屋はそんなに問題でもなさそうだけど。要するに便利ならいいのでとは思った。どうなの？ 記号設置問題が深層学習で解決したけど、
このことがゲーテルの不完全定理によるAGIへの障害や自己言及の問題なども同様に解決できるということなのか？
解決したとしても、フレーム問題やらムーアの法則の終わりやら、倫理面ではトロッコ問題もあるし課題が山積みだな。 記号設置問題は部分的に解決したのか。
まだ、人間レベルの自然言語処理を実現するアルゴリズムはないから、つまり意味を現実の人間並みに理解するという技術的な課題はある種の記号設置問題だよな。
でその残りの記号設置問題にゲーテルの不完全性定理やら、自己言及のパラドックスやらの障害も含まれる可能性があるということね。
結局は問題となる具体的なものや、そのヒントをつかむ足掛かりとなるブレークスルー待ちじゃん。
あまり、深くつっこむと中国語の部屋絡みで不可能という意見もありそうだけど、チューリングテストに合格したらAGIだと俺は容認する派だから議論しない。 人間並みの自然言語処理ができるということは、人間でいう言葉の意味を理解するに等しい(中国語の部屋の問題無視)。 人間レベルの自然言語処理能力の獲得(以降はNLPの完成)はどうやってやるのだろうか。
①人間の脳のたんぱく質レベルの模倣は、ブレイン・イニシアチブの状況から解明にはうまくいっても数十年かかるだろうな。
そして、それをエミュするのはムーアの法則が順調だと過程して、今世紀半ばだ(収穫加速の法則無視)。
②今の路線を突っ切るは、業界ではほぼ不可能という意見なのは、Lex Fridmanの講義で理解したからほぼ違うと思うが、確定ではないな。
③投資を派手にして、深層学習に代わる新しい手法を開発されるのを待つ。普通のシナリオではこのパターンが多いと予想されるので正規ルートと言えよう。
④BMI経由で、③を無理やりというかショートカットで解明しようという話。脳解析できるBMIが実現したら、①並みにガチだろう。ただ、そのBMIの開発も非常に難しい。
ということで、俺の可能性のある順序としては③＞④＞①＞②だな よく考えたら
③、①＞④＞②だ。
①は時間がかかるだけ、ある意味確実。手間を考慮しなければ 所々でソースほしい場合は言ってくれ。
あと、指摘があれば教えてほしい。
俺は20年後に自称未来学者で生計立てるから。
半分本気なんだけどw
あとは③の手法を議論する余地はあるが、
そこは筋金入りのAI研究者しか語れないとは
思うがここでもできるだろうか。 未来は一筋縄にはいかない。
例えば、①のルートに関して、ブレインイニシアチブでも④は絡んでいるし、①ないし④のある程度解明で頓挫し、③へのヒントになる場合もある。そして、④と③を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな①～④のルートが出てくる可能性もある。 一応科学者の基本的な考えは蠅→猫→チンパンジー→人間みたいな感じでスケールアップしていって
前項で学んだ脳の知見、解明方法を活かしてより大きなスケールの脳を効率的に解明していこうという魂胆なんだろうけどなぁ
そんな悠長なと思ってしまう
>>276
ただ③は深層学習が成功したのは一重にマシンパワーが足りなかったからという側面があるから、今成功していないアルゴリズムでも、より莫大な計算性能を与えるスパコンなら使い物になる可能性もある
未知の汎用人工知能になるアルゴリズムが突然発見されるかもしれないしそれは分からない
ところでカプセルネットワークはどうなった？ NLPの完成は、正規ルート③に関して課題と解決が何回繰り返されるのかは分かっていない。
①に関しても、計算資源に限れば量子力学レベルまで掘り下げるなら22世紀以内に実現できるかも不明。その手前のStochasticレベル(量子力学の原理を簡略したものと思われる)なら2111年頃になる。
Whole brain emulation : a roadmapより
運要素は、
革新的技術の登場だ。
それは、あらたなアルゴリズムなり、BMI技術だったり、脳解析ツールだったり。つまり、全て運。 実際脳をエミュレートしてハエやらネズミやらは仕組みがわかったんだろか
結局中国脳でしかないのでは >>280
ほう、つまり既存の技術を深める②も可能性は考えられるということか。
②は既存の技術やディープラーニングに計算資源を強化していくルートという意味合いだった。分かりずらかったかもな。 >>281
これ、浮上してくる可能性あるな。
脳の解明でもう少し補強も必要かもしれないし。
中身は全くしらない。教えてくれw ？なので？は意味不明です
>>277は
＞よく考えたら
＞？、？＞？＞？だ。
＞？は時間がかかるだけ、ある意味確実。手間を＞考慮しなければ >>283
その通りだと思う。
神経細胞の分類やグリア細胞の分類もまだできていない。機能も全く分からないか、少し分かっている程度。
それらがどう相互作用するとかもね。
これは人間の身体のたんぱく質同士の相互作用みたいに確認するのが大変そうだな。
たんぱく質は数万の組み合わせで、
脳の細胞の種類よりは遥かに多そうだけど、
脳の配線とかも超複雑そうだし、何より
あるたんぱく質の働きはたんぱく質化合物で確認できるらしいが、電気信号は次元が違う難易度だろうなw >>287
すまない。
> よく考えたら
> 3、1＞4＞2だ。
> 1は時間がかかるだけ、ある意味確実。手間を考慮しなければ GPT-3に穴埋め問題として食わせてくれ
>>279
未来は一筋縄にはいかない。
例えば、？のルートに関して、ブレインイニシアチブでも？は絡んでいるし、？ないし？のある程度解明で頓挫し、？へのヒントになる場合もある。そして、？と？を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな？～？のルートが出てくる可能性もある。 この投稿か
書き直すほどのものではないから恥ずかしいなw
> 未来は一筋縄にはいかない。
> 例えば、1のルートに関して、ブレインイニシアチブでも4は絡んでいるし、1ないし4のある程度解明で頓挫し、3へのヒントになる場合もある。そして、4と3を組み合わせて実現するかもしれないし、はたまた、壁にぶち当たってあらたな1～4のルートが出てくる可能性もある。 >>289
どっちにしても番号参照は可読性が低下するのでやめてほしい >>293
ディープラーニングに代わるまったく新しいAIの学習方法だよ。
俺もMITの講義でいってた情報を書き写しただけだから。Lex Fridmanの そうか、みんな理解してないのは分かった。
俺の言葉が足りないみたいだな。
出直してくるわ(^^; あと、まったく新しい機械学習の手法が必要だと俺は聞いたが、
ここでの会話でディープラーニングは計算資源が足りなかっただけで、もともとのアイデアは昔からあったんだろうけど、
CapsNetみたいにもうすでに存在している可能性の方が高い気がしてきた。
同じく計算資源が足りないだけとは限らないが、あと少しある機能を補えば実はうまくいくものがあるかもしれない。
ここで、まったく新しい機械学習やAIの強化方法のアイデアが出てくるとは思えないから、むしろ、既存の革新的なプロトタイプを注視すべきだなとおもった。
Numentaも似たようなものあったよな。 CapsNetって2017年に紹介されてもうkerasで実装されてるなあ
でも特徴のある物体の場所も同じような演算で出せるようにしてるけど、
そっちで行くかあるいはもっと新しいYolov4だのCornerNetだのを使った方がいいか >>297
そんな情報どこで手にはいるんだw
知ってる人は知ってるのか。
俺はおおまかな仕様もまったく知らないから、
あれだけど。
この手のものをまとめて紹介する記事とかあれば
かなり面白そうなんだよな。
別々のものでも、似たような部分もあるだろうし、むしろ、共通点から注目されている部分を今後の方向性としてとらえても予測としては間違いではないからね。 >>241
産業革命て経済成長率にして+1%くらいのインパクトだったみたいよ イタリアのチームは7月、退院患者143人中9割近くが発症から約2カ月後になんらかの症状があったとする論文をまとめた。
https://r.nikkei.com/article/DGXMZO61919500V20C20A7EA1000?n_cid=SNSTW001&;s=3
世が障害持ちで溢れれば医学が急速に発展する。 ようやく7才児並ぐらいの文章が掛けるようになったか
すくすく育ってほしいわ >>299とかAGIとか見ると思うけど人間は傲り高ぶり過ぎだわ
ポルポトじゃないけど現状に満足して質素に暮らせよ >>303
GPT-3なんてただ数値的な性能をアップさせただけだぞ アルゴリズム的には進化してないだろ
力押しで今までの精度が上がっただけ もうこれ以上力押しじゃ向上しない可能性だってある
人間の知能は統計論だけで出来てるわけじゃないからな
7歳児ぐらいの本能だけで生きてる僕ちゃんの知能ぐらいなら統計論の精緻化で表面的にはモノマネ可能ってだけだろ
「チーズは冷蔵庫に入れると溶ける？」みたいな常識能力も相変わらず期待できないみたいだ そこは7歳児にも遠く及ばないね アルゴリズムだけでは相当難しいと思う
D-waveが頑張れば更に一歩飛躍するだろう
と思っていたけど思ったよりも早くAI自身が自己進化コード書けるようになるかもしれない 自己進化コード特化なら常識とかも不要になる
しばらくはどう自己進化させるかだけを考えてもいいのではないかな そうそう
成長しない人間の4才児よりも、成長するミジンコの方が将来有望じゃないかな GPT-3の作った文章を見ていて思ったけど、映画「パプリカ」に似ているんだよな
支離滅裂な文章と世界観というかそういうのが似てる
当たり前だがその支離滅裂なものに一貫性というか意図がないから言い知れぬ気持ち悪さがある >>306
AIと量子コンピューターは関係ないぞ
量子コンピューターの用途はまだ狭く、AI処理には使えない >>311
組み合わせ最適化の考えがAI開発に入って無かったらその方がおかしい。 機械へ意識をアップロード？ 東大准教授、不老不死への挑戦 研究の活力は“死への恐怖” 2020/07/24 [朝一から閉店までφ★]
https://egg.5ch.net/test/read.cgi/scienceplus/1595676323/ >>304
ヤマギシ会インフォメーション 幸福会ヤマギシ会公式ホームページ
http://www.koufukukai.com >>305
クイズっぽいのはGPT-3は現状では期待できないね
総合的な文章読みと、それをreact.jsを通じたPC画面操作を含むアウトプットにする能力が
得意なだけだ
ただし画面操作だけでなくてデータベース入出力やWebプログラミングもある程度対応できるみたいなので
もうちょっと頑張ればシリアル通信で外部のロボットも操作できる事になる
最新型東ロボ(ひいてはBERT)とGPT-3をうまく繋げられるのかどうかは分からん
それでも、これまでよりは大規模な進歩でしょ
まあ、いきなり全人類が失職して同時にメシと電気と水と服と部屋などが十分に与えられる、
というのは、これだけだと勿論とても無理だな HTML5のcanvasで3DCGの幼稚なものは扱えるなあ
ReactJSでシリアル通信が出来るようになるかどうかというのとは別に
例えば倉庫とかコンビニで、canvas内に作った仮想店舗内を
中に作ったキャラクターオブジェクトが言語指示でちゃんと動けるようになるか？
というのをテストしたらいいのかな チューリングテストもパスしそうな文章生成AI、GPT-3はプレゼン資料作りもこなす！
https://techable.jp/archives/132357 >>310
その書き込みで思い出したが、数年前話題になったDeep Dream を思い起こした
AIの作り出すテキストや芸術はいずれ違和感ないものになっていくのだろうか
CGの不気味の谷を超えるように >>127
技術的投稿の巻込規制といったものには閉口致しますものです カーツワイルの特異点より先に
労働の形態が変わるんじゃないかなって思っている
最低限の生活ができるハードルが低くなるなど
プログラミングしなくても、作業を筋道を通して的確な言語で示せる人なら
ジョブシステムのクリエイターになれるのだとしたら
労働がどんどん自動化されてしまう
その代わり、筋道の通ってない作業をしている企業はどんどん淘汰される、と
ただしクビになっても最低限の生活だけは、ジョブマシン群が生み出す
サービスのお陰で可能になる
あと10年掛からずに一部の国でこれが可能になる
本邦がどうなるかはともかく 金融緩和によるインフレで最低限の生活がより大変になる可能性 ヘリマネで一人１０００万円をばら撒けばインフレになるんじゃね？
今は２０年も続くデフレだからインフレ懸念などナンセンス まぁたかだか10万円を国民全員に配ってもまったくデフレから脱却出来ていないんだ 政治経済のポンコツぶりに対して、科学は役に立てないのかねえ
これだけの人間が居るのに、ごく一部の政治に左右されすぎておかしいし >>322
そういや2015年ぐらいだけどGoogleの人工知能が描いたっていう
あのやたら犬っぽい模様が出てる絵見たことあるけど何も感銘とか受けなかったなぁ
別に人間が特別とかいう話じゃなくて純粋にただのテキトーな合成にしか思えなかった
芸術なんて物は言いようみたいな世界で、何でもそれなりに見えるモンだと思ってたからちょっと驚いた
やっぱり根底に人間特有の感覚やフィーリングがないと芸術でもうまく行かないのかね >>332
政治が強欲糞政治過ぎて稼ぎの半分以上持っていくからどうにもならんだろう
あえていうならグローバル企業を作ってロボットを開発し
政府を叩き潰すしかない 巨大コングロマリット企業「オムニ・コンシューマ・プロダクツ」（OCP, 通称「オムニ社」） なんかアホーダンスみたいな名前の理論だけど大丈夫なんか？ >>336
心理学用語だな
この図形なら、このパターンではこれだよな、みたいな
そこに特徴量をうまく当てはめるかな 人工知能が世界に関する常識を持ってくれれば今の弱いＡＩのままでもある程度使い物になるだろう 弱いAIのままだったら
今よりも自殺者増えると思うから
さっさとGPTが自己進化して欲しい GPTが実現している機能は、
汎用人工知能に必要なほんの一部の能力でしかない GPTだけじゃなく、他の弱い特化型AIを複数組み合わせれば、
汎用人工知能が完成する可能性がある ■ このスレッドは過去ログ倉庫に格納されています
