(強いAI)技術的特異点/シンギュラリティ128
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか?人類はどうなるのか?
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド。
■技術的特異点:収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点。
■収穫加速の法則:進歩のペースがどんどん早くなるという統計的法則。
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
https://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
https://goo☆.gl/RqNDAU
※URL部分をコピーし、☆を消してペースト※
※前スレ
(強いAI)技術的特異点/シンギュラリティ127
https://rio2016.5ch.net/test/read.cgi/future/1530234247/
(強いAI)技術的特異点/シンギュラリティ126
https://rio2016.5ch.net/test/read.cgi/future/1529408476/
(強いAI)技術的特異点/シンギュラリティ125
https://rio2016.5ch.net/test/read.cgi/future/1528603775/ >>375
汎用AI開発を目指すディープマインドが現にあるし
日本だって金井先生のアラヤがある
それなのに「空想」と切り捨ててしまう所がなぁ >>385
俺がニートなら、お前は認知症のボケ老人だろう。
介護施設で自分のウンチを壁にでも投げつけていろよw >>386
孫正義は在日3世
密入国は親父さんの話 最近はリコールが多くて
内部留保ないと不具合1発で倒産だから何とも言えないな PEZYは来年、世界初のエクサスケールスパコンを開発するだろう(o^−^o) 限りなく食料とエネルギーが
安くなってくれればそれでいいよ >>391
よう人種差別主義者!( ・`ω・´)
在日朝鮮人ってだけでろくでもないの扱いとは…( ・`ω・´)
反省しなさい!( ・`ω・´) 一般人「シンギュラリティって何だろうなあ」検索クリック
5chスレ「ニートガー、ミンナムショクー」
一般人「あっ(察し」 技術的特異点を起こすのは米中のどちらか
日本は蚊帳の外
だから喧嘩しないで
没落国家の国民同士仲良くしなさい ない
そもそも起こせないのだから
意味があるない以前の問題 自動化を進めることで生活が豊かになるならそれ(技術的革新)を進めない理由がない
実際に仕事を機械化して低コスト化と量産を進め私たち人類の生活は豊かになり続けてきた
物理的な労働だけでなく知能労働を自動化しようとする動機、其の究極系が汎用人工知能だ まだ韓国の方が可能性が高い
日本?
ろくなスマートフォンも作れないくせに 産業革命にしてもある瞬間に起きたわけじゃないからな
シンギュラリティを起こす起こす言ってるやつはカルト宗教臭くてかなわんわ 日本人はアメリカに寄生しておこぼれを期待しなさい
寄生虫らしく https://twitter.com/_Ryobot/status/1017315240399331328
>TransformerのKaiserらが新しいTransformerを提案し,質疑応答のbAbI (joint) を史上初全タスククリア
>機械翻訳のWMT英独でSOTAを達成!
>通常RNNはシンボルを1つずつ再帰的に処理するが
>Universal Transformer は全てのシンボル列をまとめて再帰的に処理する.
ユニバーサルトランスフォーマー
https://arxiv.org/abs/1807.03819
transformarモデルの改良版
言語の特徴量ベクトルにタイムステップとポジション(時間間隔と位置情報)を付加した上で
1つ1つのシンボルではなく、全てのベクトルを再帰処理に回す手法
重要なのは全ベクトルを再帰処理に回すのと、タイムステップとポジションを付与してること
以前からこのスレを見てたやつなら分かるだろう
これは俺がこのスレで4月から語っていた音声変化率ベースと同様の手法
時間間隔と位置情報を波形に置き換えれば、その2つが示すのは時間的位置変化率だからな
音声波形に置き換えれば、それは音声変化率ということになる
ユニバーサルトランスフォーマーではこの2つを特徴量に付加した上で
全ベクトル(事実上、上限無限のベクトル)をRNNのように再帰処理している
この全部を考慮させるってのも俺が散々主張してた方法
一応自分で実装出来るように勉強してたが、やはりわざわざ俺がやる必要性はなかったな
あとはこの手法を応用した音声対話形式のAGIの登場を待つばかりだ
基本的に人間の脳みその中で言語情報は音として成り立っている
ただ音でこれをやると出力がくっっそ重いから
特徴量にタイムステップとポジションを付与するこの手法で擬似的にやるしかないかもな Transformerモデルでは特徴量に付加してるのはポジションだけだったが
タイムステップをこの改良モデルから付与するようになった 汎用人工知能を開発した国家、あるいは機関、または何らかの集団は周辺の集団より常に優勢を保ち続けることができる。そしてその優勢・劣勢は一度起こると二度と覆す事ができない
と云うのも一度汎用人工知能の稼働が始まれば人間の数万倍という速度で知能労働を遂行可能だからだ
汎用人工知能に科学技術を研究させそれら技術を陸海空兵器、電子戦兵器へと転用できる
その気になれば他国へ侵略して圧倒的な科学力の差で蹂躪することも可能だろう
侵略する気がなくても、科学力を背景に経済的に他国を搾取・植民地支配することさえ可能だ >>404
ニートは社会からのおこぼれに期待せず自力で行きなさい
税金にたかるなゴミ >>402
韓国は北朝鮮に飲み込まれる
韓国の民意がそれを望んでいる
それを見越して
トランプは在韓米軍の撤兵を企図している >>407
こういうのも斎藤とか三橋いう犯罪詐欺師が金集めるための方便だったよな
まるで具体性のない話じゃん >>403
いや、瞬く間に拡散するだろうね
スマホは登場後10年未満で全世界に普及した
テクノロジーの進化発展スピードは産業革命当時と比べ物にならないほど早い 笑わせないでくださいよ
日本人は本当に頭が足りてませんね >>410
誰彼ともなくニートだと難癖をつけ
ウンコを投げつけてくるお前は全く具体性皆無じゃん
ばーか、ゴミ 厳密に言えば、人間の脳の初期状態を再現するなら音声変化率のみを与えれば良くて
言語情報を付加する必要性はない
人間の脳みそではそのようになっていて、文字の形のような視覚情報は基本的に後付で付加されるわけだからな
ただ結局、それが相互に絡み合って言語情報が体系付けられていくわけだから
いずれ視覚情報(画像情報)は入力される必要がある 日本人は面倒ですね
疲れます呆れます
世界の我々が笑っています >>411
テクノロジーの発展を測る客観的尺度でもあるのかよニート?
お前みたいな幼稚なガンボウばかり垂れ流してるニートが社会出会いにされない理由を考えてみろ まるで幼稚園児の会話みたいだ
自分は大人だからもういいです
呆れます >>410
アメリカもロシアもgoogleもアリババもソフトバンクもぜーんぶ詐欺師
世界中詐欺師だらけだー
この世界はぜーんぶ嘘だぁだな >>418
グーグルがこんな中学生の妄想みたいな発言したとしたらソースをくれニート >>418
ホログラフィック理論が正ならその通り
シンギュラリティ直前でブレーカーが落ちる >>411
毎日毎日、
具体性皆無のニート叩きに明け暮れるキチガイに付けるクスリはねぇよな
結局、お前みたいな汚いウジ虫野郎の頭はその程度のボンクラなんだわ
サメの脳みそ、ニート叩きのシャブ中め http://i.imgur.com/HbGdKPV.jpg
こんないい加減なグラフ
これをテンプレにしてたアホニートが集まるスレ
前スレもニートのアホな妄想で埋まった >>416
>テクノロジーの発展を測る客観的尺度でもあるのかよニート?
収穫加速の法則、がそれだろ
これは歴史的事実だ >>423
それトンデモ理論じゃん
科学的根拠なしのただの願望だよ >>422
これまでの経緯は歴史的事実だろ
それさえも否定するニート叩きのシャブ中野郎
さすがウジ虫が湧いた頭を持つキチガイは言うことが違うね >>425
これまでの経緯も否定するの?
それこそお前の現実無視の願望 >>426
縦軸の数字は何を根拠にしてるかって言ってんだよニート
話の通じないニートだな >科学的根拠なしのただの願望だよ
これまで人類がたどってきた歴史さえも否定するアホ
ただのバカ、ただのクソ、ただのキチガイ
それがお前だよ、ニート叩きのゴキブリ野郎 >>428
縦軸の数字の議論なんて本筋じゃねぇだろ
木を見て森を見ない馬鹿者だわ、お前 >>430
じゃあ収穫加速なんておきてるなんてのはただの妄想だと認めたんだね
えらいぞニート >>431
全てがニートに見えるお前こそ妄想亡者だろ
死ねよ、ボケ 経済産業省「嘘だ嘘だ嘘だ。汎用AIができるなんて、そんなの絶対嘘だ」
「何を、君が何を言ってるのか分かんないよ。」
「無理だよそんなの。見た事も聞いた事もないのに出来る訳ないよ」
「逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ...」 >>420
それ面白いね
「あ〜あ行き過ぎちゃったなこのゲーム」 時代が下るにつれて誰でも生きやすい社会を目指している。
弱肉強食論を掲げるのは動物的思考でしかないだろう。
俺は吃音症で、必要最低限なことすら筆談で話すんだけど。(無理やり喋ろうとするとみっともないことになる)
字幕で喋れる時代っていつ来るかな?
今でもやろうと思えば、会議やプレゼンでも合成音声ソフトを使って「山口ですけど…」としゃべれなくもない。
VR的な感じで街を歩きながら字幕で喋れるなら不便を感じなくなるんだけどな。 著者のMostafa Dehghani, Stephan Gouwsって
両方共グーグルじゃん、ってことは現状Transformerなgoogle翻訳も
もうすぐユニバーサル化するわけだろ
盛り上がってきたわ〜
後は量子コンピュータだけだな
AGIのベースは出来上がったといって過言じゃない
後はユニバーサルトランスフォーマーを使ってりんなみたいなチャットボット作ってみろよ
やべーことになると断言するぜ >>396
”シンギュラリティ”を検索して真っ先に5chスレを覗くのか...(困惑) 経済産業省は量子コンピュータすらも視野に入れてないのだろうか?
こっちは目の前に迫った現実だ
どう考えてんだろ?
経済産業省「何も考えていません。思考停止中です。」 お前ら何だかんだ日本に成して欲しいんだな
俺なんて分散して欲しくないからこのまま黙ってて欲しいとしか思ってないわ
ただでさえ米中で分かれてるのに日本までエントリーしてくんなよって まぁ、如何なることにも期待せずに、目の前の人生をコツコツ生きれば、
勝手にシンギュラリティ起きてると思うよ。 >>439
馬鹿だから日本がシンギュラリティを`起こせばこのままニートできるとか考えてんだろ
全部都合のいい妄想でしかないんだがな >>435
レジとか、ボイレコに固定音声入れておいて、
お客さんとのコミュニケーションを極力無くしてる人いたよね。 >>440
働かずに一発逆転ばかり夢見てるこのスレのニートには馬の耳に念仏 >ID:a58qu6/d
>ID:HPq9l1A4
日本語不自由なチョンが2匹いる笑笑
文句あるなら自国のBBSにこもってろ ニート煽りはともかくそれに毎回反論してる奴らは何なんだろうな
このスレって本当に頭悪い奴しかいないの? 自分は頭良い!と思い込んでる者ほど頭悪いんだよねー
誰とは言わんけど >>447
頭悪いやつって皮肉やジョークも下手だよね
誰とは言わないけど >>446
そりゃ働きたくなくて仕方ないだけのやつが集まる場所だし >>450
相変わらずバカ丸出しwww
現実でもネットでも馬鹿にされ続けてきてくやしいか?おい 【コテ歓迎】統合失調症(旧精神分裂病)雑談スレ★7
http://krsw.5ch.net/test/read.cgi/mental/1530716091
ID:a58qu6/dはここ逝け
仲間がたくさんいるぞ >>420
この世がよくできた仮想現実だとしたらブレーカーが落ちるんじゃなくて
光の速度は越えられないやらエンタングルメントみたいに
シンギュラリティを起こすことはできないみたいな説明不能の理不尽な法則があるんだと思う AIで土壌データ管理
農家、最新設備の効果確認
http://www.saga-s.co.jp/articles/-/245600
富士山がIoTだらけに。登山ルートの気温・混雑度もウェブで一目瞭然
https://www.msn.com/ja-jp/news/techandscience/
富士山がiotだらけに。登山ルートの気温・混雑度もウェブで一目瞭然/ar-AAA2egD?li=AA4ZoD&ocid=spartanntp
ドローンvs.ドローンのドッグファイトが実現! 対戦用小型ドローン「X1 FPV」発売
https://www.zaikei.co.jp/releases/654901/
2030年、世界最大の都市圏は?
https://www.msn.com/ja-jp/news/opinion/2030年、世界最大の都市圏は%ef%bc%9f/ar-AAzZDdR?ocid=spartanntp#page=2
総資産1京円以上!?歴史上もっともお金持ちな人物15名 ビル・ゲイツで12位
https://www.msn.com/ja-jp/money/news/IRIS/ss-AAjoXmt?ocid=ems.display.edge&ccid=cfc273cad09f4bedaa37385cab0505b7#image=14
中国の大学入試の成績を欧米の大学が重視する理由とは?―中国メディア
https://news.infoseek.co.jp/article/recordchina_RC_624331/
→中国の学生の学力は高いと欧米評価
米中貿易戦、低姿勢に転じる中国 米への刺激避ける
http://www.epochtimes.jp/2018/07/34735.html 顔真っ赤で(仮想)ニートにマウント取るのは気持ちいいか? 南極地下で観測されたニュートリノが39億光年先のブラックホールから飛来したものと判明
https://gigazine.net/news/20180713-south-pole-icecube-neutrino-detector/
「消費電力3分の1」5G基地局の研究開始 総務省と名大など
http://www.sankei.com/smp/economy/news/180713/ecn1807130037-s1.html
これは本当にすごい発見。血小板は寿命が大変に短くて、献血で得たものもたった4日しか保存できず、輸血には膨大なコスト(1回10万円)がかかってた。
新技術でiPSから血小板を自由に作れる時代となれば、医療費を削減して、救える患者も増えると思う。早く実用化されてほしい。
iPSから高品質の血小板を作製 「献血と同等」レベル
https://www.asahi.com/sp/articles/ASL7F4WNLL7FUBQU00R.html
https://twitter.com/SatoruO/status/1017894211067277312
核融合研究所に高性能スパコン
https://www3.nhk.or.jp/lnews/aomori/20180711/6080001563.html
池田佳隆所長「実験をうまく進めるのに欠かせない予測のための大きなツールが導入されたので、しっかりと期待に応えていきたい」
セラピスト並みの性能、個人の感情に応じるロボ用AI
https://newswitch.jp/p/13697 日本人は本当に素晴らしい民族だよ。
一部の意地悪な人も無知なだけで皆根は優しいよ。
これは人類全てに言えることだけどね。
別に日本人がシンギュラリティを起こしてもいいじゃないの。 フリーメイソンは確かに存在しています。貴方の心の中です。 >>458
「六ちゃんー2」の性能はどの位何だろ
↑
ネーミングベタ過ぎ 地球上で最も寒い気温「マイナス98度」 南極で記録
https://forbesjapan.com/articles/detail/22050/1/1/1
北半球では夏の暑さが本格化する中、南極では地球とは思えないほどの寒さのマイナス97.8℃という史上最低気温をマークした。これは人間が数回呼吸しただけで肺から出血して即死するほどの気温だ。
これまで最も低い気温だったのは、1983年に南極点に近いロシアのボストーク基地で記録されたマイナス89.2℃だった。
5Gが切り開く未来の展望 〜パートナーの強みを融合させた世界〜
AIフォーラムレポート
http://www.asahi.com/dialog/articles/11659618/
次世代の通信技術「5G」。NTTドコモ5G推進室の中村武宏室長は、議論は「超高速・超大量接続」「超高信頼」「超低遅延」の3つのケースにまとめられると言います。
同社が実施しているオープンパートナープログラムを通じたトライアル事例について、ご紹介いただきました。
人間の努力無意味に?AI自動運転車、20分で技能習得「強化学習」の凄さ
https://jidounten-lab.com/w_4103
AI(人工知能)の研究開発を進める英ケンブリッジ大学の研究チームが創設したスタートアップ企業「Wayve(ウェイブ)」が、AIの深層強化学習を活用し、20分足らずで自動運転車に車線を守って走行するよう学習させる取り組みに成功した。
自動運転車が道路を走行中、ドライバーがハンドルで走路を補正したりブレーキを踏んだりしたときはマイナスの報酬を与え、上手に道に沿って走ったらプラスの報酬を与える仕組みで実験を続けた結果、わずか20分足らずの走行でAIは車線を守って走行することを学んだという。
強化学習は、走行しながら刻々と変化する状況を検知し判断しなければならない自動運転の分野において有効とする専門家も多く、今後飛躍的に研究開発が進む可能性がある。 【新】知っておくべきAIの最先端、「汎用人工知能」とは何か
https://newspicks.com/news/2300393
有料記事ですがコメントから
『AGIは、AIの実用性に関わる段階的な技術目標なので、必ずしも「人と完全に似ている」ことを要求しません。
ですからその目標に「心を持つ」「意識を持つ」という要素は含まれない』
続々と社会・ビジネスで使われ始めているのは、個別の領域で知的に振る舞うことができる「特化型AI」です。
一方でAGIは、経験を通じて多様な領域の課題を解決する能力を獲得できる「汎用的な人工知能」のことを指します。
一方で、「貧しくても住民が働いている地域のほうが治安が良い」という傾向は昔から指摘されていることです。
ですから仕事以外の形で、人々が「社会の構成員としていかに自分の居場所を探してゆくか」といった問いが重要になってくるでしょう。
そうなると、仕事の以外の場における「尊厳」とか「存在意義」といったことが、人間には大切になってくるかもしれない。
・お金の役割として残されるのは「人々やAIが互いに評価しあうための指標」という側面ではないかと思います。
将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなるでしょう。
・今でも、我々は自然界を支配できないという現実の中で、自然とうまくつき合っていかなければならない。
AI界も一緒で、何もかも人間が支配するのではなく、ゆるやかにコントロールすることが大事だというのが私の考え方なのです。 >>464
これが、一番インパクトのあった一言。思ったより早いようだ。。。
入山 山川さんの見立てでは、AGIはいつごろできそうですか。
山川 具体的には2030年ごろを目標にしていますが、もっと早く完成する可能性もあると考えています。
カーツワイルの予言は遅すぎる
古代ギリシャやローマで奴隷に労働を任せ、自由市民は余暇で哲学などに励んだ時代が、AIに労働を任せるという形でまた訪れる。「お金のためだけに働く」という考え方はその頃には意味のないものになる。
情熱を傾けられるものを見つけた人や、目の前のことを夢中で楽しめる人が生きやすい時代になりそう。
「いずれは私たちみたいな人工知能研究者も、AGIに仕事を奪われてしまうでしょう」
「仕事をしなければいけないという価値観が、いまほど重要ではなくなるのは間違いない」
「これまで主流であった「お金を稼ぐために働く」というタイプの価値観では、精神の安定が保てなくなるかもしれない」
「仕事以外の形で、人々が『社会の構成員としていかに自分の居場所を探してゆくか』といった問いが重要になってくる」
「将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなる」 >>465
【入山×山川】人類の次のテーマは「いかにうまくAIに負けるか」
https://newspicks.com/news/2300396
【入山×山川】人間の脳を模倣し、超えていく。AIの近未来とは
https://newspicks.com/news/2300398
【入山×山川】「AI開発レース」に勝てない日本が生き残る秘策
https://newspicks.com/news/2300400
・AGIは「様々な領域のことを基礎知識からAIが自然学習する」ことを目指している
・そのためには、神経科学者をこの分野に巻き込むことが必要
・しかし、20年以上にわたる長い「AI冬の時代」があったために、50歳以下の世代があまり育っていない
・そこで、単に開発レースに勝つことでなく、「人類と調和する人工知能のある世界」の実現を目指すという、より高いレベルのビジョンを掲げる
・「全脳アーキテクチャのオープンな開発を促進する」ことをミッションとする
・「専門知識」「社会への影響の見識」「共同でAGIをつくる意識」の3分野に取り組む シンギュラリティサロン@東京#26 + ジャパンスケプティクス
http://singularity.jp/20180311-2/
2018年3月11日(日)に開催された、シンギュラリティサロン@東京(第26回公開講演会、ジャパンスケプティクスとの共同開催)の動画です。
https://youtu.be/Oe2uxni240M
スケジュール
13:30-14:30 講演1「なにわのシュルレアリストによるAIとアート」中野 圭(シュルレアリスト、大阪芸術大学 芸術学部 アートサイエンス学科 准教授、Facebook: 中野 圭 )
【概要】
ICTが世の中に普及してから20年程経っており、最近ではAIの実用化についてもニュースなどからも伝えられている。深層学習、機械学習などの統計的な手法についてもユーザーレベルで利用できるツールについても幾つか紹介がなされている。
今年度はAIとアートをテーマに研究を行ってきたこともあったので、最新の技術動向とその活用例について発表する。
ボーカロイド技術の研究の中で10数年前から現在のAI技術の研究開発と作品制作を行ってきた経験からシュールレアリスム(超現実主義)がICTからAIまでを網羅したメディアアートにおいても有用であり、
梅田駅などヨーロッパ諸国の地下鉄と遜色ない景観を保つ大阪において、「なにわのシュルレアリスト」を名乗る意義についても熱く語る。 >>468
14:35-15:35 講演2 「人工知能に美意識は芽生えるか」 中ザワヒデキ(美術家、人工知能美学芸術研究会 発起人代表)
【概要】
現今の「人工知能が創作した芸術」とされているものは、その殆どが、人間が人工知能という道具を使って制作した代物でしかない。
真の意味で「人工知能が創作した芸術」はまだ存在していないどころか、真の意味での「人工知能の創作」も、さらには真の「人工知能」さえ、未だ実現はなされていない。
しかしながら、いったん目的が他から与えられ、フレームが定まれば、アルファゼロは人智を越えた結果を出す。
人工知能が自ら目的を見つけ出し、フレーム対処能力を上げることができるなら、真の意味で人工知能が芸術を創作することが理論的には可能となるのではないだろうか。
今回の演題「人工知能に美意識は芽生えるか」は、沖縄科学技術大学院大学(OIST)にて本年1月8日まで、世界初の総合的なAIアート展として開催されていた「人工知能美学芸術展」が、テーマとして掲げたものである。
同展では「T:人間美学/人間芸術」「U:機械美学/人間芸術」「V:人間美学/機械芸術」「W:機械美学/機械芸術」の4つのカテゴリーを設定し、私を含む展覧会の企画者は、まだ実現されていない「W」を希求するとした。
15:35-15:45 【休憩】
15: 45-16:45 パネルディスカッション「AIでアートはつくれるか」
パネリスト:中野圭・中ザワヒデキ・松田卓也(神戸大学名誉教授)・高橋昌一郎(國學院大學教授、司会)
主催
シンギュラリティサロン
共催
JAPAN SKEPTICS、株式会社ブロードバンドタワー AIに規制かけるなら今しかないだろうなw
これ以上行けば量子コンピュータと結びついて爆発的に進化するぞ >>467
ドワンゴ人工知能研究所の所長の山川宏とのインタビュー
https://futureoflife.org/2017/10/12/ドワンゴ人工知能研究所の所長の山川宏とのイン/
6. 汎用人工知能(AGI)が社会にもたらす最大の便益は何だと思いますか?
6の答え:山川さん
汎用人工知能のもたらす最大の便益は、科学技術の発展を加速し、それによって得られる波及効果ででしょう。環境に対するコントロール、食料問題、宇宙進出を加速することなどです。
先に述べたように、自分たちがもつ攻撃力の範囲よりも人類の生存領域が大幅に広ければ、Existential Riskを大きく抑制できる可能性があります。
そのため、私の思いとしては、できれば人工知能の利用は宇宙進出に重点を置くべきと考えています。
ここではひとつ、私が以前に考えた未来像について紹介しましょう。
EcSIA: AIと共存する望ましい未来社会像
私が思う,望ましい未来像とは 「万人の幸福」と 「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである.
こうした未来社会では共有財産としての多様な人工知能と,時に拡張された人類によって生態系が形成される.
私はこれをEcSIA (Ecosystem of Shared Intelligent Agents )と呼ぶことにした.
EcSIAは大自然の如く複雑広大で,人類はそれを完全には理解し把握できないまでも緩やかに制御する.そしてEcSIA が生み出す恵みや富は万人に分配される.
(山川, 2015年7月)
7. AGIがもたらす最大のリスクは何だと思いますか?
7の答え:山川さん
最大と言うことになれば、先ほどお話しましたように、人類絶滅能力をもつ意思決定主体の増大がもたらすExistential Riskかと思います。 >>471
8. 私たちの進歩を侵害する世界規模の惨事はないと仮定して、次の10年・2040年ごろ・2100年ごろのhuman-level AGI(人間の知能レベルの実現を目指す汎用人工知能)完成の可能性はどの程度であると思いますか?
8の答え:山川さん
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としています。
カーツワイル氏が「2029年に人間レベルができる」言っていることはよく知られているかと思いますが、大体それと同じぐらいで考えています。
我々はAGI開発を促進する集団なので、平均的な見解より遠目の「100年後にできます」と言うことはありません。
FHIのニック・ボストローム氏らが2011年から12年ぐらいにとったアンケートに私も答えましたが、その際には私個人としては2023年と書いたはずです。
個人的には早い可能性も考えていますが、WBAI関係者の意見の平均的なところで、2030年ぐらいかなと思います。
こういう点では、FLIによるAsilomar会議でも意見の一致は得られなかったのかと思います。
一般的にマスメディアは煽ったりその反対をしたりする傾向を持ちますので、人工知能の技術者が、意見の一致をみなくても技術的な観点から見解を世間に発信していくことの意義は高いと思っています。
私は現在、日本の人工知能学会の編集委員長ですので、上記のような意識の上で、本年の7月号から連載するレクチャーシリーズにおいて、
「シンギュラリティと人工知能」というテーマで、毎号、人工知能の専門家に技術的な観点から見てシンギュラリティについて語ってもらう企画を進めています。
こうして技術的に冷静な意見を、まずは日本国内において広めていきたいと思っています。 >>472
9. 人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思いますか?
9の答え:山川さん
先に話に出したコンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきました。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思います。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大するでしょう。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れません。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担えます。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
ところで、カーツワイル氏は2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしています。
私は、上記のような理由からこの後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測しています。
私から見るとこのカーツワイルの16年間という予測は不自然におもいますが、むしろその点についての疑問をあまり見かけないことに不思議さを感じています。
ただし、この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれません。 >>473
10. 悪い設計か操作の結果として、人工知能が悪い(もしくは極めて悪い)結果を引き起こす可能性はどの程度だと思いますか?
10 の答え:山川さん
些細な負の影響を考慮すれば100パーセント何かしらあります。例えば誰かがビジネスで損をしたなども入れるなら必ず出てきてしまいます。
リスクは基本的にインパクトと同時に頻度や確率を考慮しなければなりません。Existential Riskはもちろん非常に大きなインパクトで避けなければいけません。
そのインパクトに近いものとして、国家同士での戦争や悪用による負の影響が一番大きいと思います。
より直近の課題として、生産性を持ちうる職業技能の高度化があります。
人工知能で実現できる技能や能力が高まると、それを使いこなせる高度な能力をもつ人材の生産性が格段に増加する反面、それができない人材の生産性の価値が激減します。
つまり儲かる人と儲からない人の格差が拡大します。
こうした格差は、個人レベルでも組織レベルでも拡大します。そうすると、経済的に不遇なところから不満が生まれ、そこが戦争や紛争の温床にもなりえます。
これは資本主義のもたらす弊害とも捉えうるわけです。いずれにしても、こうした不安定要因をなるべく縮小していくというところが大事でしょう。
考え得る対策の一つは、ベーシックインカム等の制度の導入です。例えば日本ならば全ての個人に毎月7〜8万円を配るなどです。
もちろん日本だけで済む話ではないのですが、なんらかの方法で経済的なバランスをとっていく必要があるでしょう。
資本主義がすぐに変わらない以上、当面は重要なことになりますし、何らかの制度でリスクを抑えていく必要があると思います。 >>474
そして、極めて悪い結果の確率、Existential Riskの確率などはどうやって計算すべきか以前考えていた時があります。
人類絶滅能力を持っている意志決定主体の数が計算できると、それによって人類が何年生きられるか半減期が計算できるわけです。
例えば人類が100万人いたとして、何パーセントの人がそのスイッチを推したいと思うかです。
単純な計算は当然できるのですが、そういうのも抑制する因子とか、ボタンを押そうとしても止めようとするものとかを沢山作っていくことになると思うので、それも含めるとその方向では確率を計算するのは難しいかもしれません。
一応できるけれど、それでいいのかどうかわからないといったところです。 >>475
11. 人工知能の安全性について研究したり、人工知能と人的価値の標準を同じくしたりすることは時期尚早だと思いますか?
人工知能の構成を知らなければ、それを安全な仕組みに設計をすることは難しいとされています。人工知能の安全性について有効だと思いますか?
11 の答え:山川さん
全く時期尚早とは思いません、急いで進めるべきだと思います。以前より技術発展が加速度的状況にあることはカーツワイル氏らも言う通りです。
人間の直観は基本的には線形的なので、指数関数的変化の真只中においては必ずしも正解に近くない可能性があります。
またこの様な大きな不安を抱える状況においては、人間には心理学で言う「正常値バイアス」というのが働きます。
これは「今まで大丈夫だったからきっと大丈夫だろう」と思ってしまうもので、普通は正しくて有効なのですが、今回の場合には正常値バイアスがあるということを差し引いて考えておくべきでしょう。
できれば、汎用人工知能がもたらすExistential Riskを計算する何らかの方法があると良いのかと思います。
一つは、宇宙物理学におけるフェルミのパラドックスを手がかりにする方法です。
これは私達人類がエイリアンにまだ出会っていない事実と、惑星上で生命が誕生しそれが知的に進化する確率から計算すると、知的生命体が技術発展の末に絶滅する確率を計算することもできるというものです。
ただ、この方法ですと単に悲観的な結果が得られるだけで、私達が何をすべきかの指針は得られません。
先に述べたような、人類絶滅能力を持つ意思決定主体の増加の面から考えたほうが良いかもしれません。 >>476
13. 多くの知識人が、日本は自動化を推奨していて、西欧諸国に比べロボットを好意的に受け入ていると言及しています。
日本における人工知能に対する見方は西欧諸国と比べて違うと思いますか? その場合、それはどう違いますか?
英語話者のあいだでは、優れた人工知能・技術的特異点・人工知能の安全性について活発に議論されています。日本ではどうでしょうか?
13 の答え:山川さん
倫理を含む人間性の点から見れば、私達が同じ人間である以上、洋の東西を問わず、総じて共通点のほうが多いことを前提とすべきでしょう
日本の文化的背景を人工知能観点からみると、いわゆる八百万神(やおよろずのかみ)という森羅万象に精霊や神が宿るという信仰は大きな影響も持つと思われます。
つまり生き物と人間の間の境界が比較的曖昧ですし、その延長線上で人工知能やロボットとの境界も曖昧になっています。
ですから、昔から、『鉄腕アトム』や『ドラえもん』などのアニメにおいてロボットと共に生きる世界観は一般大衆に受け入れられています。
ちなみに東京には世界の様々な料理のレストランがありますし、そうした意味でも多様性を受け入れる文化なのかもしれません。
実は多様性を許容することは、Existential Riskを減らす有効な手段となりえると考えます。明らかに現在は科学技術が指数関数的に進展し、それに伴い変化が加速しているわけです。そして変化を乗り越える力の源泉は多様性です。
先程EcSIAを紹介した際に触れましたが、これからは、人工知能と人間だけでなく様々な形で人間と人工知能が融合した形も現れてくると思うのですが、こうして多様性を拡大しておくことは、生き残る確率を高めるでしょう。
ただし多様性は生存確率を高める一方で大きな犠牲が伴います。つまりどの選択肢が生き残るのかは、予めわからないし、だからこそ多様性の意味があるわけです。
できれば、こうした犠牲を伴う多様な選択肢へのチャレンジを、うまく人工知能が先回りしてくれて試してもらえるならば、私たちの痛みを減らしつつ人類を生存させ続けることも可能になるかもしれません。 >>477
存在すべきものの多様性に関わる議論をさらに極端に推し進めると、「私たち人類は未来の宇宙にむけて何を残すべきか」という問に辿り着きます。
極めて個人的な見解とはなりますが、私としては「存続する知能」こそが、未来に残すべき何かだと思います。
私達が進化の荒波を超えて、今こうした知能社会を作り上げたことは非常な幸運です。そうであれば、知能それ自体に保存する価値があると考えることもありえます。
もし私達が、地球外の知的生命体と接触し、その後において共存する時代を迎えたなら、私たち人類はそうした生命体の存続についても配慮することになるでしょう。
そうなれば、将来において私たちにとって重要な価値は、人類自身の存続から知性の生存に拡張される可能性が高いでしょう。
一旦、人類の使命として「存続する知能を宇宙に広める」と仮定してしまえば、Existential Riskを回避しうる選択肢は大幅に広がります。
宇宙に進出して知能を受け継ぐものの候補は人類以外の、人工知能、遺伝子改変された動物、知能の種となる細菌やウィルスなどが考えられるかもしれません。
一例として、宇宙でも冬眠して行き続けられるクマムシに、好環境で一万年ほど進化すれば人間レベルの知能を生み出せるような遺伝子を組み込み、宇宙に拡散したとします。
すると多くの惑星上で、1万年に1回シンギュラリティが起こります。文明がシンギュラリティを超えられる確率がかなり低くても、それ以上に多くの星でシンギュラリティが起これば、やがて何れかの星では成功するかもしれません。
私達が宇宙初でこうした事業に成功すれば、私達人類の功績は宇宙の寿命に近い時間スケールで歴史に刻まれることになるでしょう。
ただこの際には、私達人類の業績を伝える何らかの記録を残すことを忘れてはいけませんね。 >>479
直接的な意味では人類を置き去りにしてしまいましたが、人類ももちろん、生身の人類だけでなく、クマムシのように宇宙で冬眠できる人類や、人工知能にアップロードされた人類など、選択肢の幅を広げるほどに、生存確率は増大するはずです。
何れにしても今後さらに、技術的な選択肢は増え続けますが、何を存続させたいのかという価値判断こそがExistential Riskを制御する大きな要因になりえます。
一方で人を超える人工知能の出現は、「知性の高さを理由として特権的な存在意義を人類に与える」という主張を破壊するという形からも私達の価値観に大きな影響を与えます。
この状況は逆に、本当に次世代に伝えるべきものは何であるかを私達が自問するチャンスが与えられていると見ることもできます。
リチャード・ドーキンスは、「生物は遺伝子の乗り物」と考えましたが、同様に「脳は知性の乗り物」に過ぎないのかもしれません。
多様性を受け入れる日本人の文化的特性は、こういった選択肢ですら受け入れうる素地があるのではないかと考えています。 >>479
>>478のミス
14. 日本はかつてCD・VHS・DVD・新幹線・LCD・デジタルカメラなどの最先端技術と同義でしたが、中国や韓国などの経済の急成長に伴い、日本経済は停滞し、世界経済に占める割合は小さくなりました。
しかし、日本には世界でも最高レベルの研究者やエンジニアがいます。日本が再度技術革新をけん引する原動力となるためには何ができると思いますか?
14 の答え:山川さん
WBAIでは、人類と調和する人工知能の開発をめざしています。しかしながら、人情として、ある国に属する人は、人類全体よりもその国の人々を大事と考え勝ちです。
これは、人類が知的クマムシよりも人類が大事と考える傾向があるのと同様でしょう。
当然ながら企業や政府関係者などを含め多くの日本人は、この変化の中でどう人工知能技術を発展させてそれを活用するかという事に心を砕いています。
日本にとって決め手となるような戦略は簡単には思いつかないですがいくつか思うところを述べてみましょう。
最初に、少なくとも不利にならない点をのべておきましょう。実は近年の機械学習、深層学習は、ほぼほぼ数学ですので基本的には言語の壁がありません。
深層学習が世界をセンサ情報を通じて認識するために英語を用いる必要はないのです。しかも最近は論文を読むときに機械翻訳をつかうと殆ど読めてしまいます。
実は2000年台の日本は圧倒的に不利でした。残念な例として、日本ではソーシャルネットワークといえば日本発のMixi(ミクシィ)という時代がありましたが、世界との競争で負けた結果、今やみながFacebookを使っています。
今回の機械学習を中心とした人工知能の研究開発では、伝統的に数学や理論物理学に強みがある日本の研究者や技術者にとっては力を発揮しうる場面でしょう。 >>480
関連してよく言われていることですが、日本はネット上のITよりも、技巧性が活かせるモノづくり的に強みがありました。
人工知能がモノを操作できるようになった今、日本の技術者の技能を効率的に人工知能に転移することで強みを築きうると考えています。
これはドイツのインダストリー4.0と近いアプローチです。その特殊な例として「食×AI」を提唱しているのが先程の松尾豊氏です。
何故なら日本は世界中から多様な料理を輸入してさらに美味しく発展させており、特に首都の東京などは、この点で抜きん出ています。
これを支える農業などにも人工知能が導入される中で、こうした日本人の感性を活かせる領域は期待が持てます。
次に、やや逆説的ですが、日本はある意味での課題先進国と言われています。特にいずれ世界のどの国でも起こりうる高齢化問題が世界で最初にやってきます。
ロボットによる介護などの人に寄り添う技術、パーソナライズされ予防医療、健康管理のためのウェアラブルデバイス等の市場が拡大し研究開発が進むでしょう。
並行して労働者不足が生ずるためにロボットを受け入れやすい状況も加速します。これを起点に人工知能の関連技術を蓄積しうると思います。 >>481
最後になりますが、今後の世界においては、汎用性と自律性を備えたスーパーヒューマンインテリジェンスに向かって人工知能の開発が進むに連れて、人類がそれらを制御するための国際的な体制が構築されることになるでしょう。
もちろん個別に人工知能開発が行われてはいても、その開発ガイドラインや開発や運用基準が具体化され、その挙動をモニタするための人工知能も多く存在することになるでしょう。
そして国や企業などを含む国連のような国際組織が、こうした人工知能の全体を管理する展開が予測されます。
こうした流れの中で、日本は人工知能管理の常任理事国になって行けるように、技術力と倫理観を同時に高めることで、世界から見て日本は信用できる国だと思われることが重要ではないかと考えています。
もしかすると汎用人工知能は、ある天才が一夜にして完成してしまうかも知れません、そういった時に最初に相談したい国が日本であってほしいとおもいます。
そして全脳アーキテクチャ・イニシアティブ(WBAI)は、そうした動きを支える組織でありたいと思っています。
<<<<おわり>>>>
This interview transcript was prepared by Mamiko Matsumoto and Kazue Evans.
インタビューの日:2017年04月05日(水) >>473
山川先生はAGI完成は早ければ2023年と考えてるんですね、めっちゃ早いですね。。
そして、一度人間並みのAGIが出来ればそこからの進化は一瞬だと。。
まさにシンギュラーな進化。
AGIがAGIを生み、育てることで爆発的に進化する。
人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思うか?
答え:山川さん
コンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきた。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思う。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大する。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れない。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担える。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
汎用人工知能完成の時期
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としている
山川先生個人としては早ければ2023年頃
WBAI関係者の意見の平均は2030年頃
カーツワイルの予測は遅すぎる
カーツワイルは2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしているが、私は、上記のような理由から後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測している。
カーツワイルの16年間という予測は不自然に思う。
その点についての疑問をあまり見かけないことに不思議さを感じている。
この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれない。 カーツアイルにしろWBAIにしろ量子コンピュータはほったらかしかい? >>481
やっぱ日本は観光大国になるべきだな
それしか道が無い気がする。 AI、AGIに量子コンピュータが加わればまさに鬼に金棒
想像もつかない世界だ
しかし2023年は早すぎない?
そして一度AGIが開発されると一瞬で爆発的に進化するのであれば、その国、組織、ひいては個人以外は二度と追い付けない、絶望的な差が生ずる事になる
よく松田先生が仰ってる事だけど、日本は絶望的だ
ただ、山川さんたちWBAIや金井さんたちアラヤが希望だ
なんとか頑張ってもらうしか。。 ■ このスレッドは過去ログ倉庫に格納されています