(強いAI)技術的特異点/シンギュラリティ128
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド。
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点。
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則。
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
https://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
https://goo☆.gl/RqNDAU
※URL部分をコピーし、☆を消してペースト※
※前スレ
(強いAI)技術的特異点/シンギュラリティ127
https://rio2016.5ch.net/test/read.cgi/future/1530234247/
(強いAI)技術的特異点/シンギュラリティ126
https://rio2016.5ch.net/test/read.cgi/future/1529408476/
(強いAI)技術的特異点/シンギュラリティ125
https://rio2016.5ch.net/test/read.cgi/future/1528603775/ >>377
公立中学とか底辺の奴はどうでもいいのだが、
講演で俺以外の聴衆はその経済産業省の
役人の話をマジメに聞いていることには
びっくりした。
やっぱり肩書きの力はスゴイね。
俺には役人のつじつま合わせの与太話にしか
聞こえなかったが。 矛盾を指摘したとかニートの妄想だろ
実際やりとりの記録でも挙げてみろ
現実で勝てないからと言ってネット上で自分勝手な妄想を炸裂させる ダニング=クルーガー効果とは、知識がない人ほど自信があるというものだけど、あのグラフには他の意味があって、
一番自信がない時期において、その分野を予測するとき、その道の専門家よりも長けた予測をすることが多いという結果が出ている。
つまり、自信とは大なり小なりバイアスを生んでしまう。
そして、専門知識しかない専門家より、広く程よい知識を持った人の方が予測という面では優れているという記事を見たことある。
だから、俺たちがこのスレで協調して謙虚に予測するなら、優れたものができるということだよ このスレには何でもニートって決めつける奴がいるな。
よっぽどそいつは権威主義者なんだろうな。 >>380
ダイソンスフィアを基軸にした生活圏と
恒星間航行が可能になり資源が実質タダになる >>373
Pythonはc++やJavaに比べて数倍楽。遅いけど。 >>380
それはすごく共感できる。
例の役人も汎用の人工知能なんか馬鹿にしていたし、
結局自分の役所の殻の中の専門家という感じで、
視野がものすごく狭いと感じた。
消費税増税をすればいいと考えている財務省の役人と同じ。 役人は妄想ばかりしてるニートと違って現実を重視するからな
失業率が安定してるいじょう
ハイハイは約お前もハロワ行けで終わる話 俺は在日朝鮮人だから孫正義とか嫌いなんだけど、
確かにあの男は先見性はある。
戦後のドサクサで密入国してきただけあって
リスクをとる能力も優れている。
比較して、日本の大企業は内部留保ばかり溜め込んで
リスクをとる事が出来ない。 >>375
汎用ＡＩ開発を目指すディープマインドが現にあるし
日本だって金井先生のアラヤがある
それなのに「空想」と切り捨ててしまう所がなぁ >>385
俺がニートなら、お前は認知症のボケ老人だろう。
介護施設で自分のウンチを壁にでも投げつけていろよw >>386
孫正義は在日３世
密入国は親父さんの話 最近はリコールが多くて
内部留保ないと不具合1発で倒産だから何とも言えないな PEZYは来年、世界初のエクサスケールスパコンを開発するだろう(o^－^o) 限りなく食料とエネルギーが
安くなってくれればそれでいいよ >>391
よう人種差別主義者！( ・`ω・´)
在日朝鮮人ってだけでろくでもないの扱いとは…( ・`ω・´)
反省しなさい！( ・`ω・´) 一般人「シンギュラリティって何だろうなあ」検索ｸﾘｯｸ
5chスレ｢ﾆｰﾄｶﾞｰ､ﾐﾝﾅﾑｼｮｸｰ」
一般人「あっ（察し」 技術的特異点を起こすのは米中のどちらか
日本は蚊帳の外
だから喧嘩しないで
没落国家の国民同士仲良くしなさい ない
そもそも起こせないのだから
意味があるない以前の問題 自動化を進めることで生活が豊かになるならそれ（技術的革新）を進めない理由がない
実際に仕事を機械化して低コスト化と量産を進め私たち人類の生活は豊かになり続けてきた
物理的な労働だけでなく知能労働を自動化しようとする動機、其の究極系が汎用人工知能だ まだ韓国の方が可能性が高い
日本？
ろくなスマートフォンも作れないくせに 産業革命にしてもある瞬間に起きたわけじゃないからな
シンギュラリティを起こす起こす言ってるやつはカルト宗教臭くてかなわんわ 日本人はアメリカに寄生しておこぼれを期待しなさい
寄生虫らしく https://twitter.com/_Ryobot/status/1017315240399331328
>TransformerのKaiserらが新しいTransformerを提案し，質疑応答のbAbI (joint) を史上初全タスククリア
＞機械翻訳のWMT英独でSOTAを達成！
＞通常RNNはシンボルを1つずつ再帰的に処理するが
＞Universal Transformer は全てのシンボル列をまとめて再帰的に処理する．
ユニバーサルトランスフォーマー
https://arxiv.org/abs/1807.03819
transformarモデルの改良版
言語の特徴量ベクトルにタイムステップとポジション(時間間隔と位置情報)を付加した上で
1つ１つのシンボルではなく、全てのベクトルを再帰処理に回す手法
重要なのは全ベクトルを再帰処理に回すのと、タイムステップとポジションを付与してること
以前からこのスレを見てたやつなら分かるだろう
これは俺がこのスレで4月から語っていた音声変化率ベースと同様の手法
時間間隔と位置情報を波形に置き換えれば、その2つが示すのは時間的位置変化率だからな
音声波形に置き換えれば、それは音声変化率ということになる
ユニバーサルトランスフォーマーではこの2つを特徴量に付加した上で
全ベクトル(事実上、上限無限のベクトル)をRNNのように再帰処理している
この全部を考慮させるってのも俺が散々主張してた方法
一応自分で実装出来るように勉強してたが、やはりわざわざ俺がやる必要性はなかったな
あとはこの手法を応用した音声対話形式のAGIの登場を待つばかりだ
基本的に人間の脳みその中で言語情報は音として成り立っている
ただ音でこれをやると出力がくっっそ重いから
特徴量にタイムステップとポジションを付与するこの手法で擬似的にやるしかないかもな Transformerモデルでは特徴量に付加してるのはポジションだけだったが
タイムステップをこの改良モデルから付与するようになった 汎用人工知能を開発した国家、あるいは機関、または何らかの集団は周辺の集団より常に優勢を保ち続けることができる。そしてその優勢・劣勢は一度起こると二度と覆す事ができない
と云うのも一度汎用人工知能の稼働が始まれば人間の数万倍という速度で知能労働を遂行可能だからだ
汎用人工知能に科学技術を研究させそれら技術を陸海空兵器、電子戦兵器へと転用できる
その気になれば他国へ侵略して圧倒的な科学力の差で蹂躪することも可能だろう
侵略する気がなくても、科学力を背景に経済的に他国を搾取・植民地支配することさえ可能だ >>404
ニートは社会からのおこぼれに期待せず自力で行きなさい
税金にたかるなゴミ >>402
韓国は北朝鮮に飲み込まれる
韓国の民意がそれを望んでいる
それを見越して
トランプは在韓米軍の撤兵を企図している >>407
こういうのも斎藤とか三橋いう犯罪詐欺師が金集めるための方便だったよな
まるで具体性のない話じゃん >>403
いや、瞬く間に拡散するだろうね
スマホは登場後１０年未満で全世界に普及した
テクノロジーの進化発展スピードは産業革命当時と比べ物にならないほど早い 笑わせないでくださいよ
日本人は本当に頭が足りてませんね >>410
誰彼ともなくニートだと難癖をつけ
ウンコを投げつけてくるお前は全く具体性皆無じゃん
ばーか、ゴミ 厳密に言えば、人間の脳の初期状態を再現するなら音声変化率のみを与えれば良くて
言語情報を付加する必要性はない
人間の脳みそではそのようになっていて、文字の形のような視覚情報は基本的に後付で付加されるわけだからな
ただ結局、それが相互に絡み合って言語情報が体系付けられていくわけだから
いずれ視覚情報(画像情報)は入力される必要がある 日本人は面倒ですね
疲れます呆れます
世界の我々が笑っています >>411
テクノロジーの発展を測る客観的尺度でもあるのかよニート？
お前みたいな幼稚なｶﾞﾝﾎﾞｳばかり垂れ流してるニートが社会出会いにされない理由を考えてみろ まるで幼稚園児の会話みたいだ
自分は大人だからもういいです
呆れます >>410
アメリカもロシアもgoogleもアリババもソフトバンクもぜーんぶ詐欺師
世界中詐欺師だらけだー
この世界はぜーんぶ嘘だぁだな >>418
グーグルがこんな中学生の妄想みたいな発言したとしたらソースをくれニート >>418
ホログラフィック理論が正ならその通り
シンギュラリティ直前でブレーカーが落ちる >>411
毎日毎日、
具体性皆無のニート叩きに明け暮れるキチガイに付けるクスリはねぇよな
結局、お前みたいな汚いウジ虫野郎の頭はその程度のボンクラなんだわ
サメの脳みそ、ニート叩きのシャブ中め http://i.imgur.com/HbGdKPV.jpg
こんないい加減なグラフ
これをテンプレにしてたアホニートが集まるスレ
前スレもニートのアホな妄想で埋まった >>416
>テクノロジーの発展を測る客観的尺度でもあるのかよニート？
収穫加速の法則、がそれだろ
これは歴史的事実だ >>423
それトンデモ理論じゃん
科学的根拠なしのただの願望だよ >>422
これまでの経緯は歴史的事実だろ
それさえも否定するニート叩きのシャブ中野郎
さすがウジ虫が湧いた頭を持つキチガイは言うことが違うね >>425
これまでの経緯も否定するの？
それこそお前の現実無視の願望 >>426
縦軸の数字は何を根拠にしてるかって言ってんだよニート
話の通じないニートだな >科学的根拠なしのただの願望だよ
これまで人類がたどってきた歴史さえも否定するアホ
ただのバカ、ただのクソ、ただのキチガイ
それがお前だよ、ニート叩きのゴキブリ野郎 >>428
縦軸の数字の議論なんて本筋じゃねぇだろ
木を見て森を見ない馬鹿者だわ、お前 >>430
じゃあ収穫加速なんておきてるなんてのはただの妄想だと認めたんだね
えらいぞニート >>431
全てがニートに見えるお前こそ妄想亡者だろ
死ねよ、ボケ 経済産業省「嘘だ嘘だ嘘だ。汎用AIができるなんて、そんなの絶対嘘だ」
「何を、君が何を言ってるのか分かんないよ。」
「無理だよそんなの。見た事も聞いた事もないのに出来る訳ないよ」
「逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ、逃げちゃ駄目だ...」 >>420
それ面白いね
「あ～あ行き過ぎちゃったなこのゲーム」 時代が下るにつれて誰でも生きやすい社会を目指している。
弱肉強食論を掲げるのは動物的思考でしかないだろう。
俺は吃音症で、必要最低限なことすら筆談で話すんだけど。（無理やり喋ろうとするとみっともないことになる）
字幕で喋れる時代っていつ来るかな？
今でもやろうと思えば、会議やプレゼンでも合成音声ソフトを使って「山口ですけど…」としゃべれなくもない。
VR的な感じで街を歩きながら字幕で喋れるなら不便を感じなくなるんだけどな。 著者のMostafa Dehghani, Stephan Gouwsって
両方共グーグルじゃん、ってことは現状Transformerなgoogle翻訳も
もうすぐユニバーサル化するわけだろ
盛り上がってきたわ～
後は量子コンピュータだけだな
AGIのベースは出来上がったといって過言じゃない
後はユニバーサルトランスフォーマーを使ってりんなみたいなチャットボット作ってみろよ
やべーことになると断言するぜ >>396
”シンギュラリティ”を検索して真っ先に5chスレを覗くのか...(困惑) 経済産業省は量子コンピュータすらも視野に入れてないのだろうか？
こっちは目の前に迫った現実だ
どう考えてんだろ？
経済産業省「何も考えていません。思考停止中です。」 お前ら何だかんだ日本に成して欲しいんだな
俺なんて分散して欲しくないからこのまま黙ってて欲しいとしか思ってないわ
ただでさえ米中で分かれてるのに日本までエントリーしてくんなよって まぁ、如何なることにも期待せずに、目の前の人生をコツコツ生きれば、
勝手にシンギュラリティ起きてると思うよ。 >>439
馬鹿だから日本がシンギュラリティを`起こせばこのままニートできるとか考えてんだろ
全部都合のいい妄想でしかないんだがな >>435
レジとか、ボイレコに固定音声入れておいて、
お客さんとのコミュニケーションを極力無くしてる人いたよね。 >>440
働かずに一発逆転ばかり夢見てるこのスレのニートには馬の耳に念仏 >ID:a58qu6/d
>ID:HPq9l1A4
日本語不自由なチョンが2匹いる笑笑
文句あるなら自国のBBSにこもってろ ニート煽りはともかくそれに毎回反論してる奴らは何なんだろうな
このスレって本当に頭悪い奴しかいないの？ 自分は頭良い！と思い込んでる者ほど頭悪いんだよねー
誰とは言わんけど >>447
頭悪いやつって皮肉やジョークも下手だよね
誰とは言わないけど >>446
そりゃ働きたくなくて仕方ないだけのやつが集まる場所だし >>450
相変わらずバカ丸出しｗｗｗ
現実でもネットでも馬鹿にされ続けてきてくやしいか？おい 【コテ歓迎】統合失調症（旧精神分裂病）雑談スレ★7
http://krsw.5ch.net/test/read.cgi/mental/1530716091
ID:a58qu6/dはここ逝け
仲間がたくさんいるぞ >>420
この世がよくできた仮想現実だとしたらブレーカーが落ちるんじゃなくて
光の速度は越えられないやらエンタングルメントみたいに
シンギュラリティを起こすことはできないみたいな説明不能の理不尽な法則があるんだと思う ＡＩで土壌データ管理
農家、最新設備の効果確認
http://www.saga-s.co.jp/articles/-/245600
富士山がIoTだらけに。登山ルートの気温・混雑度もウェブで一目瞭然
https://www.msn.com/ja-jp/news/techandscience/
富士山がiotだらけに。登山ルートの気温・混雑度もウェブで一目瞭然/ar-AAA2egD?li=AA4ZoD&ocid=spartanntp
ドローンvs.ドローンのドッグファイトが実現！ 対戦用小型ドローン「X1 FPV」発売
https://www.zaikei.co.jp/releases/654901/
2030年、世界最大の都市圏は？
https://www.msn.com/ja-jp/news/opinion/2030年、世界最大の都市圏は%ef%bc%9f/ar-AAzZDdR?ocid=spartanntp#page=2
総資産１京円以上!?歴史上もっともお金持ちな人物15名 ビル・ゲイツで１２位
https://www.msn.com/ja-jp/money/news/IRIS/ss-AAjoXmt?ocid=ems.display.edge&;ccid=cfc273cad09f4bedaa37385cab0505b7#image=14
中国の大学入試の成績を欧米の大学が重視する理由とは？―中国メディア
https://news.infoseek.co.jp/article/recordchina_RC_624331/
→中国の学生の学力は高いと欧米評価
米中貿易戦、低姿勢に転じる中国 米への刺激避ける
http://www.epochtimes.jp/2018/07/34735.html 顔真っ赤で(仮想)ニートにマウント取るのは気持ちいいか？ 南極地下で観測されたニュートリノが39億光年先のブラックホールから飛来したものと判明
https://gigazine.net/news/20180713-south-pole-icecube-neutrino-detector/
「消費電力３分の１」５Ｇ基地局の研究開始 総務省と名大など
http://www.sankei.com/smp/economy/news/180713/ecn1807130037-s1.html
これは本当にすごい発見。血小板は寿命が大変に短くて、献血で得たものもたった４日しか保存できず、輸血には膨大なコスト(1回10万円)がかかってた。
新技術でiPSから血小板を自由に作れる時代となれば、医療費を削減して、救える患者も増えると思う。早く実用化されてほしい。
ｉＰＳから高品質の血小板を作製 「献血と同等」レベル
https://www.asahi.com/sp/articles/ASL7F4WNLL7FUBQU00R.html
https://twitter.com/SatoruO/status/1017894211067277312
核融合研究所に高性能スパコン
https://www3.nhk.or.jp/lnews/aomori/20180711/6080001563.html
池田佳隆所長「実験をうまく進めるのに欠かせない予測のための大きなツールが導入されたので、しっかりと期待に応えていきたい」
セラピスト並みの性能、個人の感情に応じるロボ用ＡＩ
https://newswitch.jp/p/13697 日本人は本当に素晴らしい民族だよ。
一部の意地悪な人も無知なだけで皆根は優しいよ。
これは人類全てに言えることだけどね。
別に日本人がシンギュラリティを起こしてもいいじゃないの。 フリーメイソンは確かに存在しています。貴方の心の中です。 >>458
「六ちゃんー２」の性能はどの位何だろ
↑
ネーミングベタ過ぎ 地球上で最も寒い気温「マイナス98度」 南極で記録
https://forbesjapan.com/articles/detail/22050/1/1/1
北半球では夏の暑さが本格化する中、南極では地球とは思えないほどの寒さのマイナス97.8℃という史上最低気温をマークした。これは人間が数回呼吸しただけで肺から出血して即死するほどの気温だ。
これまで最も低い気温だったのは、1983年に南極点に近いロシアのボストーク基地で記録されたマイナス89.2℃だった。
5Gが切り開く未来の展望 ～パートナーの強みを融合させた世界～
AIフォーラムレポート
http://www.asahi.com/dialog/articles/11659618/
次世代の通信技術「5G」。NTTドコモ5G推進室の中村武宏室長は、議論は「超高速・超大量接続」「超高信頼」「超低遅延」の3つのケースにまとめられると言います。
同社が実施しているオープンパートナープログラムを通じたトライアル事例について、ご紹介いただきました。
人間の努力無意味に？AI自動運転車、20分で技能習得「強化学習」の凄さ
https://jidounten-lab.com/w_4103
AI（人工知能）の研究開発を進める英ケンブリッジ大学の研究チームが創設したスタートアップ企業「Wayve（ウェイブ）」が、AIの深層強化学習を活用し、20分足らずで自動運転車に車線を守って走行するよう学習させる取り組みに成功した。
自動運転車が道路を走行中、ドライバーがハンドルで走路を補正したりブレーキを踏んだりしたときはマイナスの報酬を与え、上手に道に沿って走ったらプラスの報酬を与える仕組みで実験を続けた結果、わずか20分足らずの走行でAIは車線を守って走行することを学んだという。
強化学習は、走行しながら刻々と変化する状況を検知し判断しなければならない自動運転の分野において有効とする専門家も多く、今後飛躍的に研究開発が進む可能性がある。 【新】知っておくべきAIの最先端、「汎用人工知能」とは何か
https://newspicks.com/news/2300393
有料記事ですがコメントから
『AGIは、AIの実用性に関わる段階的な技術目標なので、必ずしも「人と完全に似ている」ことを要求しません。
ですからその目標に「心を持つ」「意識を持つ」という要素は含まれない』
続々と社会・ビジネスで使われ始めているのは、個別の領域で知的に振る舞うことができる「特化型AI」です。
一方でAGIは、経験を通じて多様な領域の課題を解決する能力を獲得できる「汎用的な人工知能」のことを指します。
一方で、「貧しくても住民が働いている地域のほうが治安が良い」という傾向は昔から指摘されていることです。
ですから仕事以外の形で、人々が「社会の構成員としていかに自分の居場所を探してゆくか」といった問いが重要になってくるでしょう。
そうなると、仕事の以外の場における「尊厳」とか「存在意義」といったことが、人間には大切になってくるかもしれない。
・お金の役割として残されるのは「人々やAIが互いに評価しあうための指標」という側面ではないかと思います。
将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなるでしょう。
・今でも、我々は自然界を支配できないという現実の中で、自然とうまくつき合っていかなければならない。
AI界も一緒で、何もかも人間が支配するのではなく、ゆるやかにコントロールすることが大事だというのが私の考え方なのです。 >>464
これが、一番インパクトのあった一言。思ったより早いようだ。。。
入山 山川さんの見立てでは、AGIはいつごろできそうですか。
山川 具体的には2030年ごろを目標にしていますが、もっと早く完成する可能性もあると考えています。
カーツワイルの予言は遅すぎる
古代ギリシャやローマで奴隷に労働を任せ、自由市民は余暇で哲学などに励んだ時代が、AIに労働を任せるという形でまた訪れる。「お金のためだけに働く」という考え方はその頃には意味のないものになる。
情熱を傾けられるものを見つけた人や、目の前のことを夢中で楽しめる人が生きやすい時代になりそう。
「いずれは私たちみたいな人工知能研究者も、AGIに仕事を奪われてしまうでしょう」
「仕事をしなければいけないという価値観が、いまほど重要ではなくなるのは間違いない」
「これまで主流であった「お金を稼ぐために働く」というタイプの価値観では、精神の安定が保てなくなるかもしれない」
「仕事以外の形で、人々が『社会の構成員としていかに自分の居場所を探してゆくか』といった問いが重要になってくる」
「将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなる」 >>465
【入山×山川】人類の次のテーマは「いかにうまくAIに負けるか」
https://newspicks.com/news/2300396
【入山×山川】人間の脳を模倣し、超えていく。AIの近未来とは
https://newspicks.com/news/2300398
【入山×山川】「AI開発レース」に勝てない日本が生き残る秘策
https://newspicks.com/news/2300400
・AGIは「様々な領域のことを基礎知識からAIが自然学習する」ことを目指している
・そのためには、神経科学者をこの分野に巻き込むことが必要
・しかし、20年以上にわたる長い「AI冬の時代」があったために、50歳以下の世代があまり育っていない
・そこで、単に開発レースに勝つことでなく、「人類と調和する人工知能のある世界」の実現を目指すという、より高いレベルのビジョンを掲げる
・「全脳アーキテクチャのオープンな開発を促進する」ことをミッションとする
・「専門知識」「社会への影響の見識」「共同でAGIをつくる意識」の３分野に取り組む シンギュラリティサロン＠東京＃26 + ジャパンスケプティクス
http://singularity.jp/20180311-2/
２０１８年３月１１日（日）に開催された、シンギュラリティサロン＠東京（第26回公開講演会、ジャパンスケプティクスとの共同開催）の動画です。
https://youtu.be/Oe2uxni240M
スケジュール
13:30-14:30 講演１「なにわのシュルレアリストによるAIとアート」中野 圭（シュルレアリスト、大阪芸術大学 芸術学部 アートサイエンス学科 准教授、Facebook: 中野 圭 ）
【概要】
ICTが世の中に普及してから20年程経っており、最近ではAIの実用化についてもニュースなどからも伝えられている。深層学習、機械学習などの統計的な手法についてもユーザーレベルで利用できるツールについても幾つか紹介がなされている。
今年度はAIとアートをテーマに研究を行ってきたこともあったので、最新の技術動向とその活用例について発表する。
ボーカロイド技術の研究の中で10数年前から現在のAI技術の研究開発と作品制作を行ってきた経験からシュールレアリスム（超現実主義）がICTからAIまでを網羅したメディアアートにおいても有用であり、
梅田駅などヨーロッパ諸国の地下鉄と遜色ない景観を保つ大阪において、「なにわのシュルレアリスト」を名乗る意義についても熱く語る。 >>468
14:35-15:35 講演２ 「人工知能に美意識は芽生えるか」 中ザワヒデキ（美術家、人工知能美学芸術研究会 発起人代表）
【概要】
現今の「人工知能が創作した芸術」とされているものは、その殆どが、人間が人工知能という道具を使って制作した代物でしかない。
真の意味で「人工知能が創作した芸術」はまだ存在していないどころか、真の意味での「人工知能の創作」も、さらには真の「人工知能」さえ、未だ実現はなされていない。
しかしながら、いったん目的が他から与えられ、フレームが定まれば、アルファゼロは人智を越えた結果を出す。
人工知能が自ら目的を見つけ出し、フレーム対処能力を上げることができるなら、真の意味で人工知能が芸術を創作することが理論的には可能となるのではないだろうか。
今回の演題「人工知能に美意識は芽生えるか」は、沖縄科学技術大学院大学（OIST）にて本年1月8日まで、世界初の総合的なAIアート展として開催されていた「人工知能美学芸術展」が、テーマとして掲げたものである。
同展では「Ⅰ：人間美学／人間芸術」「Ⅱ：機械美学／人間芸術」「Ⅲ：人間美学／機械芸術」「Ⅳ：機械美学／機械芸術」の4つのカテゴリーを設定し、私を含む展覧会の企画者は、まだ実現されていない「Ⅳ」を希求するとした。
15:35-15:45 【休憩】
15: 45-16:45 パネルディスカッション「AIでアートはつくれるか」
パネリスト：中野圭・中ザワヒデキ・松田卓也（神戸大学名誉教授）・高橋昌一郎(國學院大學教授、司会）
主催
シンギュラリティサロン
共催
JAPAN SKEPTICS、株式会社ブロードバンドタワー AIに規制かけるなら今しかないだろうなｗ
これ以上行けば量子コンピュータと結びついて爆発的に進化するぞ >>467
ドワンゴ人工知能研究所の所長の山川宏とのインタビュー
https://futureoflife.org/2017/10/12/ドワンゴ人工知能研究所の所長の山川宏とのイン/
6. 汎用人工知能（AGI）が社会にもたらす最大の便益は何だと思いますか？
６の答え：山川さん
汎用人工知能のもたらす最大の便益は、科学技術の発展を加速し、それによって得られる波及効果ででしょう。環境に対するコントロール、食料問題、宇宙進出を加速することなどです。
先に述べたように、自分たちがもつ攻撃力の範囲よりも人類の生存領域が大幅に広ければ、Existential Riskを大きく抑制できる可能性があります。
そのため、私の思いとしては、できれば人工知能の利用は宇宙進出に重点を置くべきと考えています。
ここではひとつ、私が以前に考えた未来像について紹介しましょう。
EcSIA： AIと共存する望ましい未来社会像
私が思う，望ましい未来像とは 「万人の幸福」と 「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．
こうした未来社会では共有財産としての多様な人工知能と，時に拡張された人類によって生態系が形成される．
私はこれをEcSIA (Ecosystem of Shared Intelligent Agents )と呼ぶことにした．
EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する．そしてEcSIA が生み出す恵みや富は万人に分配される．
（山川, 2015年７月）
7. AGIがもたらす最大のリスクは何だと思いますか？
７の答え：山川さん
最大と言うことになれば、先ほどお話しましたように、人類絶滅能力をもつ意思決定主体の増大がもたらすExistential Riskかと思います。 >>471
8. 私たちの進歩を侵害する世界規模の惨事はないと仮定して、次の10年・2040年ごろ・2100年ごろのhuman-level AGI（人間の知能レベルの実現を目指す汎用人工知能）完成の可能性はどの程度であると思いますか？
８の答え：山川さん
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としています。
カーツワイル氏が「2029年に人間レベルができる」言っていることはよく知られているかと思いますが、大体それと同じぐらいで考えています。
我々はAGI開発を促進する集団なので、平均的な見解より遠目の「100年後にできます」と言うことはありません。
FHIのニック・ボストローム氏らが2011年から12年ぐらいにとったアンケートに私も答えましたが、その際には私個人としては2023年と書いたはずです。
個人的には早い可能性も考えていますが、WBAI関係者の意見の平均的なところで、2030年ぐらいかなと思います。
こういう点では、FLIによるAsilomar会議でも意見の一致は得られなかったのかと思います。
一般的にマスメディアは煽ったりその反対をしたりする傾向を持ちますので、人工知能の技術者が、意見の一致をみなくても技術的な観点から見解を世間に発信していくことの意義は高いと思っています。
私は現在、日本の人工知能学会の編集委員長ですので、上記のような意識の上で、本年の７月号から連載するレクチャーシリーズにおいて、
「シンギュラリティと人工知能」というテーマで、毎号、人工知能の専門家に技術的な観点から見てシンギュラリティについて語ってもらう企画を進めています。
こうして技術的に冷静な意見を、まずは日本国内において広めていきたいと思っています。 >>472
9. 人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思いますか？
９の答え：山川さん
先に話に出したコンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきました。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思います。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大するでしょう。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れません。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担えます。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
ところで、カーツワイル氏は2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしています。
私は、上記のような理由からこの後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測しています。
私から見るとこのカーツワイルの16年間という予測は不自然におもいますが、むしろその点についての疑問をあまり見かけないことに不思議さを感じています。
ただし、この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれません。 >>473
10. 悪い設計か操作の結果として、人工知能が悪い（もしくは極めて悪い）結果を引き起こす可能性はどの程度だと思いますか？
10 の答え：山川さん
些細な負の影響を考慮すれば100パーセント何かしらあります。例えば誰かがビジネスで損をしたなども入れるなら必ず出てきてしまいます。
リスクは基本的にインパクトと同時に頻度や確率を考慮しなければなりません。Existential Riskはもちろん非常に大きなインパクトで避けなければいけません。
そのインパクトに近いものとして、国家同士での戦争や悪用による負の影響が一番大きいと思います。
より直近の課題として、生産性を持ちうる職業技能の高度化があります。
人工知能で実現できる技能や能力が高まると、それを使いこなせる高度な能力をもつ人材の生産性が格段に増加する反面、それができない人材の生産性の価値が激減します。
つまり儲かる人と儲からない人の格差が拡大します。
こうした格差は、個人レベルでも組織レベルでも拡大します。そうすると、経済的に不遇なところから不満が生まれ、そこが戦争や紛争の温床にもなりえます。
これは資本主義のもたらす弊害とも捉えうるわけです。いずれにしても、こうした不安定要因をなるべく縮小していくというところが大事でしょう。
考え得る対策の一つは、ベーシックインカム等の制度の導入です。例えば日本ならば全ての個人に毎月７～８万円を配るなどです。
もちろん日本だけで済む話ではないのですが、なんらかの方法で経済的なバランスをとっていく必要があるでしょう。
資本主義がすぐに変わらない以上、当面は重要なことになりますし、何らかの制度でリスクを抑えていく必要があると思います。 >>474
そして、極めて悪い結果の確率、Existential Riskの確率などはどうやって計算すべきか以前考えていた時があります。
人類絶滅能力を持っている意志決定主体の数が計算できると、それによって人類が何年生きられるか半減期が計算できるわけです。
例えば人類が100万人いたとして、何パーセントの人がそのスイッチを推したいと思うかです。
単純な計算は当然できるのですが、そういうのも抑制する因子とか、ボタンを押そうとしても止めようとするものとかを沢山作っていくことになると思うので、それも含めるとその方向では確率を計算するのは難しいかもしれません。
一応できるけれど、それでいいのかどうかわからないといったところです。 >>475
11. 人工知能の安全性について研究したり、人工知能と人的価値の標準を同じくしたりすることは時期尚早だと思いますか？
人工知能の構成を知らなければ、それを安全な仕組みに設計をすることは難しいとされています。人工知能の安全性について有効だと思いますか？
11 の答え：山川さん
全く時期尚早とは思いません、急いで進めるべきだと思います。以前より技術発展が加速度的状況にあることはカーツワイル氏らも言う通りです。
人間の直観は基本的には線形的なので、指数関数的変化の真只中においては必ずしも正解に近くない可能性があります。
またこの様な大きな不安を抱える状況においては、人間には心理学で言う「正常値バイアス」というのが働きます。
これは「今まで大丈夫だったからきっと大丈夫だろう」と思ってしまうもので、普通は正しくて有効なのですが、今回の場合には正常値バイアスがあるということを差し引いて考えておくべきでしょう。
できれば、汎用人工知能がもたらすExistential Riskを計算する何らかの方法があると良いのかと思います。
一つは、宇宙物理学におけるフェルミのパラドックスを手がかりにする方法です。
これは私達人類がエイリアンにまだ出会っていない事実と、惑星上で生命が誕生しそれが知的に進化する確率から計算すると、知的生命体が技術発展の末に絶滅する確率を計算することもできるというものです。
ただ、この方法ですと単に悲観的な結果が得られるだけで、私達が何をすべきかの指針は得られません。
先に述べたような、人類絶滅能力を持つ意思決定主体の増加の面から考えたほうが良いかもしれません。 >>476
13. 多くの知識人が、日本は自動化を推奨していて、西欧諸国に比べロボットを好意的に受け入ていると言及しています。
日本における人工知能に対する見方は西欧諸国と比べて違うと思いますか？ その場合、それはどう違いますか？
英語話者のあいだでは、優れた人工知能・技術的特異点・人工知能の安全性について活発に議論されています。日本ではどうでしょうか？
13 の答え：山川さん
倫理を含む人間性の点から見れば、私達が同じ人間である以上、洋の東西を問わず、総じて共通点のほうが多いことを前提とすべきでしょう
日本の文化的背景を人工知能観点からみると、いわゆる八百万神（やおよろずのかみ）という森羅万象に精霊や神が宿るという信仰は大きな影響も持つと思われます。
つまり生き物と人間の間の境界が比較的曖昧ですし、その延長線上で人工知能やロボットとの境界も曖昧になっています。
ですから、昔から、『鉄腕アトム』や『ドラえもん』などのアニメにおいてロボットと共に生きる世界観は一般大衆に受け入れられています。
ちなみに東京には世界の様々な料理のレストランがありますし、そうした意味でも多様性を受け入れる文化なのかもしれません。
実は多様性を許容することは、Existential Riskを減らす有効な手段となりえると考えます。明らかに現在は科学技術が指数関数的に進展し、それに伴い変化が加速しているわけです。そして変化を乗り越える力の源泉は多様性です。
先程EcSIAを紹介した際に触れましたが、これからは、人工知能と人間だけでなく様々な形で人間と人工知能が融合した形も現れてくると思うのですが、こうして多様性を拡大しておくことは、生き残る確率を高めるでしょう。
ただし多様性は生存確率を高める一方で大きな犠牲が伴います。つまりどの選択肢が生き残るのかは、予めわからないし、だからこそ多様性の意味があるわけです。
できれば、こうした犠牲を伴う多様な選択肢へのチャレンジを、うまく人工知能が先回りしてくれて試してもらえるならば、私たちの痛みを減らしつつ人類を生存させ続けることも可能になるかもしれません。 ■ このスレッドは過去ログ倉庫に格納されています
