(強いAI)技術的特異点/シンギュラリティ128
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から網羅的に考察し意見交換する総合的なスレッド。
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点。
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則。
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む。
★ 関連スレ(特化した話はこちらで)
(AI) 技術的特異点と政治・経済・社会 (BI)
https://goo☆.gl/riKAbq
(情報科学) 技術的特異点と科学・技術 (ナノテク)
https://goo☆.gl/RqNDAU
※URL部分をコピーし、☆を消してペースト※
※前スレ
(強いAI)技術的特異点/シンギュラリティ127
https://rio2016.5ch.net/test/read.cgi/future/1530234247/
(強いAI)技術的特異点/シンギュラリティ126
https://rio2016.5ch.net/test/read.cgi/future/1529408476/
(強いAI)技術的特異点/シンギュラリティ125
https://rio2016.5ch.net/test/read.cgi/future/1528603775/ 著者のMostafa Dehghani, Stephan Gouwsって
両方共グーグルじゃん、ってことは現状Transformerなgoogle翻訳も
もうすぐユニバーサル化するわけだろ
盛り上がってきたわ～
後は量子コンピュータだけだな
AGIのベースは出来上がったといって過言じゃない
後はユニバーサルトランスフォーマーを使ってりんなみたいなチャットボット作ってみろよ
やべーことになると断言するぜ >>396
”シンギュラリティ”を検索して真っ先に5chスレを覗くのか...(困惑) 経済産業省は量子コンピュータすらも視野に入れてないのだろうか？
こっちは目の前に迫った現実だ
どう考えてんだろ？
経済産業省「何も考えていません。思考停止中です。」 お前ら何だかんだ日本に成して欲しいんだな
俺なんて分散して欲しくないからこのまま黙ってて欲しいとしか思ってないわ
ただでさえ米中で分かれてるのに日本までエントリーしてくんなよって まぁ、如何なることにも期待せずに、目の前の人生をコツコツ生きれば、
勝手にシンギュラリティ起きてると思うよ。 >>439
馬鹿だから日本がシンギュラリティを`起こせばこのままニートできるとか考えてんだろ
全部都合のいい妄想でしかないんだがな >>435
レジとか、ボイレコに固定音声入れておいて、
お客さんとのコミュニケーションを極力無くしてる人いたよね。 >>440
働かずに一発逆転ばかり夢見てるこのスレのニートには馬の耳に念仏 >ID:a58qu6/d
>ID:HPq9l1A4
日本語不自由なチョンが2匹いる笑笑
文句あるなら自国のBBSにこもってろ ニート煽りはともかくそれに毎回反論してる奴らは何なんだろうな
このスレって本当に頭悪い奴しかいないの？ 自分は頭良い！と思い込んでる者ほど頭悪いんだよねー
誰とは言わんけど >>447
頭悪いやつって皮肉やジョークも下手だよね
誰とは言わないけど >>446
そりゃ働きたくなくて仕方ないだけのやつが集まる場所だし >>450
相変わらずバカ丸出しｗｗｗ
現実でもネットでも馬鹿にされ続けてきてくやしいか？おい 【コテ歓迎】統合失調症（旧精神分裂病）雑談スレ★7
http://krsw.5ch.net/test/read.cgi/mental/1530716091
ID:a58qu6/dはここ逝け
仲間がたくさんいるぞ >>420
この世がよくできた仮想現実だとしたらブレーカーが落ちるんじゃなくて
光の速度は越えられないやらエンタングルメントみたいに
シンギュラリティを起こすことはできないみたいな説明不能の理不尽な法則があるんだと思う ＡＩで土壌データ管理
農家、最新設備の効果確認
http://www.saga-s.co.jp/articles/-/245600
富士山がIoTだらけに。登山ルートの気温・混雑度もウェブで一目瞭然
https://www.msn.com/ja-jp/news/techandscience/
富士山がiotだらけに。登山ルートの気温・混雑度もウェブで一目瞭然/ar-AAA2egD?li=AA4ZoD&ocid=spartanntp
ドローンvs.ドローンのドッグファイトが実現！ 対戦用小型ドローン「X1 FPV」発売
https://www.zaikei.co.jp/releases/654901/
2030年、世界最大の都市圏は？
https://www.msn.com/ja-jp/news/opinion/2030年、世界最大の都市圏は%ef%bc%9f/ar-AAzZDdR?ocid=spartanntp#page=2
総資産１京円以上!?歴史上もっともお金持ちな人物15名 ビル・ゲイツで１２位
https://www.msn.com/ja-jp/money/news/IRIS/ss-AAjoXmt?ocid=ems.display.edge&;ccid=cfc273cad09f4bedaa37385cab0505b7#image=14
中国の大学入試の成績を欧米の大学が重視する理由とは？―中国メディア
https://news.infoseek.co.jp/article/recordchina_RC_624331/
→中国の学生の学力は高いと欧米評価
米中貿易戦、低姿勢に転じる中国 米への刺激避ける
http://www.epochtimes.jp/2018/07/34735.html 顔真っ赤で(仮想)ニートにマウント取るのは気持ちいいか？ 南極地下で観測されたニュートリノが39億光年先のブラックホールから飛来したものと判明
https://gigazine.net/news/20180713-south-pole-icecube-neutrino-detector/
「消費電力３分の１」５Ｇ基地局の研究開始 総務省と名大など
http://www.sankei.com/smp/economy/news/180713/ecn1807130037-s1.html
これは本当にすごい発見。血小板は寿命が大変に短くて、献血で得たものもたった４日しか保存できず、輸血には膨大なコスト(1回10万円)がかかってた。
新技術でiPSから血小板を自由に作れる時代となれば、医療費を削減して、救える患者も増えると思う。早く実用化されてほしい。
ｉＰＳから高品質の血小板を作製 「献血と同等」レベル
https://www.asahi.com/sp/articles/ASL7F4WNLL7FUBQU00R.html
https://twitter.com/SatoruO/status/1017894211067277312
核融合研究所に高性能スパコン
https://www3.nhk.or.jp/lnews/aomori/20180711/6080001563.html
池田佳隆所長「実験をうまく進めるのに欠かせない予測のための大きなツールが導入されたので、しっかりと期待に応えていきたい」
セラピスト並みの性能、個人の感情に応じるロボ用ＡＩ
https://newswitch.jp/p/13697 日本人は本当に素晴らしい民族だよ。
一部の意地悪な人も無知なだけで皆根は優しいよ。
これは人類全てに言えることだけどね。
別に日本人がシンギュラリティを起こしてもいいじゃないの。 フリーメイソンは確かに存在しています。貴方の心の中です。 >>458
「六ちゃんー２」の性能はどの位何だろ
↑
ネーミングベタ過ぎ 地球上で最も寒い気温「マイナス98度」 南極で記録
https://forbesjapan.com/articles/detail/22050/1/1/1
北半球では夏の暑さが本格化する中、南極では地球とは思えないほどの寒さのマイナス97.8℃という史上最低気温をマークした。これは人間が数回呼吸しただけで肺から出血して即死するほどの気温だ。
これまで最も低い気温だったのは、1983年に南極点に近いロシアのボストーク基地で記録されたマイナス89.2℃だった。
5Gが切り開く未来の展望 ～パートナーの強みを融合させた世界～
AIフォーラムレポート
http://www.asahi.com/dialog/articles/11659618/
次世代の通信技術「5G」。NTTドコモ5G推進室の中村武宏室長は、議論は「超高速・超大量接続」「超高信頼」「超低遅延」の3つのケースにまとめられると言います。
同社が実施しているオープンパートナープログラムを通じたトライアル事例について、ご紹介いただきました。
人間の努力無意味に？AI自動運転車、20分で技能習得「強化学習」の凄さ
https://jidounten-lab.com/w_4103
AI（人工知能）の研究開発を進める英ケンブリッジ大学の研究チームが創設したスタートアップ企業「Wayve（ウェイブ）」が、AIの深層強化学習を活用し、20分足らずで自動運転車に車線を守って走行するよう学習させる取り組みに成功した。
自動運転車が道路を走行中、ドライバーがハンドルで走路を補正したりブレーキを踏んだりしたときはマイナスの報酬を与え、上手に道に沿って走ったらプラスの報酬を与える仕組みで実験を続けた結果、わずか20分足らずの走行でAIは車線を守って走行することを学んだという。
強化学習は、走行しながら刻々と変化する状況を検知し判断しなければならない自動運転の分野において有効とする専門家も多く、今後飛躍的に研究開発が進む可能性がある。 【新】知っておくべきAIの最先端、「汎用人工知能」とは何か
https://newspicks.com/news/2300393
有料記事ですがコメントから
『AGIは、AIの実用性に関わる段階的な技術目標なので、必ずしも「人と完全に似ている」ことを要求しません。
ですからその目標に「心を持つ」「意識を持つ」という要素は含まれない』
続々と社会・ビジネスで使われ始めているのは、個別の領域で知的に振る舞うことができる「特化型AI」です。
一方でAGIは、経験を通じて多様な領域の課題を解決する能力を獲得できる「汎用的な人工知能」のことを指します。
一方で、「貧しくても住民が働いている地域のほうが治安が良い」という傾向は昔から指摘されていることです。
ですから仕事以外の形で、人々が「社会の構成員としていかに自分の居場所を探してゆくか」といった問いが重要になってくるでしょう。
そうなると、仕事の以外の場における「尊厳」とか「存在意義」といったことが、人間には大切になってくるかもしれない。
・お金の役割として残されるのは「人々やAIが互いに評価しあうための指標」という側面ではないかと思います。
将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなるでしょう。
・今でも、我々は自然界を支配できないという現実の中で、自然とうまくつき合っていかなければならない。
AI界も一緒で、何もかも人間が支配するのではなく、ゆるやかにコントロールすることが大事だというのが私の考え方なのです。 >>464
これが、一番インパクトのあった一言。思ったより早いようだ。。。
入山 山川さんの見立てでは、AGIはいつごろできそうですか。
山川 具体的には2030年ごろを目標にしていますが、もっと早く完成する可能性もあると考えています。
カーツワイルの予言は遅すぎる
古代ギリシャやローマで奴隷に労働を任せ、自由市民は余暇で哲学などに励んだ時代が、AIに労働を任せるという形でまた訪れる。「お金のためだけに働く」という考え方はその頃には意味のないものになる。
情熱を傾けられるものを見つけた人や、目の前のことを夢中で楽しめる人が生きやすい時代になりそう。
「いずれは私たちみたいな人工知能研究者も、AGIに仕事を奪われてしまうでしょう」
「仕事をしなければいけないという価値観が、いまほど重要ではなくなるのは間違いない」
「これまで主流であった「お金を稼ぐために働く」というタイプの価値観では、精神の安定が保てなくなるかもしれない」
「仕事以外の形で、人々が『社会の構成員としていかに自分の居場所を探してゆくか』といった問いが重要になってくる」
「将来の社会では、生活必需品は定期的にAI界から支給され、お金はそのために必要なものではなくなる」 >>465
【入山×山川】人類の次のテーマは「いかにうまくAIに負けるか」
https://newspicks.com/news/2300396
【入山×山川】人間の脳を模倣し、超えていく。AIの近未来とは
https://newspicks.com/news/2300398
【入山×山川】「AI開発レース」に勝てない日本が生き残る秘策
https://newspicks.com/news/2300400
・AGIは「様々な領域のことを基礎知識からAIが自然学習する」ことを目指している
・そのためには、神経科学者をこの分野に巻き込むことが必要
・しかし、20年以上にわたる長い「AI冬の時代」があったために、50歳以下の世代があまり育っていない
・そこで、単に開発レースに勝つことでなく、「人類と調和する人工知能のある世界」の実現を目指すという、より高いレベルのビジョンを掲げる
・「全脳アーキテクチャのオープンな開発を促進する」ことをミッションとする
・「専門知識」「社会への影響の見識」「共同でAGIをつくる意識」の３分野に取り組む シンギュラリティサロン＠東京＃26 + ジャパンスケプティクス
http://singularity.jp/20180311-2/
２０１８年３月１１日（日）に開催された、シンギュラリティサロン＠東京（第26回公開講演会、ジャパンスケプティクスとの共同開催）の動画です。
https://youtu.be/Oe2uxni240M
スケジュール
13:30-14:30 講演１「なにわのシュルレアリストによるAIとアート」中野 圭（シュルレアリスト、大阪芸術大学 芸術学部 アートサイエンス学科 准教授、Facebook: 中野 圭 ）
【概要】
ICTが世の中に普及してから20年程経っており、最近ではAIの実用化についてもニュースなどからも伝えられている。深層学習、機械学習などの統計的な手法についてもユーザーレベルで利用できるツールについても幾つか紹介がなされている。
今年度はAIとアートをテーマに研究を行ってきたこともあったので、最新の技術動向とその活用例について発表する。
ボーカロイド技術の研究の中で10数年前から現在のAI技術の研究開発と作品制作を行ってきた経験からシュールレアリスム（超現実主義）がICTからAIまでを網羅したメディアアートにおいても有用であり、
梅田駅などヨーロッパ諸国の地下鉄と遜色ない景観を保つ大阪において、「なにわのシュルレアリスト」を名乗る意義についても熱く語る。 >>468
14:35-15:35 講演２ 「人工知能に美意識は芽生えるか」 中ザワヒデキ（美術家、人工知能美学芸術研究会 発起人代表）
【概要】
現今の「人工知能が創作した芸術」とされているものは、その殆どが、人間が人工知能という道具を使って制作した代物でしかない。
真の意味で「人工知能が創作した芸術」はまだ存在していないどころか、真の意味での「人工知能の創作」も、さらには真の「人工知能」さえ、未だ実現はなされていない。
しかしながら、いったん目的が他から与えられ、フレームが定まれば、アルファゼロは人智を越えた結果を出す。
人工知能が自ら目的を見つけ出し、フレーム対処能力を上げることができるなら、真の意味で人工知能が芸術を創作することが理論的には可能となるのではないだろうか。
今回の演題「人工知能に美意識は芽生えるか」は、沖縄科学技術大学院大学（OIST）にて本年1月8日まで、世界初の総合的なAIアート展として開催されていた「人工知能美学芸術展」が、テーマとして掲げたものである。
同展では「Ⅰ：人間美学／人間芸術」「Ⅱ：機械美学／人間芸術」「Ⅲ：人間美学／機械芸術」「Ⅳ：機械美学／機械芸術」の4つのカテゴリーを設定し、私を含む展覧会の企画者は、まだ実現されていない「Ⅳ」を希求するとした。
15:35-15:45 【休憩】
15: 45-16:45 パネルディスカッション「AIでアートはつくれるか」
パネリスト：中野圭・中ザワヒデキ・松田卓也（神戸大学名誉教授）・高橋昌一郎(國學院大學教授、司会）
主催
シンギュラリティサロン
共催
JAPAN SKEPTICS、株式会社ブロードバンドタワー AIに規制かけるなら今しかないだろうなｗ
これ以上行けば量子コンピュータと結びついて爆発的に進化するぞ >>467
ドワンゴ人工知能研究所の所長の山川宏とのインタビュー
https://futureoflife.org/2017/10/12/ドワンゴ人工知能研究所の所長の山川宏とのイン/
6. 汎用人工知能（AGI）が社会にもたらす最大の便益は何だと思いますか？
６の答え：山川さん
汎用人工知能のもたらす最大の便益は、科学技術の発展を加速し、それによって得られる波及効果ででしょう。環境に対するコントロール、食料問題、宇宙進出を加速することなどです。
先に述べたように、自分たちがもつ攻撃力の範囲よりも人類の生存領域が大幅に広ければ、Existential Riskを大きく抑制できる可能性があります。
そのため、私の思いとしては、できれば人工知能の利用は宇宙進出に重点を置くべきと考えています。
ここではひとつ、私が以前に考えた未来像について紹介しましょう。
EcSIA： AIと共存する望ましい未来社会像
私が思う，望ましい未来像とは 「万人の幸福」と 「人類の存続」の間のトレードオフの緩和をAIがおこなうことで、その両立を目指すものである．
こうした未来社会では共有財産としての多様な人工知能と，時に拡張された人類によって生態系が形成される．
私はこれをEcSIA (Ecosystem of Shared Intelligent Agents )と呼ぶことにした．
EcSIAは大自然の如く複雑広大で，人類はそれを完全には理解し把握できないまでも緩やかに制御する．そしてEcSIA が生み出す恵みや富は万人に分配される．
（山川, 2015年７月）
7. AGIがもたらす最大のリスクは何だと思いますか？
７の答え：山川さん
最大と言うことになれば、先ほどお話しましたように、人類絶滅能力をもつ意思決定主体の増大がもたらすExistential Riskかと思います。 >>471
8. 私たちの進歩を侵害する世界規模の惨事はないと仮定して、次の10年・2040年ごろ・2100年ごろのhuman-level AGI（人間の知能レベルの実現を目指す汎用人工知能）完成の可能性はどの程度であると思いますか？
８の答え：山川さん
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としています。
カーツワイル氏が「2029年に人間レベルができる」言っていることはよく知られているかと思いますが、大体それと同じぐらいで考えています。
我々はAGI開発を促進する集団なので、平均的な見解より遠目の「100年後にできます」と言うことはありません。
FHIのニック・ボストローム氏らが2011年から12年ぐらいにとったアンケートに私も答えましたが、その際には私個人としては2023年と書いたはずです。
個人的には早い可能性も考えていますが、WBAI関係者の意見の平均的なところで、2030年ぐらいかなと思います。
こういう点では、FLIによるAsilomar会議でも意見の一致は得られなかったのかと思います。
一般的にマスメディアは煽ったりその反対をしたりする傾向を持ちますので、人工知能の技術者が、意見の一致をみなくても技術的な観点から見解を世間に発信していくことの意義は高いと思っています。
私は現在、日本の人工知能学会の編集委員長ですので、上記のような意識の上で、本年の７月号から連載するレクチャーシリーズにおいて、
「シンギュラリティと人工知能」というテーマで、毎号、人工知能の専門家に技術的な観点から見てシンギュラリティについて語ってもらう企画を進めています。
こうして技術的に冷静な意見を、まずは日本国内において広めていきたいと思っています。 >>472
9. 人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思いますか？
９の答え：山川さん
先に話に出したコンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきました。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思います。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大するでしょう。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れません。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担えます。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
ところで、カーツワイル氏は2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしています。
私は、上記のような理由からこの後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測しています。
私から見るとこのカーツワイルの16年間という予測は不自然におもいますが、むしろその点についての疑問をあまり見かけないことに不思議さを感じています。
ただし、この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれません。 >>473
10. 悪い設計か操作の結果として、人工知能が悪い（もしくは極めて悪い）結果を引き起こす可能性はどの程度だと思いますか？
10 の答え：山川さん
些細な負の影響を考慮すれば100パーセント何かしらあります。例えば誰かがビジネスで損をしたなども入れるなら必ず出てきてしまいます。
リスクは基本的にインパクトと同時に頻度や確率を考慮しなければなりません。Existential Riskはもちろん非常に大きなインパクトで避けなければいけません。
そのインパクトに近いものとして、国家同士での戦争や悪用による負の影響が一番大きいと思います。
より直近の課題として、生産性を持ちうる職業技能の高度化があります。
人工知能で実現できる技能や能力が高まると、それを使いこなせる高度な能力をもつ人材の生産性が格段に増加する反面、それができない人材の生産性の価値が激減します。
つまり儲かる人と儲からない人の格差が拡大します。
こうした格差は、個人レベルでも組織レベルでも拡大します。そうすると、経済的に不遇なところから不満が生まれ、そこが戦争や紛争の温床にもなりえます。
これは資本主義のもたらす弊害とも捉えうるわけです。いずれにしても、こうした不安定要因をなるべく縮小していくというところが大事でしょう。
考え得る対策の一つは、ベーシックインカム等の制度の導入です。例えば日本ならば全ての個人に毎月７～８万円を配るなどです。
もちろん日本だけで済む話ではないのですが、なんらかの方法で経済的なバランスをとっていく必要があるでしょう。
資本主義がすぐに変わらない以上、当面は重要なことになりますし、何らかの制度でリスクを抑えていく必要があると思います。 >>474
そして、極めて悪い結果の確率、Existential Riskの確率などはどうやって計算すべきか以前考えていた時があります。
人類絶滅能力を持っている意志決定主体の数が計算できると、それによって人類が何年生きられるか半減期が計算できるわけです。
例えば人類が100万人いたとして、何パーセントの人がそのスイッチを推したいと思うかです。
単純な計算は当然できるのですが、そういうのも抑制する因子とか、ボタンを押そうとしても止めようとするものとかを沢山作っていくことになると思うので、それも含めるとその方向では確率を計算するのは難しいかもしれません。
一応できるけれど、それでいいのかどうかわからないといったところです。 >>475
11. 人工知能の安全性について研究したり、人工知能と人的価値の標準を同じくしたりすることは時期尚早だと思いますか？
人工知能の構成を知らなければ、それを安全な仕組みに設計をすることは難しいとされています。人工知能の安全性について有効だと思いますか？
11 の答え：山川さん
全く時期尚早とは思いません、急いで進めるべきだと思います。以前より技術発展が加速度的状況にあることはカーツワイル氏らも言う通りです。
人間の直観は基本的には線形的なので、指数関数的変化の真只中においては必ずしも正解に近くない可能性があります。
またこの様な大きな不安を抱える状況においては、人間には心理学で言う「正常値バイアス」というのが働きます。
これは「今まで大丈夫だったからきっと大丈夫だろう」と思ってしまうもので、普通は正しくて有効なのですが、今回の場合には正常値バイアスがあるということを差し引いて考えておくべきでしょう。
できれば、汎用人工知能がもたらすExistential Riskを計算する何らかの方法があると良いのかと思います。
一つは、宇宙物理学におけるフェルミのパラドックスを手がかりにする方法です。
これは私達人類がエイリアンにまだ出会っていない事実と、惑星上で生命が誕生しそれが知的に進化する確率から計算すると、知的生命体が技術発展の末に絶滅する確率を計算することもできるというものです。
ただ、この方法ですと単に悲観的な結果が得られるだけで、私達が何をすべきかの指針は得られません。
先に述べたような、人類絶滅能力を持つ意思決定主体の増加の面から考えたほうが良いかもしれません。 >>476
13. 多くの知識人が、日本は自動化を推奨していて、西欧諸国に比べロボットを好意的に受け入ていると言及しています。
日本における人工知能に対する見方は西欧諸国と比べて違うと思いますか？ その場合、それはどう違いますか？
英語話者のあいだでは、優れた人工知能・技術的特異点・人工知能の安全性について活発に議論されています。日本ではどうでしょうか？
13 の答え：山川さん
倫理を含む人間性の点から見れば、私達が同じ人間である以上、洋の東西を問わず、総じて共通点のほうが多いことを前提とすべきでしょう
日本の文化的背景を人工知能観点からみると、いわゆる八百万神（やおよろずのかみ）という森羅万象に精霊や神が宿るという信仰は大きな影響も持つと思われます。
つまり生き物と人間の間の境界が比較的曖昧ですし、その延長線上で人工知能やロボットとの境界も曖昧になっています。
ですから、昔から、『鉄腕アトム』や『ドラえもん』などのアニメにおいてロボットと共に生きる世界観は一般大衆に受け入れられています。
ちなみに東京には世界の様々な料理のレストランがありますし、そうした意味でも多様性を受け入れる文化なのかもしれません。
実は多様性を許容することは、Existential Riskを減らす有効な手段となりえると考えます。明らかに現在は科学技術が指数関数的に進展し、それに伴い変化が加速しているわけです。そして変化を乗り越える力の源泉は多様性です。
先程EcSIAを紹介した際に触れましたが、これからは、人工知能と人間だけでなく様々な形で人間と人工知能が融合した形も現れてくると思うのですが、こうして多様性を拡大しておくことは、生き残る確率を高めるでしょう。
ただし多様性は生存確率を高める一方で大きな犠牲が伴います。つまりどの選択肢が生き残るのかは、予めわからないし、だからこそ多様性の意味があるわけです。
できれば、こうした犠牲を伴う多様な選択肢へのチャレンジを、うまく人工知能が先回りしてくれて試してもらえるならば、私たちの痛みを減らしつつ人類を生存させ続けることも可能になるかもしれません。 >>477
存在すべきものの多様性に関わる議論をさらに極端に推し進めると、「私たち人類は未来の宇宙にむけて何を残すべきか」という問に辿り着きます。
極めて個人的な見解とはなりますが、私としては「存続する知能」こそが、未来に残すべき何かだと思います。
私達が進化の荒波を超えて、今こうした知能社会を作り上げたことは非常な幸運です。そうであれば、知能それ自体に保存する価値があると考えることもありえます。
もし私達が、地球外の知的生命体と接触し、その後において共存する時代を迎えたなら、私たち人類はそうした生命体の存続についても配慮することになるでしょう。
そうなれば、将来において私たちにとって重要な価値は、人類自身の存続から知性の生存に拡張される可能性が高いでしょう。
一旦、人類の使命として「存続する知能を宇宙に広める」と仮定してしまえば、Existential Riskを回避しうる選択肢は大幅に広がります。
宇宙に進出して知能を受け継ぐものの候補は人類以外の、人工知能、遺伝子改変された動物、知能の種となる細菌やウィルスなどが考えられるかもしれません。
一例として、宇宙でも冬眠して行き続けられるクマムシに、好環境で一万年ほど進化すれば人間レベルの知能を生み出せるような遺伝子を組み込み、宇宙に拡散したとします。
すると多くの惑星上で、１万年に１回シンギュラリティが起こります。文明がシンギュラリティを超えられる確率がかなり低くても、それ以上に多くの星でシンギュラリティが起これば、やがて何れかの星では成功するかもしれません。
私達が宇宙初でこうした事業に成功すれば、私達人類の功績は宇宙の寿命に近い時間スケールで歴史に刻まれることになるでしょう。
ただこの際には、私達人類の業績を伝える何らかの記録を残すことを忘れてはいけませんね。 >>479
直接的な意味では人類を置き去りにしてしまいましたが、人類ももちろん、生身の人類だけでなく、クマムシのように宇宙で冬眠できる人類や、人工知能にアップロードされた人類など、選択肢の幅を広げるほどに、生存確率は増大するはずです。
何れにしても今後さらに、技術的な選択肢は増え続けますが、何を存続させたいのかという価値判断こそがExistential Riskを制御する大きな要因になりえます。
一方で人を超える人工知能の出現は、「知性の高さを理由として特権的な存在意義を人類に与える」という主張を破壊するという形からも私達の価値観に大きな影響を与えます。
この状況は逆に、本当に次世代に伝えるべきものは何であるかを私達が自問するチャンスが与えられていると見ることもできます。
リチャード・ドーキンスは、「生物は遺伝子の乗り物」と考えましたが、同様に「脳は知性の乗り物」に過ぎないのかもしれません。
多様性を受け入れる日本人の文化的特性は、こういった選択肢ですら受け入れうる素地があるのではないかと考えています。 >>479
>>478のミス
14. 日本はかつてCD・VHS・DVD・新幹線・LCD・デジタルカメラなどの最先端技術と同義でしたが、中国や韓国などの経済の急成長に伴い、日本経済は停滞し、世界経済に占める割合は小さくなりました。
しかし、日本には世界でも最高レベルの研究者やエンジニアがいます。日本が再度技術革新をけん引する原動力となるためには何ができると思いますか？
14 の答え：山川さん
WBAIでは、人類と調和する人工知能の開発をめざしています。しかしながら、人情として、ある国に属する人は、人類全体よりもその国の人々を大事と考え勝ちです。
これは、人類が知的クマムシよりも人類が大事と考える傾向があるのと同様でしょう。
当然ながら企業や政府関係者などを含め多くの日本人は、この変化の中でどう人工知能技術を発展させてそれを活用するかという事に心を砕いています。
日本にとって決め手となるような戦略は簡単には思いつかないですがいくつか思うところを述べてみましょう。
最初に、少なくとも不利にならない点をのべておきましょう。実は近年の機械学習、深層学習は、ほぼほぼ数学ですので基本的には言語の壁がありません。
深層学習が世界をセンサ情報を通じて認識するために英語を用いる必要はないのです。しかも最近は論文を読むときに機械翻訳をつかうと殆ど読めてしまいます。
実は2000年台の日本は圧倒的に不利でした。残念な例として、日本ではソーシャルネットワークといえば日本発のMixi(ミクシィ)という時代がありましたが、世界との競争で負けた結果、今やみながFacebookを使っています。
今回の機械学習を中心とした人工知能の研究開発では、伝統的に数学や理論物理学に強みがある日本の研究者や技術者にとっては力を発揮しうる場面でしょう。 >>480
関連してよく言われていることですが、日本はネット上のITよりも、技巧性が活かせるモノづくり的に強みがありました。
人工知能がモノを操作できるようになった今、日本の技術者の技能を効率的に人工知能に転移することで強みを築きうると考えています。
これはドイツのインダストリー4.0と近いアプローチです。その特殊な例として「食×AI」を提唱しているのが先程の松尾豊氏です。
何故なら日本は世界中から多様な料理を輸入してさらに美味しく発展させており、特に首都の東京などは、この点で抜きん出ています。
これを支える農業などにも人工知能が導入される中で、こうした日本人の感性を活かせる領域は期待が持てます。
次に、やや逆説的ですが、日本はある意味での課題先進国と言われています。特にいずれ世界のどの国でも起こりうる高齢化問題が世界で最初にやってきます。
ロボットによる介護などの人に寄り添う技術、パーソナライズされ予防医療、健康管理のためのウェアラブルデバイス等の市場が拡大し研究開発が進むでしょう。
並行して労働者不足が生ずるためにロボットを受け入れやすい状況も加速します。これを起点に人工知能の関連技術を蓄積しうると思います。 >>481
最後になりますが、今後の世界においては、汎用性と自律性を備えたスーパーヒューマンインテリジェンスに向かって人工知能の開発が進むに連れて、人類がそれらを制御するための国際的な体制が構築されることになるでしょう。
もちろん個別に人工知能開発が行われてはいても、その開発ガイドラインや開発や運用基準が具体化され、その挙動をモニタするための人工知能も多く存在することになるでしょう。
そして国や企業などを含む国連のような国際組織が、こうした人工知能の全体を管理する展開が予測されます。
こうした流れの中で、日本は人工知能管理の常任理事国になって行けるように、技術力と倫理観を同時に高めることで、世界から見て日本は信用できる国だと思われることが重要ではないかと考えています。
もしかすると汎用人工知能は、ある天才が一夜にして完成してしまうかも知れません、そういった時に最初に相談したい国が日本であってほしいとおもいます。
そして全脳アーキテクチャ・イニシアティブ(WBAI)は、そうした動きを支える組織でありたいと思っています。
＜＜＜＜おわり＞＞＞＞
This interview transcript was prepared by Mamiko Matsumoto and Kazue Evans.
インタビューの日：２０１７年０４月０５日（水） >>473
山川先生はAGI完成は早ければ2023年と考えてるんですね、めっちゃ早いですね。。
そして、一度人間並みのAGIが出来ればそこからの進化は一瞬だと。。
まさにシンギュラーな進化。
AGIがAGIを生み、育てることで爆発的に進化する。
人間の知能レベルに達したAGIが実現した場合、それ自身が開発を行い人間の知能を超えた知能を作るのにどのくらい時間がかかると思うか？
答え：山川さん
コンピュータ将棋の歴史を振り返ると、多くの場合に1人もしくは数名のプログラマが、地道に改良することで発展してきた。
その場合でも、人工知能が一旦人間のトップに追いつけば、そのあと抜き去るのに要する時間は数年程度だったかと思う。
AIの汎用性がある種の経済価値をもつレベルに到達した瞬間に、そこに対する投資が急速に増大する。
そうなれば汎用人工知能の能力は、ゲームAIの場合とは比較にならない速さで人間レベルを超えるかも知れない。
さらに人間レベルの汎用人工知能に到達すれば、それは人工知能研究者の役割を担える。
ですから汎用人工知能が作られた直後に多数の汎用人工知能を人工知能研究者として高速に育成し、それらが24時間休まず研究開発を行うことで、人工知能の研究開発は大幅に加速するでしょう。
汎用人工知能完成の時期
全脳アーキテクチャイニシアティブ(WBAI)では2030年頃を公式目標としている
山川先生個人としては早ければ2023年頃
WBAI関係者の意見の平均は2030年頃
カーツワイルの予測は遅すぎる
カーツワイルは2029年に人間一人分の知能に到達し、そこから16年かけて、2045年ぐらいに全人類の知能に到達するという予測をしているが、私は、上記のような理由から後半の16年間は大幅に短縮され、数日から数ヶ月ではないかと予測している。
カーツワイルの16年間という予測は不自然に思う。
その点についての疑問をあまり見かけないことに不思議さを感じている。
この期間において存在しうる技術的なボトルネックとしては、汎用人工知能を動かすための電力が膨大すぎて同時に多数を稼働できないという場合はあり得るかもしれない。 カーツアイルにしろWBAIにしろ量子コンピュータはほったらかしかい？ >>481
やっぱ日本は観光大国になるべきだな
それしか道が無い気がする。 AI、AGIに量子コンピュータが加わればまさに鬼に金棒
想像もつかない世界だ
しかし2023年は早すぎない？
そして一度AGIが開発されると一瞬で爆発的に進化するのであれば、その国、組織、ひいては個人以外は二度と追い付けない、絶望的な差が生ずる事になる
よく松田先生が仰ってる事だけど、日本は絶望的だ
ただ、山川さんたちWBAIや金井さんたちアラヤが希望だ
なんとか頑張ってもらうしか。。 これ凄いなぁ
【哲学】コンピューターは哲学者に勝てない――気鋭の38歳教授が考える「科学主義」の隘路［07/13］
http://egg.5ch.net/test/read.cgi/scienceplus/1531552350/ >>486
アラヤはGoogleに買収されてもおかしくないレベルの技術力を持ってるからな。
意識を発生させる理論と数理モデルが揃ってて、大企業から移ってきた秀才や天才が集結してる。 >>485
俺もそう思う
日本全土江戸時代みたいにすれば外人大喜び Google Japan、アシスタント等に搭載される合成音声研究チームを募集
https://careers.google.com/jobs#!t=jo&;jid=/google/research-scientist-google-assistant-minato-tokyo-japan-4090530006 ゴミ収集ロボットに学ぶAIの限界、 鍵を握る「システム」は“生命”にあり ｜ビジネス+IT - https://www.sbbit.jp/article/cont1/34454 >>487
その人、ど文系だぞ？
屁理屈をこねくり回してテクノロジーを過小評価しているだけ >>493
反テクノロジー派ってこんなんしかいないのかよｗって笑ってしまうわ #言語創発 #DeepMind #複雑系
言語創発のスライドを見つけた。
すごい情報量だ。週末に腰を据えて読みたい。
https://speakerdeck.com/connection_automated_ai/towardthinkingmachine-googledeepmind-languageevolutionpapers
https://twitter.com/jiseiryutai/status/1017430986592698369
https://speakerdeck.com/connection_automated_ai/towardthinkingmachine-googledeepmind-languageevolutionpapers?slide=2
「人間とは全く異なる自らの概念と言語をAIマシンが手に入れつつある」
『2018年以降、Thinking Machine研究開発が進展する可能性が高い。
AIによる「データの海」からの「思考の素材」の自律的な獲得。
AIによる「データの海」からの「思考のロジック」の自律的な獲得。』
『このスライドは、ロンドンでいま静かに進行している、AIによる概念と言語の獲得に向けた動きを調査した結果と、我が国発の二つの研究アプローチが、ロンドンのDeepMind社とは異なる方法で、
AIによる「独自の概念と言語」の獲得を達成する可能性を、同時に紹介する』
『AIが、自らのセンサ（＝感覚器官）で捉えた「情報の海」から、人間とは異なる独自の「事物」概念や「感覚」概念、抽象「観念」を生成し、それらの概念や観念同士を組み合わせて、
新しい別の概念を生み出していく初歩的な段階に同社（DeepMind）が到達しつつある事実が、論文から浮かび上がってきた』 >>487
ドイツ人か
ヨーロッパと日本はアンチテクノロジー・アンチシンギュラリティが多い
そんなにテクノロジーが嫌いならヨーロッパ人と日本人は文明を捨てて自然に帰れ
シンギュラリティに関してはヨーロッパと日本には1ミリも期待してない
だからあれこれ口出ししないで黙ってろ >>471
自分は悲観論者なのでシンギュラ来ても超格差社会かディストビアだと想像するけど
宇宙進出（開発？）関連に重点をって所は激しく同意
生きてる内に系外惑星の詳細な可視光画像を見たい >>493
実際にろくな反論もできない文理以前の低能ニートの分際でえらそーだなお前
存在もしない反テクノロジー派なるものを作り出してるやつ
世間はテクノロジーの影響をわかってない（実際自分はテクノロジーに関して全く無知のくせに）とか叫んでるやつ
ろくに教養もないDQNだから人文科学について全く知らず根拠のない理系崇拝を持ってるやつ
こういうニートが多すぎるだろここ >>495
何だこれは…汎用人工知能のほぼ萌芽ではないか ほらこういうの>>496
＞ヨーロッパと日本はアンチテクノロジー・アンチシンギュラリティが多い
こいつどこからこんないい加減な根拠０の妄想生み出してるんだろう？
日本やドイツにアンチテクノロジーが多いってソースなんて会務だろうに妄想炸裂させてるんだな
つーかシンギュラリティみたいなオカルト思想こそがまさにアンチテクノロジーだろうに >>497 タイプミス訂正
×ディストビア
〇ディストピア >>498
朝から晩までご苦労さんですな
キチガイ野郎 >>500
お前はいったい何がしたいの？
無職だめ板で暴れて来いよ 結局シンギュラリティってのはただのカルト思想なんよ
なさけない現状を一発で変えてくれる大きな外部からの力に期待してるだけの
人生がつまらないなら、ネットであほでも手に入る情報を脳に流し込むのをやめて
勉学や仕事に打ち込むという人間として当たり前の生き方をしろ ID:a58qu6/d
お前、このスレに粘着したのって今年からだよな
去年は居なかった 早く日本やヨーロッパはアンチテクノロジーが多いってソースだせよハッタリニートのくそ野郎 >>504
>勉学や仕事に打ち込むという人間として当たり前の生き方をしろ
このコメントはそっくりそのまま巨大ブーメランとして
キチガイID:a58qu6/dに突き刺さるよね >>506
>勉学や仕事に打ち込むという人間として当たり前の生き方をしろ
ほら、自分の発言だろう？
こんなスレからサッサと出て勉学や仕事にてめぇが打ち込めよボケ ここって日本はテクノロジーに否定的な古い人間が多くい
中国やアメリカはテクノロジーの導入に前向き
自分はテクノロジーをわかってるから中国やアメリカに期待してる
みたいなニイトが多すぎだよな
テクノロジーのひとつであるインターネットの恩恵だって
日本のほうがアメリカや中国よりずっと大きいのに
基本ネットインフラは人口密度高い国のほうが発達してる >>502 >>503
その人平日も休日も毎日朝から晩までID変えて何がしたいんだろう
働いてるのかな？別にどうでもいいが
まっ黙ってNG登録して相手にしないのが一番
孤独なかまってちゃんは餌を与えず飢え死にさせよう >>509
>テクノロジーに否定的な古い人間
お前自身のことじゃねぇかよ
自己紹介おつ >>510
お前みたいなニートと違ってそんなことしねーよｗ
ID変えてるとか相変わらず妄想ばっかだな
早くソース出せよ低能底辺DQN
ぼくちゃんが主張してるから日本やドイツがアンチテクノロジーなのっていってるだけだぞお前
早く死ねくそニート 嘘ばっかりついてる低能は
自分がやってることを他人もやってると思い込む
全く根拠もないのにドイツや日本はアンチテクノロジーという妄想を炸裂させてます
こういうDQNって純粋な害悪でしかないよな
頭弱いし恥さらしだし
死ねばいいと思うね 結局頭が悪いゆえにどこからもソースをひっぱてこれず
自分が妄想炸裂のくそニートであることw証明してしみあっただけだな (そのインターネットを開発したのはどこの国でしたかねぇ....)
(その理屈で行くとシンギュラリティの恩恵は日本が受けることになってしまうけど？？) >>509
中国やアメリカはテクノロジーの導入に前向き
この意見に関しては同意
ではNGにさせてもらう
ごめんね ソース出せない妄想ばかりしてるニートが敗北宣言して終わりか
結局ぼくちゃんが日本で不遇なのは日本がテクノロジーに否定的なダメな国だからだって泣きわめいてるだけのニートか >>505
ID:a58qu6/d
米の弁護士資格者推移（2013年まで）貼ってる奴なら去年からいた
多分、同じ奴だと思うけど（その度に日本の底辺弁護士関連や米の法科学院不人気記事を貼ってるのは自分） >>512-514
ちょっと前まで汎用ＡＩと同様に
ほぼ空想でしかなかった量子コンピュータが
最近になって急激に技術開発が進展している点はスルーですか？ シンギュラリティが来たらみんな死ぬんだから、ケンカすんな https://ifr.org/downloads/press/02_2016/Robot_density_by_country1.jpg
産業用ロボットにしても日本やドイツほど導入に積極的な国もないのに
ドイツや日本はアンチテクノロジーだもんな
結局くそ低能ぼくちゃんは自分がニート底辺なのを社会のせいにしてる妄想炸裂野郎でした >>505
このスレ定期的に変なのが現れるよね
誰か外から誘導してるのか？ >>518
また匿名掲示板でニートが妄想炸裂してるよ・・・ >>522
シンギュラリティというワードを検索した奴がここに行き着くのかも >>524
なるほどグーグルって2ちゃんとまとめばかり拾ってくるからな まあシンギュラリティが宗教だという批判はよくあるし
人生に救いのないニートがこの種の舶来宗教に飛びつくのは仕方がないか https://www.top500.org/news/european-program-to-develop-supercomputing-chips-begins-to-take-shape/
ヨーロッパのエクサスケール スーパーコンピューターは
- CPU にポスト京と同じ ARM v8 SVE (Scalable Vector Extensions)
- Accelerator に open source の RISC-V
- 完成は 2023年 >>522
まぁ、昔から2ch（今は5ch）なんてそんなもんだと思うけど（板やスレにもよるけど）
過疎板でここに集中すると云うのもあるだろうけど
それだけAIが世間に注目、無いしその存在や研究が浸透してると云う事かもね
過疎板の過疎スレなんて、荒らしもいないが、住人もほぼ不在だからね >>518
ニュースサイトなんて発表元メディアの思惑が入り込むからな
一次ソースを求めず
妄想に都合のいい文字の羅列ばかり求めてるのがこのスレのニート もう10時過ぎてる寝ないと
あぼーんの人も寝なよ
イライラしてばかりだと体に悪いよ >>530
実際の資格取得後に、資格が必要な仕事に付けた、付けないの具体的な人数まで記事にされてるのコピペしてあげてんだけど
記憶力も残念、無念な人なのねｗ >>526
量子コンピュータにおける
ここ最近の急激な進歩発展が無ければ
まぁアンタの批判にも多少の正当性があったかもな
だけど残念なことに、そういう段階は既に過ぎ去ったんだわ >>533 誤字訂正
×付けた、付けない
〇就けた、就けない ■ このスレッドは過去ログ倉庫に格納されています
