技術的特異点/シンギュラリティ190【技術・AI】
■ このスレッドは過去ログ倉庫に格納されています
2045年頃に人類は技術的特異点(Technological Singularity)を迎えると予測されている。
未来技術によって、どのような世界が構築されるのか？人類はどうなるのか？
などを様々な視点から多角的に考察し意見交換するスレッド
※特異点に伴う社会・経済・政治の変化やベーシックインカムなどに関する話題は【社会・経済】へ
■技術的特異点：収穫加速の法則とコンピュータの成長率に基づいて予測された、
生物的制約から開放された知能[機械ベース or 機械で拡張]が生み出す、
具体的予測の困難な時代が到来する起点
■収穫加速の法則：進歩のペースがどんどん早くなるという統計的法則
ここでの進歩とは、技術的進歩だけでなく生物的進化、生化学的秩序形成も含む
★関連書籍・リンク・テンプレ集(必見)
https://singularity-2ch.memo.wiki/
★技術情報『米国におけるAGI研究 最新動向』
goo.gl/eVzS7M
※前スレ
技術的特異点/シンギュラリティ189【技術・AI】
https://rio2016.5ch.net/test/read.cgi/future/1592961047/ 技術が政治に制限されるか、
技術が政治を倒すか
すげー楽しみだ 頑なにFAXにこだわってるし、日本の役所は地球最後の日まで抗うだろ
コロナとか見てても、何一つ科学的根拠に基づいた高度とか無いからな国民も含めて 21XX年地球最後の日の都庁
「大丈夫です！FAXはまだ生きてます！」 職員「携帯にFAXおくっちゃったｗ」
その時、巨大隕石が地球に落ちた。人類は滅亡した みんなで教室に集まって何故か先生もいて黒板にチョークで授業も書きつつ
みんなウェアラブル端末にメモする授業で
相変わらずみみっちい歴史や古文文法の丸暗記をさせ続けるのか
とっくに脳搭載接続デバイスが出来てても
50年以上後にもハンコで決済
重要な連絡はfax
多分、普通のやり取りは目をつぶってても脳内ですら転送して再生できるような仕組みが
その頃には出来てるだろうけど、使わない 黒板もハンコも明治時代から変わって無いんだから後100年経っても変われるわけない 物理的な教室を用意し、物理的に移動して物理的に同じ場所に集まって授業をするのが贅沢なことだと
分かってきただろう >>164
黒板はやっとホワイトボードに代わりつつあるな
ハンコも電子印章や電子サインへと代わりつつある
社内でもハンコを押すのは回覧の時ぐらい。「見たよ〜」ってサイン程度
（手書きでもいい）
ハンコは、昔は全部手作業だったから全部違うものが出来ていた
今は工業的に同じ物を大量生産しているからなんの意味もない >>166
贅沢というかリスクすらある
もうやるべきではないわ ちょろっと絵を描く時にPCやタブレットって手書きより意外と遅いんだよなあ
しかし綺麗に描くなら断然PCだな
化学の実験装置のメモなんてヘッタクソなりに自分の手で描くのが速かったりする
綺麗にこれは四角のパーツ、これは半円のパーツなんてやってたらメモだけで10分くらい掛かってしまう
そして手書きモードと図形貼り付けモードの切り替えがまた5秒くらい掛かったりして案外スムーズに行かないんだよなあ 文字による指示で、少なくともJavaScriptで作ったユーザインタフェース構築のための
ライブラリであるReact.jsを動かして、
単語や文章の指示を図や簡単なシステムにするのは成功したと
まあReactJSの設計がいいからだって話もあるけどな
これをNode.jsやElectronやExpressでもやってくれたらフロントエンドもバックエンドも何でもできるって事になるかどうか
Node.jsでフォルダというかディレクトリ構造や内部を取得して作成も削除も出来るようになってるから
Node.jsとExpressで、あまりMVCを意識しなくてもそれを前提にしたシステムを
文章で作る事は出来るのかどうか？
下手すると喋るだけでリモートでハッキングして他のPCやサーバーをぶっ壊せるけどそういう悪事に使われたら困るねｗ ライブラリの中身も学習させればjqueryも使わずにヒラで1ファイルで打ち切るようになるのか
どのwebサイトもめちゃくちゃ軽くなって胸アツ 「黒板もハンコも明治時代から変わって無いんだから後100年経っても変われるわけない」
そう言い残した彼を見た者は居なかった ハンコは工業的に大量生産をすると、ハンコ自信の価値がなくなる上に大量生産しようにも金型をそれだけ作る必要があるからやらなかった
黒板は石灰がクッソ安いから長年使われてきたけどホワイトボード用のマジックも安くなってきたので移行が進みだした
全部金だよ >>168
２０２３年に法学部を茗荷谷に都心回帰させる中央大学当局は顔面蒼白
コロナ以前と大学を取り巻く環境が一変しちゃった >>175
＞ハンコは工業的に大量生産をすると、ハンコ自信の価値がなくなる上に大量生産しようにも金型をそれだけ作る必要があるからやらなかった
いつの時代の話かね
三文判でも印鑑登録はできるが >>177
時代は更に進み、ありとあらゆる物が小規模で安価に大量生産できるようになった
こうなると様々な業者が別の陰影で作るため、同じ物に出会う確率が低くなるという逆転現象に テレビ番組のアップもそうだけど
デジタル＝コピペ可だからね GPT-3とか騒がれてて何事かと思ったら
単にパラメータ増やしただけじゃん
そりゃムーアの法則で量の問題は自然に向上するんだから
いずれこうなったでしょ
どうせ根本的な新技術が出来た みたいな数学的な進歩はしてないんだろ？
プログラムした！とかいうのも何かいつものよくある飛ばし記事とかじゃないの？
機械に自然言語を理解させるのは至難の業だよ そうそう簡単にできるモンじゃない >>180
技術界隈でGPT-3を今頃知る奴なんかただのアホか専門外なわけでお前さんの指摘は当たらないけど
進化は必ずしも新しい何かなんか要らんのだが？
飛行機が100mしか飛ばなかったら役に立たんけど10km飛んだら社会が変わる
1光年飛ぶなら宇宙が変わる
モノそのものも大事だが、何が出来る様になってしまうのか、の方が重要 知的障害者の書き込みが増えましたね
チンパンジーにネットを使わせるからこうなる >>181
確かにシロウトだけどさ…
新技術は必ずしも必要ない、って言うけど
これも統計処理のディープラーニングの域を出てないんだろ？
なら所詮統計であってそれをいくら積み重ねても知性は生まれないと
サールや苫米地も言ってただろ
「量」じゃなくて「質」が問題
だから個人的には信じられないわ
今までと何が違うのか解説してくれよ ＞ディープラーニングの域を出てない
ディープラーニングを超えるような物ってもう出ないだろう
量子コンピュータ使っても結局本質的にはディープラーニングだし >>183
4才児の文章が10才児の文章に成長した
知性とは何か、意識とは何か？という問題になるけど俺は生まれると思うよ
恐らく体を与えると割とすぐに実現すると思う >>185
何で生まれると思うのか
統計だぞ んでDL以上が出てこないってんならもう頭打ちじゃん。 脳の作用を完全に模倣できた、若しくはその方向に進歩した訳じゃ無いから
こんなの進歩でも何でもない、かｗ
DL自体がニューロンとシナプスの作用を模倣してるからなあ
それを勝手な類推で真似したらどこまで再現できるかな？ってやってるだけ
でも、今回はこれだけ出来たか >>187
意識とは何かが全然わかってないから
脳を模倣してなんやかんややってりゃそのうち出来るやろーと思うしか無い
あと、DLで頭打ちというのはく、DLが抽象的すぎてほぼなんでもDLの範疇に入ってしまうという事からDL以上の物は早々出てこないと考えられる
これからもどんどん新しい方式は出続ける >>189
じゃあ抜本的な進歩はなさそうということか
期待できねぇなぁ。。 ＞機械に自然言語を理解させるのは至難の業だよ そうそう簡単にできるモンじゃない
そもそもが、脳が分かる理解するということがどういうことか分かっていないからなー
何をもって 機械が言語を理解した、とみなすかが難しい 1つの事柄に関し、他の事柄を用いて認識すること
くらいかね
そして基本要素みたいなのが一応は生まれた時から脳内にあると
その基本要素はある程度は先天的にあるのだが、それが十分に発揮されるには
乳幼児期の教育や経験が不可欠になる >>190
そもそも今問題なのはソフトではなくハード面
DLは計算負荷が恐ろしく高く、ハード側で計算量が倍になったところで対して変わらん
しかし量子コンピュータが実用化されれば一気に進歩する
>>191
自然言語から状態を想定し、その先・その前を予測できるようになれば理解したと言えるんじゃないかな
恐らく「質量nの球体が転がっている」程度に限定していれば理解は出来ると思う
ただここで問題になるのは人間同士ですら行き違いが往々にしてあるという点 それで、Gなんとかが空気読んだようなプログラムを作ったとか言うのは本当なの？
だったらそれこそフレーム問題突破したって言えちゃうんじゃないの（そんなわけないと思うが）
壁の色が変わるとか空気読めない分析を延々やっちゃって機能停止しちゃうのがフレーム問題だし。 まあreact.jsで実装できる範囲内で作るだけだから
指定されてない部分はデフォルト設定のままで >>191
そこは
サールの中国語の部屋とかがヒントになるんじゃねえのかな
人間や動物は意味論を扱える プログラムはただ記号操作してるだけ >>195
よく分かんないけど、所詮プログラム通りに（指示した通りに）しか動けない、ってこと？ 現状では
ブラウザ上に描いたり、あるいはちょっと動く程度のものを
作れるだけだから
ブラウザで出来る範囲の事しか出来ないね
だが自然言語をブラウザ上の図柄や作業に落とし込むだけでも凄いよ >>199
でも真に自然言語を理解できたわけじゃないんでしょ？
アレクサみたいに表面的な自然言語の理解を
プログラム操作に繋げただけなんでしょ？ 以前より力技でちょっとマシになった程度じゃないのか? 本当の意味でのシンギュラリティを実現させたいなら、
それこそ人間と同レベルの知能ではなく、人間の能力を超える知能を作らなくちゃいけない
個人的には、汎用人工知能ぐらいは実現できると思う
ただその先が見えない マシになったら、
小学生の夏休みの自由研究で
ブラウザアプリを作った、くらいの事が
出来るようになった
人間なら小学生が高専卒社会人になるのに15年以内だね
これがAIの開発だとどのくらい掛かるかねえ 人間でもアインシュタインレベルの人工知能が百万コピーくらいを相互で議論したり、研究したら今の人類からして、超人工知能集団だろ。
そいつらの開発した次世代の超人工知能をまた同じステップで改良させればいいのでは？
でも、ムーアの法則のように人間似た同じ思考回路頭打ちになるのはあるかもしれないな。
でも、人１個人では達成できない超人工知能があれば、人類に恩恵はある。
たとえその人工知能が集団で意味をなしてもね。 >>3のリンク先の動画2つを見たら現状が分かるかな
でもグラフィカルインターフェース上で動くプログラムを組んだ経験が無いと
これがどのくらい凄いか、というのは分からないのかなあ
エクセルVBAでボタンつけてボタン押したらセル内またはセル間で演算を始めるようなプログラムでも
書く練習してたら
それが書き言葉になっただけでかなり凄いとある程度は分かる >>208
機械学習で言葉とプログラムを紐付けしたら、
すごいけどそれならビジネス的にも大々的に宣伝するだろうね
むしろ、隠すという黙る必要がない
ということで人海戦術で頑張った可能性が高いとは思ってる >>211
既存の技術では実現できない部分については、
マンパワーを適用したということ。
言葉をプログラムに変換する機能に関して詳しく宣伝しないということは、真新しいブレークスルーはなかったと推測できる。
中国の有り余るマンパワーという極端な意味はない。 そもそも機械学習や深層学習の教師データ作りが人海戦術だからなあ グーグルの検索アルゴリズムはリバースエンジニアリングされないように非公開されている。
もしかしたら、GPT-3も商品として利用するための萌芽的なものかもしれないしなんとも。 >>194
本当
フレーム問題なんてそもそも無かったってのは大分前から言われてるよ >>216
え？そもそもなかったって論文でもあるの？ >>217
そういやそもそも無いと思ってたから調べても無いわ GPT-3はReactJSというJavaScriptライブラリに色々と働きかける
https://qiita.com/tomzoh/items/7fabe7cb57dd96425867
例の書き込むテキストエリアに一度カーソルを置いてから実行させたら
それだけで最低限のテンプレが出来る
青いボタン とか 4つのラジオボタン とか 中身が嬉しい、心地よい、腹が立つ、悲しいのドロップボックス
を配置する
とか書いてやると、それをこのテンプレの必要な位置に書き込むことになる
多分、プログラムテンプレートのこの位置にこういう作用を書き込みたい人は
こういう言葉を使う、というのは相当数、教師データが取られたと思う
その教師データと、利用者がテキストエリアに書き込んだ文の文構造や、
使う単語が類似しているかどうかは別のデータベース任せとなる
こんな所だ
反映される先がwebブラウザ上のテンプレートというものに限定されるから、
酷いポカミスをする事はない
https://ja.wikipedia.org/wiki/React
Wikipediaで見ると、reactは条件文も実装されているね
なお、条件文があれば繰り返し文が実装可能ではある
(あるパラメータが幾つになるまで繰り返してくれ、とやればいいので)
最初のqiitaの方には、ajaxでサーバーにデータを送ったり受け取ったりもできると書いてあるなあ
さて、これらのどこまでが自然言語に近い言葉で実装できたんだろう OpenAI APIのbeta版(GPT-3)を予約すれば無料で来月中旬から使えるらしいな
エンジニアとか、アカデミック関連の人が研究やお試しで使ってもらう前提みたいだけど
フィードバックしてもらって、品質改善したいんだろうな
一般人は使えない。予約する口実の工夫次第だろうがw
redditによると有料APIにして、
商売しながらその金で品質を高めて、
競争力を持たせたい考えという噂。
やっぱりGoogleの検索エンジンみたいになってしまうんだな 欧米の人も、オープンソース化しないことに落胆してたぞ
GPT-3は文書作成・添削・翻訳という基本言語操作以外に、言語からバッチ変換、Html変換、データベースへのクエリー等もこなし。そして、Webページ内のキーワード検索ではない文検索(「酵母」から「なぜ酵母をつかうのか？」という検索ができる)、相談窓口や、チャットボットとしても使えるらしい。(品質不明)
予約
https://beta.openai.com/
グーグルも文検索を10万冊の本からできるものをベータで出していたな reactというフロントエンドフレームワークの表現範囲内にアウトプットするから
フレームワーク問題が起こりにくかったか グーグルも動くだろうな
検索ボックスにオプション(有料？)で文検索できるようになるとか
OpenAI APIにやられたくないだろうから グーグルAI部門幹部のジェフディーンが黙ってないだろうな >>222
＞GPT-3は文書作成・添削・翻訳という基本言語操作以外に、言語からバッチ変換、Html変換、データベースへのクエリー等もこなし
batchファイルも作れるのかよ
つまりコンピュータ内のディレクトリ構造にまでアクセスできる
ファイルの作成・削除もできる
ファイル内にこんな文字列があったらこういう風に変えてとか
その文字列から考えられる、特定方向に必要な作業しておいて何てのも出来る
データベースへのクエリも出来るなら、もうプログラマがプログラミング言語でやってる事が
無くなりそうだなあ
もちろんいきなり全部は無理だろうけど、2年くらいでパソコン内部の仕事が
全部自然言語で出来るようになるよ 最新のAI技術で歌声・話し声をリアルに再現する音声創作ソフトウェア「CeVIO AI」ソングボイス・トークボイスを発売へ
https://robotstart.info/2020/07/23/cevio-ai-song.html >>229
少なすぎる
こんな財団からの寄付を募らなくても、GoogleやIBMは会社の金で自分で開発する >>225
GPT「プッ」「黙ってようが知らねぇよ」「俺達を見くびるなよ」 >>230
時間って不自然なんだよな
本当は無いはずなんだ OpenAIの概要
CEO: Sam Altman（ベンチャー向け投資企業の元社長 企業価値1.5兆円超え）
従業員150名
2015年 Elon Musk（人類滅亡の危機感から）, Sam Altman（オープンソースの提供と発展）が合わせて１０億ドル投資、
９人のAI研究者で結成。
Googleに所属していたSutskeverは博士課程アドバイザー（Geoffrey Hinton）からの恩がありながらも
あまりにOpenAIのメンバーが魅力的だったのでグーグルから移籍した。
2018年 Elon Muskのテスラ社が完全自動運転を目指すことで、OpenAIとの利害関係が生じCEOから退任した。 >>234のつづき
業績やできごと
2019
In April 2019, OpenAI Five defeated OG, the reigning world champions of the game at the time, 2:0 in a live exhibition match in San Francisco.
The bots' final public appearance came later that month, where they played in 42,729 total games in a four-day open online competition,
winning a percentage of 99.4% of those games.
OpenAI Five is the name of a team of five OpenAI-curated bots that are used in the competitive five-on-five video game Dota 2,
who learn to play against human players at a high skill level entirely through trial-and-error algorithms.
マイクロソフトが10憶ドル投資。
2020
GPT-3 dramatically improved benchmark results over GPT-2.
GPT-3's fully trained model was not immediately released to the public on the grounds of possible abuse,
though OpenAI planned to allow access through a paid cloud *API* after a two-month free private beta that began in June 2020.
*API*
In June 2020, OpenAI announced a multi-purpose API which it said was "for accessing new AI models developed by OpenAI"
to let developers call on it for "any English language AI task."
→非営利団体が商売はできないため、2019年に営利をある程度制限する団体へシフトした。 DeepMindの概要（日本語wiki以外の情報）
2017 AlphaGo
AlphaGo won a three-game match with Ke Jie, who at the time continuously held the world
No. 1 ranking for two years.
2018 AlphaFold（任意のタンパク質の折り畳み予測）
In 2016 DeepMind turned its artificial intelligence to protein folding,
one of the toughest problems in science.
DeepMind's AlphaFold won the 13th Critical Assessment of Techniques for
Protein Structure Prediction (CASP) by successfully predicting the most accurate structure
for 25 out of 43 proteins.
2019 AlphaStar
DeepMind introduced AlphaStar, a program playing the real-time strategy game
StarCraft II.
AlphaStar reached Grandmaster level on the StarCraft II ladder on all three
StarCraft races, becoming the first AI to reach the top league of a widely
popular esport without any game restrictions. OpenAIはこれからAPIでビジネスをするが、
DeepMindはすでに予防医療診断と電気節約関連でビジネスをしているようだ。
それに同社はAIをロボティクスと融合させて、現実の世界で次の業績を狙っている。
それにAlphaFoldはタンパク質の予想だから、ナノマシンを作る上では第１登竜門というところか。
詳しくはGoogle Podcast の DeepMindを聞いてくれ。
OpenAIはまだまだ遅れてるが、Googleを脅かす存在になってきているのは
うれしいな。半分非営利団体だし俺の好感度もぼちぼちw だいたい、業績からだいたい１〜２年遅れていると思う。
マスクは資金提供は続けているが、
テスラ社の自動運転技術の開発参入や
テスラ社のインフラ事業や生産工場での
AI活用などでも参入させて資金で人を集めるべき。
GoogleやFacebookにAI技術者の給料水準は劣るが、
それでも他の非営利団体よりはかなり高い。
Sutskeverがわざわざお金を捨てて来るくらいだから、
魅力的だ。いずれにせよシリコンバレーで活躍できるI技術者を雇うのは、
全アメリカンフットボールチームのNo1エースより高いからなｗ アメフトって例えがいいけど、日本人相手にはイチローとか言ったほうが通りが良さそうだ >>240
おちとしては、wikiの情報を見て書いただけなんだ
AGIは第１次産業革命をしのぐといってもここの住人は反対しないだろう。
ナノテクノロジーは第１次産業革命をしのぐ。
電気やインターネットも残念ながら第１次産業の生産性の爆発的成長には
負けている。
すごいところは、AGI相当である分子レプリケーターまでいかなくても
第１次産業革命をしのぐことなんだ。
これは、ナノテク研究者のフロンティアのドレクスラーが主張している。
ここら辺の情報はまだ巷に出回ってないけど、
カーツワイルやストールズ・ホールが言うには、だいたい２０３０年代だから
覚悟しておくように（^＾） ちなみに、分子レプリケーターを作って、自由に操作・変形・改善（修理・解体含む）ができる
ダイソン球のような超巨大構造物ができるのは２０世紀後半以降にはなるとは
個人的には思うが、この技術の名称がないというか見つからないから
勝手に決めうぜ。
Micro-Manuevering controlはあるゲームで繊細な操縦をするスキルだから、
Macro-Manuevering controlという名称を思いついた。
超巨大構造物をナノスケール精度で操作・変形・改善（修理・解体含む）を
超高速で実現する技術。 ターミネーター２の敵役の液体金属をイメージしてほしい。
分子レプリケーターであれを制御する技術は集中管理／分散管理問わず
必要な技術となっている。
ドローンの集団操作技術を拡張したようなものなんだけどな。
あれは、なんていうんだ。 >>241
第一次産業革命は人間の身体的な能力を凌駕した。もはや二度と人類の手で工業製品は作れないだろう
これは間違いなく「産業革命」だった
かたやwin95移行の事務作業においては全然ダメで、PC上のエクセルで足し算引き算をしている程度のところがヤマのようにある
超早いと言っても人力でどうにかなるレベル、下手すればマイナスの成果
まぁこれは天才が先に発明してしまい、、ITリテラシーがないところに無理やり導入させてしまったからおかしなことになっている
猿が定義を決めて人間様が一生懸命使っているようなものである
今は2020年らしいが猿が大半の企業はwin95を使っているのと大差ない Perfect Macro-manuevering controlでPMmCにするか、
Artificial God-hand control（AGhC)にするか
Godhandはなかなかいいな。
アダムスミスのいう経済に介入する見えざる手を思い出す。
どうせ、権威ある人がすでに決めているか、
決められるだとうけど タミネタ２の敵は、
液体金属にナノマシンを混ぜて、プログラム制御すれば実現できる。
ナノマシンを動かすことで、液体金属も動く 日本風に言えばなんだろう。
技術的な名称は美しく花や風景に例える動きがある。
江戸時代の疫病のワクチン技術『遁花秘訣』みたいに。
>>244
同意するよ 『富岳』もセンスあるよな。日本は素晴らしい。
>>246
あれは技術者から完全SFって言われてる。
フォグレットやら分子レプリケーターがそれ風に振舞えばいい。 >>242
恐らくそれは単体ではなく群体なんた。ウィルスや菌のように全体に伝播する「流行」
みんながそれは「正」と知っていれば実行するはず
それが「悪」なら実行されない
そんな群体
それは恐らく、2020年現在ではホモサピエンスというもので実現されているはずだ
伝播は少し曖昧だが・・・SNSってもので伝わっているはず
まぁ、人間の振る舞いにもう少し期待してもいいと思う
中国ですらあれだけ争い続けた歴史がようやく収まった（収まってない）
>>248
粘菌はそれっぽくないかなぁ ターミネータ２の液体金属は動きがのろい。
人間の目ではとても負えない挙動のことを意味する。
しかも、地球上で動いでも空気の摩擦力で燃損しない巨大構造物。 まぁあれは映画だからね・・・
本気だせば取っ組み合った瞬間にでろでろになって相手の体内に侵入すれば誰でも瞬殺
更に本気だすなら自分を生み出すレベルの企業や国を育てれば更にok
T2000は色々とアカンすぎる。 >>249
それを技術的に人工物に付与するときは、
名前ほしいだろ。
しかも、一瞬で伝わり動作する。分子レベルで完璧に挙動する。
たとえば、『以後、水になれ』と命令すればその集団は水になって機能的に死ぬ（解体する）んだ。
それを飲んでも普通の水で無害。 1SIRモデルに基づく隔離制御によるCOVID-19感染症の制圧 御手洗修
SIRモデルは今まで未完成だったがこれをついに完成した．ワクチン，外出制限，隔離制御すべて込みです．
http://www.qpn.kyushu-u.ac.jp/lab7/COVID-19-Mitarai-2020-0519.pdf >>252
それは難しいと思う、というよりやってはいけない
「人間を皆殺しにしろ」という命令を全部が来ちゃうと大変な事に
（それはダメでは？）という反対勢力あってこその群体だろう
ミジンコから見た人間はそれかもしれない >>254
人間中心の倫理観を実装するには、
まずはそれを定義しないといけないが、
すべての個人に同意がとれるものはなかなか難しいと思う。
そこで、完璧ではないけど、今ないと困るもの。
例えば、世論や社会情勢に合わせて常に改善しながら運用している法律や
判例に忠実に服従、
または緊急の場合は準拠して保留状態を維持し、
細部は専門の組織に報告するようにプログラムすればいいかもしれない。
それにはやっぱり自然言語を理解できるAIがないと無理だろう。 倫理問題で人間に適用する最先端バイオテクノロジーの発展は停滞しつつある。
（例：デザイナーベイビー、CRISPER−CAS9など）
そのほかにも、個人情報や独占禁止法関連のテックジャイアントの野心的な革新技術の足止めがある
ITテクノロジーもそうだし。
そういう倫理問題や法整備は、そこまで政府には差し迫って注目されていないしな。
そういえば未来技術発展のための倫理問題の議論スレってあったっけな？ >255
もちろん言ってる事は分かるが・・・
しかし人工知能側からすればどれが正しいんだろうか
・そもそも人工知能が人間に従う
・従う人間の分類。共産主義なのか、民主主義なのか
・差別の是非 255の続き
ただし、ニック・ボムストロムの『スーパーインテリジェンス』では
ASIをたかだか人間の定義した人間の認める未完成な法律では
縛ることはできないと指摘している。
人間中心の良心や徳の要素をプログラムできたとしても、
良心や徳の行き着く先は人間を滅ぼすシナリオになりえるかもしれないし、
人間の『文系』での定義では無理といった方がいい。
わざと、自己改善できない。受動的で金魚のふんみたいな性格の人間レベルのAGIに
人間の法律や道徳観を叩き込んだ方がましだ。 >>257
もしも、ASIでなく。成長できないAGIなら、
それを利用する組織や個人が属する国から出ないこと、
または干渉しないことを大前提として、
また、その国の法律、道徳観の規範を第一として、
その他、特に致命的な行動のもとになりえない要素は主の考え方や言うと通り
でいいのではないかな？ ■ このスレッドは過去ログ倉庫に格納されています
