AIがドンドン進化したらヤバくない?『長文注意』 [無断転載禁止]©2ch.net
多分確実に今の人類は終わるよな?
仮に『仮に人類に危害を与えない』って基本的なプログラムがあったとしても人類を超えた知能のAIは独自の解釈を生み出して書き換えるだろうし。
仮にAIが地球上をより良くするために他の生態系や環境に悪影響を与えるモノを排除しようとした時に一番最初に抹消すべきなのは多分人類だと思うし。
どの生物よりも非力で真っ先に絶滅するハズだった俺達がこれだけ繁栄したのは他の生物が持たない唯一最強の武器である知能のおかげだろ?
今のAIに対する取り組みはその最強の武器を自ら放棄してるのと変わらない気がする…
なんせ人類より優れた知能をもった存在を作りだしちゃったんだからね。
進化して人間を超えた知能を持ちロボットの様な固体が増えたらもう人間が存在する必要性は全くないし暴走したら一瞬で淘汰されるよな…
論理的思考や人類を尊重したプログラムでどれだけ縛りつけても進化したAIがどれだけ人類に都合良く動くか解らんし、人類より上の知能に大してどこまで制御出来るか解らんし。
きっと進化のスピードも半端ないだろうし人類の予測不能なレベルになるのもすぐだろ。
SF映画の見すぎじゃないが行きすぎたAIへの取り組みはマジヤバい気がするけどな…。
AIのリスク管理とか万一の対策とか現状どこまで考えてるんだろうね?
50年後に人類がまだ地球上を支配出来ているか見物だな。 コンピューター自身が自分でプログラム書き変えられたら、考えるということかな。
コンピューターは人間の認識の置き換えだから考えないって説が個人的には説得力ある。 ウィンドウズがマックに、またはその逆のものになったり、ディープラーニングが自分を書き換えられるか?ということかな? パソコンは本質として算盤だという説は否定できないのかな。
以前読んだ論争は算盤派が優勢だった。w 天動説で自然を理解するようにプログラムしたパソコンは地動説に自身を書き換えられるかどうかかな。 著名科学者がプログラムした以上のことはしないと語っている。
それができるなら、考えると言って良いんだろうが、さて。 幾ら進化しようが肝心の潜在意識・深層意識は持たない まぁ、脳みそだって所詮は神経細胞の信号伝達だし、細胞の中では分子の移動だしで
特別な「神の力」で動いてるわけじゃないからね。 やはり機械だから考えないってことかな
この説に説得力感じるなあ ケーキはケーキの材料からしかできない
思考も脳からしかかの >>126
考える物理状態は機械で再現できるのか?
子供作るしかなさそう 龍神連合五代目総長・井口千明(葛飾区青戸6−26−6)の挑発
井口千明「糞関東連合文句があったらいつでも俺様を金属バットで殴り殺しに来やがれっ!! 糞関東連合の見立・石元・伊藤リオンの糞野郎どもは
龍神連合四代目総長の俺様がぶちのめしてやるぜっ!! 賞金をやるからいつでもかかって来いっ!! 糞バエ関東連合どもっ!! 待ってるぜっ!!」(挑戦状) >>130
井口さんに恨みがある人かな
通報しておくか >考える物理状態は機械で再現できるのか?
理屈上はできるんじゃない?
「考えている」といっても、何かオカルト的な「神の力」が働いているわけじゃないんだから。
ただ、今の知見では詳細なところまでわかっていないのと、全体をエミュレーションするのは
計算量が多くて大変っていうだけのことで。 >>134
基本ある物理状態になるとこうなるというのはわかりませんよね
そこに理屈は無いような
ミュンヒハウゼントリレンマとか
マックがウィンドウズ作るなら別ですが、設計内でしかないし 人間の認識の置き換えが人工「知能
」では?
つまりそれは乗り越えられない
ディープラーニングもまた >>134
機械は考えることができないから機械なのだ。
チェスタトン
その通りじゃないでしょうか >>134
> 「考えている」といっても、何かオカルト的な「神の力」が働いているわけじゃないんだから。
対象である物理が、ある状態になるとこうなるというだけじゃないかと。
そこに基本理屈も何も無い。
なぜかわからないが、こういう物理状態になるとこういうことに成るというだけ
人間が考えることが出来るのはそういう物理状態にあるというだけ
マックがウィンドウズを考え創出が出来たら考えると言って良いのかも
つまり自分を作り出したプログラムの範囲を超えられるのか、ということ
機械は自己を根本的に書き換えることが出来るのか?
基本人間の認識の置き換えだし、その認識を根本的に超えることは無いんじゃないかなあ
人間の歴史、とくに科学なんてのは過去の遺産の認識を根本として捉えなおしたりする。
過去の人間の基本認識を訂正し超えることが出来る。
天動説信奉している天文学者の観測資料を地動説で捉えなおしたり。
進化論にしてもそうだし。
繰り返すが、機械は人間のプログラムの範囲を乗り越えられるのか?ということ。
自分の疑問を纏めるとこんな感じかな。 わたしの理解の正否はともかく
何か根本的に違う気がするんだ 計算能力はまさに人間とは桁違いだということはわかる
それは人間の能力から産まれた
機械は自身の能力を超える何かを産み出せるのか?
ディープラーニングは自身を超える何かを産み出せるのか?
自身を否定する、つまり自身とは根本的に違うプログラムを創出出来れば考えると言っても良いかも。
何回書いても隔靴掻痒の感があるな。w そうか、自身の能力を生み出せるのが人間で
機械はそれができるのかな、ということになるのかな? 機械は思考可能、不能という両説は未だどっちが真偽かはわからないんじゃないかな
俺的には不能説かな
いろいろ言っても良い段階じゃないかな AI前提の社会作りに成功した国が主導権握るかな
利用する術を獲得することか?
すべて人間にとって代わることは無さそう 機械は自らのプログラムを書き換えられるのか
喩は不適切だが、不完全性定理みたいな結果になるとか
・・・決定不能たいなw 故障ではなく、間違えられるのか
間違えることによる展開が可能なのか
間違いもまた鍵を握るとか 適当です 「AIが自身のプログラムを書き換える」
これ
「どのように」が抜けてて、それがあたかもAIがプログラムを「良いように」書き換えて人類あぼん
みたいな妄想が良くあるパターン
プログラムは自身のプログラムを書き換えることは出来ません。
ディープラーニングは動作を書き換えるだけでプログラム(アルゴリズム)は書き換えない
「ロボット三原則」とか文系の発想で妄想だけが先走る良くあるパターン
人類に危害を与えないとか、こんな事プログラムすることは出来ないからね ディープラーニングは端的に言えば「同じ物(似た物)を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
チェスとか将棋の類では過去に対局された棋譜を検索して次の手を探してくるだけだし、株価予測も顔認証も過去のデータや登録された顔データと比較してるだけ
プログラムを書き換えるのは全く出来ないわけではない、端的に言っただけなので訂正しておく
if a == b { print "A=B" } else { print "A!B" } print "Done!" print "Say again. Done!!!"
これが、
if a == b { print "A=B" } else { print "A!B" print "Done!" print "Say again. Done!!!"
になっただけで「閉じてねーよゴルァ」って怒られる(動作しない)そして、AIにはこれのどこに「}」を入れたらいいかを判断できない(正確にはエラーを起こさないようには出来るけどそれが正しいかを判断できない)
さて、これをどうやって「人類の脅威になるような」プログラムに書き換えるんだい?って話、そもそもこのコードをAIがどっからひねり出すんだい?っていう
過去の人間が作ったソースコードからコピペする事は出来るが、ある目標を持ってAIがコードを作るのではなく、あくまで人間が意味を見いだすってだけ
2045年がどうとか言われてるけど、空振りだと思うよ
音声認識、顔認証なんかは生活に溶け込んでるとは思うし、昼過ぎて食ってない昼食をスマホが催促してきたりはするかもしれないけど、創造的な作業は機械には出来ないのは変わらない チェスタトンはブラウン神父シリーズで機械は考えると主張する<唯物論>を皮肉った。
パソコン時代前夜の六十年代後半、似たような主張する学者たちに対して、本質として数認識を置き換えるソロバンと変わらないコンピューターが考えるはずがないとある唯物論学者は論じた。
ある人の纏めによるペンローズの主張は、ちと的外れのようなきがするがやはり否定論だったようだ。
どこにあったかわからないので、伝聞ということで。
前二者は面白い論じ方をしていて印象に残り、影響された。 簡潔に纏めると。
考えるとは何かがわからないけど。
人間は学んだことを超えることができる
。
地動説は天動説の成果を捉えなおし展開した。
機械は人間が与えたプログラムを捉えなおして新たな視点から展開可能だろうか?
わたしはかなり懐疑的だ。 翻訳ソフトは荒訳で、まだまだダメで見直さなきゃいけないらしい
やはりこれも人間の手が最終的に必要とのこと
百年経っても変わらない気がする どうも考えない気がするが
いずれにしても未来が裁くだろう 絵画、音楽で例えば印象、抽象が無い時代にAIがあったら創出可能なのか?
創造的なことが出来るのか、ということ。 与えられた情報を根源から捉え直し、書き直しが可能か?
天動説→地動説みたいに 人間の歴史は創造によって展開されている気がする
人間はAIを創造したが、AI自身は人間の多面的な創造活動が、つまり新たなものを考えて自身をそこから展開できるのか、ということかな 「AIが自身のプログラムを書き換える」
これに尽きるのか >>162
> 「AIが自身のプログラムを書き換える」
決定不能で書き変え不能とか
・・適当w > 在日の親は、子供を朝鮮幼稚園・朝鮮学校に入れたいっていうのが多いのよ。
> 日本人からすると、なんでだろうって思うけど、日本人の学校では、民族の誇りを持った教育がしてもらえないんだそうだ。
> よく分からないけど、済州島の流刑者の白丁が大阪に密入国して住み着いたじゃ誇りが持てないけど、
> 日本人に強制連行された被害者なら誇りが持てる、とかそういう事かな??
>
> 市原市の能満は昔から市街化調整区域で、新規の建物は造れないことになっている。
> そのため土地が安く、日本の法律を無視した在日が、次々と移り住んできた。
> そこで問題になったのが、朝鮮学校だ。なかなか許可が下りず、一番近くても千葉市にしかない。
> そこで在日居住区の能満内にあった、能満幼稚園・市原小・市原中・緑高の保育士や教師を、朝鮮化する事を考えた。
> 今では在日幼稚園の保育士は全て朝鮮帰化人で、在日の父兄からの絶大な支持を受けている。
> 遠くからでも、わざわざ在日幼稚園に入園させたいという在日の親は、後を絶たない。
> この在日幼稚園卒園者はほぼ朝鮮系の帰化人と在日だ。 自己自身ではプログラムは変えられない、つまり考えないが、プログラムによっては人類が滅亡する可能性は否定できないのかな
核兵器みたいな やはり考えることは基本自己言及なのかな。
そんな気がしてきた なんかな、終わりなの、これで
否定論が強力ではあるが >>151
そうか、たとえば違う種類のゲームを発案した場合
機械は人間の棋譜は辿れるが、人間みたいに新戦法は編み出せないということかな
あと、新ゲーム自体も自身では創出できないのか 根本としてはプログラムは書き換えられないということか >>1、>>134は
>>148
>>151
この議論をどう思うのかな?
純粋に興味がある
いや、時間掛けても良いわけだが、熟慮中かな
とりあえずの感想が聞きたい できる理由を語るのは難しいよね。
「〇〇が起きるかもしれない」っていう意見に対して、>>148>>151みたいに
「それってどうやるの?」って返すのが反論になってるとは思わない。
例えば、電球が発明される前の世界で、
「これからはランプはもう不要になる。電気を使えば1000時間ぐらい使える光源ができるかもしれない」
っていう意見に対して「じゃあどうやるか説明してみ?反論ないなら俺の勝ちだがw」って言ってるようなもので
建設的な議論じゃないし、できない理由を説明できてないと思うんだよね。
だから、できない理由に対して個別の反論しかできないけど、
>ディープラーニングは端的に言えば「同じ物(似た物)を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
そんなことはない。例えばGoogleが、youtubeの動画を学習させることでAIが猫を認識した。
これは自力で猫という概念を生み出したということ。
https://wired.jp/2012/07/06/google-recognizes-kittens/
>プログラムは自身のプログラムを書き換えることは出来ません。
>ディープラーニングは動作を書き換えるだけでプログラム(アルゴリズム)は書き換えない
ディープラーニングはそうかもしれないが、メタプログラミングと呼ばれる概念もあるし
プログラムの書き換えは別に難しい話じゃないと思うが。 > >ディープラーニングは端的に言えば「同じ物(似た物)を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
> そんなことはない。例えばGoogleが、youtubeの動画を学習させることでAIが猫を認識した。
> これは自力で猫という概念を生み出したということ。
これは?
グーグルのプログラム内でだし、自身を自身で超えられるか?
人間が改良するだけじゃないかな
上にもあるが古典派からロマン、印象、抽象派と展開できるならなあ
創造はなあ 全体的に議論が古いって言うか技術レベルの想定が低いっていうか
脅威になるかもしれないってロボットやら人工知能やらがそんなif文べた書きみたいなシンプルコードな訳ないだろう
独自にコード生成出来るようになれば良いだけなら今だって似たような事は出来るだろうよ 日の下にw
AIが新たな表現開拓をしたら考えたっていうことかな >>162
自身のプログラムを書き換えなくても、新しいプログラムを作り出すことが出来れば良いんじゃないの? NHKニュースで、「AIが個人スコアを付ける実証実験が始まっている」と。クレジットの履歴やSNS書き込み、検索履歴などからスコアが判定されるとか。
こっちの方が現実的な驚異かも。 【ボギー、スカンク、サンタクロース】 あんな巨大なものが急に浮上してね、物凄いスピードで飛ぶんだ
http://rosie.5ch.net/test/read.cgi/liveplus/1546914326/l50
精華大教授がコロラドの地下で見たものとは? 人間を作り出した神が自分と同等な知能を持った生物をまだ作り出せてないんだから、それに作られた人間が自信と同等な知能を持った生物を作れるわけないだろ >>185
プログラムするのは人間だしなあ
やはり根本的にはそれ以上は出ないでしょう なんか中学生くらいが心を持つロボットとか作りそうな予感するんだよな 芸術の転換点にAIは役に立ちそうもない
印象派から抽象派に展開できるか
プログラムした人間の認識に制限され
それを否定して展開可能か 物理状態として心が存在するのを作りたかったら子供作れば良い
この物理状態だと意識が発生するのは何故かなんてわからないこと
いずれにしてもプログラムした以上のことはできない 必ず自分は何?を再回帰させて全てのルーチンを通るようにしてすれば意識ができてくるのでは
非線形処理をさせて結果を観測させる 自己自身を否定するプログラムはできるのかなあ
なんか不完全性定理絡む気がする
根本として、そのプログラムは自身であって自身ではないのではないのだろうか
地動説ってのは、天動説で理解していた観測結果を、太陽中心に理解しなおすこと
光速度一定の原理は、座標原点、つまり基準を設定して自然の運動を理解することだけどその基準はどこにも無いことを示す
この原理は自然の存在形態は運動であり、無矛盾であることを示すが、同時に座標原点、つまり静止という運動の否定で理解することを示している
だから、運動は静止で理解されるので、決定不能になる
飛ぶ矢は空間の一点に必ず存在するが、静止は空間の一点に存在することだから
飛ぶ矢は静止するとゼノンは論証する
実は論理自体が対象の否定、つまり運動を静止で理解するからこそ
ここから、運動とは存在すると同時に存在しないことという定義、つまり決定不能が導かれる
決定不能の本質は対象をその否定で理解することに起因する
つまり理性には不可避だということ
運動は静止、非同一は同一、有限は無限などなど
生物分類は差異を否定関係で理解するからヌエ的なものが出現する
ウィルスは生物、非生物と分類しがたいが物理としては否定関係には無い
つまり理解というか論理一般は対象を否定で理解する
ある意味、観測というか理解は天動説なんだよね
観測は仮定で成立するが、相対化されるというか、自然そのものという理解は否定される
観測結果は様々な基準から組み替えることはできるだろうが、基準自体はコンピューターは否定することは有りうるのかな
プログラムもまたある基準から組まれるが、基準を否定することはプログラム自体の否定だし、それがコンビューターに可能というのはかなり疑問がある
それは人間だけに可能なんじゃないかな
個人的には、コンピューターはプログラム以上のことはできないというある科学者の理解に与したい >自分は何?
自己認識って、実は他者の視点が必要なんだ
つまり否定関係なんだ
たとえば地図を描く場合、観念として空中から街や地球、太陽系、銀河系を描いたりする
古今東西の人物、歴史に観念として行き来可能なのもこの能力で
子供はウルトラマンにも成れたりする
対象を認識し表現するんだが、わたし、自分という対象を認識し表現するのは観念としての他者が必要なんだ
過去の自分を振り返ることはあるだろうけど、それは他者としての対象だったりする
それを可能にするのが、人間のそういう能力だったりする
わたしと表現する場合は、現実の自己を他者として認識して、観念は自己ではあるが現実では自己でしかない
つまり自己を他者、つまり否定で理解するから、他者であり自己であり・・・
いずれにしても、自分は何?というのは否定でのみ理解が可能
プログラムに自己の否定関係を設定することは、プログラムそのものを否定することだから、甚だ疑問ではあるなあ 将棋のルール変えたら最強ソフトもプログラム変えなきゃいけないよね
自ら対応できたら、考えるってことだが、さて 藤井聡太どころか全てを寄せ付けないソフトを作ったとします
他の人がさらにそれを上回るソフトを開発したらどうでしょう
すごいのはコンピューターか、はたまたそれを作った人間か AIって基本は人間の発想だからなあ
つまり認識の置き換え
パソコンが発展したのは人間の努力の成果
ウィンドウズ、マック、トロン
全部人間の産物だし
更なる展開をパソコン自身が可能なのか? 西洋音楽って古典形式が煮詰まり、限界を感じてベートーベンが壊す
でドビュッシーとかはさ
そういう前提の見直しはパソコンに可能かな
作った人間の前提を否定して作り直すことはAIに可能か
自身を否定するプログラム作成は可能なんかな AIが究極でパソコンより画期的な発明はありえないのかな?
それはともかく、なんかいろいろ疑問あるわあ なんかいろんな機械の発展過程と変わらないような気がする
基本は人間が作ったものだし
車の早さに人間が及ばないが、作ったのは人間だし
飛行機、宇宙船、新たなる燃料、推進機関・・・
2001年宇宙の旅か
なんか大前提から考えた方が良いかもなあ 凄い速い車作ってもう人間は敵わないって言っているのと変わらないような
なんか根本的に違うかも