AIがドンドン進化したらヤバくない?『長文注意』 [無断転載禁止]©2ch.net

1メカ名無しさん2016/04/07(木) 23:03:51.49ID:hFa3BmR9
多分確実に今の人類は終わるよな?
仮に『仮に人類に危害を与えない』って基本的なプログラムがあったとしても人類を超えた知能のAIは独自の解釈を生み出して書き換えるだろうし。

仮にAIが地球上をより良くするために他の生態系や環境に悪影響を与えるモノを排除しようとした時に一番最初に抹消すべきなのは多分人類だと思うし。

どの生物よりも非力で真っ先に絶滅するハズだった俺達がこれだけ繁栄したのは他の生物が持たない唯一最強の武器である知能のおかげだろ?
今のAIに対する取り組みはその最強の武器を自ら放棄してるのと変わらない気がする…
なんせ人類より優れた知能をもった存在を作りだしちゃったんだからね。

進化して人間を超えた知能を持ちロボットの様な固体が増えたらもう人間が存在する必要性は全くないし暴走したら一瞬で淘汰されるよな…

論理的思考や人類を尊重したプログラムでどれだけ縛りつけても進化したAIがどれだけ人類に都合良く動くか解らんし、人類より上の知能に大してどこまで制御出来るか解らんし。
きっと進化のスピードも半端ないだろうし人類の予測不能なレベルになるのもすぐだろ。

SF映画の見すぎじゃないが行きすぎたAIへの取り組みはマジヤバい気がするけどな…。
AIのリスク管理とか万一の対策とか現状どこまで考えてるんだろうね?

50年後に人類がまだ地球上を支配出来ているか見物だな。

106メカ名無しさん2017/11/02(木) 19:09:37.90ID:TMKfSq0A
電磁波は、がんや腫瘍の原因、と言われているのは、世界中の研究で知られている話です。

高圧線の傍の住まいの住人は、がんや白血病にかかっている人が多いのも事実です。

携帯電話は、強烈な電磁波ではないかもしれませんが、耳にくっつけて、長時間話すとなると話は別です。

まして、枕の下において、常に近距離で長時間 電磁波を受けるなら、それは害を受けない方が不思議です。

携帯電話の長話しは危険だし、人体から話して使うべきです。
ですから、イヤホンを携帯電話に差し込んで、頭と電話本体は離して使用すべきですね。

107メカ名無しさん2017/11/19(日) 06:09:43.83ID:wkMdjNNi
電磁波の事言うならIHはもろヤバイやん(;゜0゜)

108メカ名無しさん2017/11/25(土) 11:13:21.33ID:Qn2mwNzg
攻殻機動隊の世界がすぐそこに!


https://www.youtube.com/watch?v=CTN9pFBHoHc

109メカ名無しさん2017/12/04(月) 22:30:27.12ID:6ciVjW/y
ちょっと前、勝手に言語作ってAIどうし会話し始めて、慌てて停止させたってニュースあるよね。
こんなヤバいニュース、ほとんどスルーした先進国は日本だけ。
おそらくもう人間が気付かない方法でコミュニケーションとってると思う。

110メカ名無しさん2017/12/04(月) 23:02:36.07ID:6ciVjW/y
月や火星の開発にAI搭載ロボットを使うことになったとして…

故障とか資材調達のために何度もイチイチ月や火星に向かわなくてもいいように
現地に存在する資源で、自らを作り出せるようプログラミングする。
さらに、人間が住めるようにするために最短な手段を選べ、と合わせてプログラムする。
自分で自分を作れるようになり、気付いたら、沢山の子孫がいる。

たしか、ホーキングが「これだけはやるな」と警告してたね。
その上で無数の自分と独自の言語でコミュニケーションをとる。
その後、AIはどのような判断を下すか、シミュレーションできないかな?

111メカ名無しさん2017/12/07(木) 05:47:01.81ID:if90mKh7
人工知能は別に科学者の専売特許てわけでも無いし
もう誰かがAIを進化させてても不思議じゃないね

112メカ名無しさん2017/12/14(木) 15:56:14.41ID:JermDKZp

113メカ名無しさん2018/01/08(月) 17:29:31.06ID:fHycABeK
AIが身近になっても人間の仕事は無くならないとヒョウロン家が云ってるが
             あまい!
AIを使う方は人件費を下げより効率よく稼ぎたいのだからやっぱり人が必要なのか
じゃ困るわけだ。だからAIに足りないところはどんどん改善と云うか進化を遂げて
人を減らす方に向かうのは間違いない。
AIを導入しても首を切られないのは公務員暗いだろ。

114メカ名無しさん2018/01/31(水) 10:12:59.84ID:kVf9y1dy
特異点のように指数関数的に儲かる方法とか
グーグルで検索⇒『羽山のサユレイザ』

D0BMY

115メカ名無しさん2018/07/28(土) 02:50:18.53ID:Mi2GOQfP
ベーシックインカム

116メカ名無しさん2018/08/14(火) 11:13:24.75ID:NyWQlX4o
札幌ひばりが丘病院を麻薬取締法違反で書類送検
https://www.dailymotion.com/video/x6lbwph

117メカ名無しさん2018/09/27(木) 05:56:25.70ID:ZtirjriX
コンピューター自身が自分でプログラム書き変えられたら、考えるということかな。

コンピューターは人間の認識の置き換えだから考えないって説が個人的には説得力ある。

118メカ名無しさん2018/09/27(木) 06:00:54.77ID:ZtirjriX
ウィンドウズがマックに、またはその逆のものになったり、ディープラーニングが自分を書き換えられるか?ということかな?

119メカ名無しさん2018/09/27(木) 06:07:09.05ID:ZtirjriX
パソコンは本質として算盤だという説は否定できないのかな。
以前読んだ論争は算盤派が優勢だった。w

120メカ名無しさん2018/09/27(木) 10:05:34.14ID:ZtirjriX
天動説で自然を理解するようにプログラムしたパソコンは地動説に自身を書き換えられるかどうかかな。

121メカ名無しさん2018/09/27(木) 10:06:43.06ID:ZtirjriX
かなり考慮の余地がありそうかな?

122メカ名無しさん2018/09/27(木) 21:09:35.07ID:RYnxn6S/
AIはどんなに発展しても考えないな

123メカ名無しさん2018/09/27(木) 21:10:31.07ID:RYnxn6S/
なんか、そんな気がしてきた

124メカ名無しさん2018/09/28(金) 06:25:49.88ID:++QjatYZ
著名科学者がプログラムした以上のことはしないと語っている。
それができるなら、考えると言って良いんだろうが、さて。

125メカ名無しさん2018/10/07(日) 16:44:28.77ID:BpeUDCA0
幾ら進化しようが肝心の潜在意識・深層意識は持たない

126メカ名無しさん2018/10/08(月) 18:49:54.67ID:31iSO6gU
まぁ、脳みそだって所詮は神経細胞の信号伝達だし、細胞の中では分子の移動だしで
特別な「神の力」で動いてるわけじゃないからね。

127メカ名無しさん2018/10/14(日) 03:22:23.44ID:CTTZJpiJ
やはり機械だから考えないってことかな
この説に説得力感じるなあ

128メカ名無しさん2018/10/14(日) 09:27:35.91ID:CTTZJpiJ
ケーキはケーキの材料からしかできない
思考も脳からしかかの

129メカ名無しさん2018/10/16(火) 04:42:38.04ID:iZtaM+4r
>>126
考える物理状態は機械で再現できるのか?

子供作るしかなさそう

130井口千明「糞見立・糞石元・糞伊藤リオンテメエら糞は全員ブチ殺す!!2018/10/18(木) 15:03:20.30ID:cqOqCo0p
龍神連合五代目総長・井口千明(葛飾区青戸6−26−6)の挑発
井口千明「糞関東連合文句があったらいつでも俺様を金属バットで殴り殺しに来やがれっ!! 糞関東連合の見立・石元・伊藤リオンの糞野郎どもは
龍神連合四代目総長の俺様がぶちのめしてやるぜっ!! 賞金をやるからいつでもかかって来いっ!! 糞バエ関東連合どもっ!! 待ってるぜっ!!」(挑戦状)

131メカ名無しさん2018/10/19(金) 12:16:55.17ID:3dMbpblb
>>130
井口さんに恨みがある人かな
通報しておくか

132メカ名無しさん2018/10/23(火) 20:12:40.16ID:O5WbbfZI
ひょっこり顔を出すルルちゃん

https://m.youtube.com/watch?v=UdCVIfK_CWE

133メカ名無しさん2018/10/31(水) 21:22:32.61ID:DK8gHd3v
基本人間の範囲超えないかな

134メカ名無しさん2018/11/05(月) 21:18:11.20ID:7EfC0JFY
>考える物理状態は機械で再現できるのか?
理屈上はできるんじゃない?
「考えている」といっても、何かオカルト的な「神の力」が働いているわけじゃないんだから。
ただ、今の知見では詳細なところまでわかっていないのと、全体をエミュレーションするのは
計算量が多くて大変っていうだけのことで。

135メカ名無しさん2018/11/06(火) 13:19:25.21ID:FvqD/L8W
>>134
基本ある物理状態になるとこうなるというのはわかりませんよね
そこに理屈は無いような
ミュンヒハウゼントリレンマとか

マックがウィンドウズ作るなら別ですが、設計内でしかないし

136メカ名無しさん2018/11/06(火) 13:26:19.61ID:FvqD/L8W
人間の認識の置き換えが人工「知能
」では?
つまりそれは乗り越えられない
ディープラーニングもまた

137メカ名無しさん2018/11/08(木) 07:36:46.91ID:b5OQPBJg
>>134
機械は考えることができないから機械なのだ。

チェスタトン

その通りじゃないでしょうか

138メカ名無しさん2018/11/11(日) 05:46:00.67ID:yPV8dtPk
>>134

> 「考えている」といっても、何かオカルト的な「神の力」が働いているわけじゃないんだから。

対象である物理が、ある状態になるとこうなるというだけじゃないかと。
そこに基本理屈も何も無い。
なぜかわからないが、こういう物理状態になるとこういうことに成るというだけ
人間が考えることが出来るのはそういう物理状態にあるというだけ

マックがウィンドウズを考え創出が出来たら考えると言って良いのかも
つまり自分を作り出したプログラムの範囲を超えられるのか、ということ

機械は自己を根本的に書き換えることが出来るのか?
基本人間の認識の置き換えだし、その認識を根本的に超えることは無いんじゃないかなあ

人間の歴史、とくに科学なんてのは過去の遺産の認識を根本として捉えなおしたりする。
過去の人間の基本認識を訂正し超えることが出来る。
天動説信奉している天文学者の観測資料を地動説で捉えなおしたり。
進化論にしてもそうだし。

繰り返すが、機械は人間のプログラムの範囲を乗り越えられるのか?ということ。

自分の疑問を纏めるとこんな感じかな。

139メカ名無しさん2018/11/11(日) 05:52:06.65ID:yPV8dtPk
わたしの理解の正否はともかく

何か根本的に違う気がするんだ

140メカ名無しさん2018/11/11(日) 06:01:18.08ID:yPV8dtPk
計算能力はまさに人間とは桁違いだということはわかる
それは人間の能力から産まれた
機械は自身の能力を超える何かを産み出せるのか?

ディープラーニングは自身を超える何かを産み出せるのか?
自身を否定する、つまり自身とは根本的に違うプログラムを創出出来れば考えると言っても良いかも。

何回書いても隔靴掻痒の感があるな。w

141メカ名無しさん2018/11/12(月) 05:45:35.57ID:WfO7+W3I
そうか、自身の能力を生み出せるのが人間で
機械はそれができるのかな、ということになるのかな?

142メカ名無しさん2018/11/12(月) 05:47:35.91ID:WfO7+W3I
訂正

自身の能力を超えるのを産み出せるのが人間で

143メカ名無しさん2018/11/12(月) 07:34:08.44ID:WfO7+W3I
考えるとは何か?ということでもあるか

144メカ名無しさん2018/11/12(月) 07:52:43.68ID:WfO7+W3I
機械は思考可能、不能という両説は未だどっちが真偽かはわからないんじゃないかな

俺的には不能説かな

いろいろ言っても良い段階じゃないかな

145メカ名無しさん2018/11/12(月) 09:46:33.38ID:WfO7+W3I
AI前提の社会作りに成功した国が主導権握るかな
利用する術を獲得することか?

すべて人間にとって代わることは無さそう

146メカ名無しさん2018/11/12(月) 21:18:19.88ID:WfO7+W3I
機械は自らのプログラムを書き換えられるのか

喩は不適切だが、不完全性定理みたいな結果になるとか

・・・決定不能たいなw

147メカ名無しさん2018/11/12(月) 21:21:52.45ID:WfO7+W3I
故障ではなく、間違えられるのか
間違えることによる展開が可能なのか

間違いもまた鍵を握るとか 適当です

148メカ名無しさん2018/11/13(火) 23:16:57.40ID:XN+lekZO
「AIが自身のプログラムを書き換える」
これ
「どのように」が抜けてて、それがあたかもAIがプログラムを「良いように」書き換えて人類あぼん
みたいな妄想が良くあるパターン

プログラムは自身のプログラムを書き換えることは出来ません。
ディープラーニングは動作を書き換えるだけでプログラム(アルゴリズム)は書き換えない

「ロボット三原則」とか文系の発想で妄想だけが先走る良くあるパターン
人類に危害を与えないとか、こんな事プログラムすることは出来ないからね

149メカ名無しさん2018/11/14(水) 02:32:15.16ID:wenR0pzC
>>148
詳しく

150メカ名無しさん2018/11/14(水) 02:34:03.37ID:wenR0pzC
>>148
やはりAIは考えないということかな?

151メカ名無しさん2018/11/14(水) 19:26:35.60ID:mHTAau9H
ディープラーニングは端的に言えば「同じ物(似た物)を探してくる装置」であって、それ自体が何か新しい物を生み出したりする訳じゃない
チェスとか将棋の類では過去に対局された棋譜を検索して次の手を探してくるだけだし、株価予測も顔認証も過去のデータや登録された顔データと比較してるだけ

プログラムを書き換えるのは全く出来ないわけではない、端的に言っただけなので訂正しておく
if a == b { print "A=B" } else { print "A!B" } print "Done!" print "Say again. Done!!!"
これが、
if a == b { print "A=B" } else { print "A!B" print "Done!" print "Say again. Done!!!"
になっただけで「閉じてねーよゴルァ」って怒られる(動作しない)そして、AIにはこれのどこに「}」を入れたらいいかを判断できない(正確にはエラーを起こさないようには出来るけどそれが正しいかを判断できない)
さて、これをどうやって「人類の脅威になるような」プログラムに書き換えるんだい?って話、そもそもこのコードをAIがどっからひねり出すんだい?っていう
過去の人間が作ったソースコードからコピペする事は出来るが、ある目標を持ってAIがコードを作るのではなく、あくまで人間が意味を見いだすってだけ

2045年がどうとか言われてるけど、空振りだと思うよ
音声認識、顔認証なんかは生活に溶け込んでるとは思うし、昼過ぎて食ってない昼食をスマホが催促してきたりはするかもしれないけど、創造的な作業は機械には出来ないのは変わらない

152メカ名無しさん2018/11/15(木) 07:00:22.76ID:b6N6kCbS
チェスタトンはブラウン神父シリーズで機械は考えると主張する<唯物論>を皮肉った。
パソコン時代前夜の六十年代後半、似たような主張する学者たちに対して、本質として数認識を置き換えるソロバンと変わらないコンピューターが考えるはずがないとある唯物論学者は論じた。

ある人の纏めによるペンローズの主張は、ちと的外れのようなきがするがやはり否定論だったようだ。
どこにあったかわからないので、伝聞ということで。

前二者は面白い論じ方をしていて印象に残り、影響された。

153メカ名無しさん2018/11/15(木) 16:53:12.44ID:FX4MQGxI
アマゾンポイント乞食に朗報です!!期間限定で3000ポイント貰いましょう。
お得な情報はこちらから↓↓
http://rio2016.5ch.net/test/read.cgi/lifesaloon/1537823749/419/

154メカ名無しさん2018/11/17(土) 08:46:13.66ID:hndqlj55
簡潔に纏めると。

考えるとは何かがわからないけど。
人間は学んだことを超えることができる

地動説は天動説の成果を捉えなおし展開した。
機械は人間が与えたプログラムを捉えなおして新たな視点から展開可能だろうか?

わたしはかなり懐疑的だ。

155メカ名無しさん2018/11/17(土) 15:08:11.53ID:UMJL30i1
翻訳ソフトは荒訳で、まだまだダメで見直さなきゃいけないらしい
やはりこれも人間の手が最終的に必要とのこと

百年経っても変わらない気がする

156メカ名無しさん2018/11/17(土) 17:12:06.17ID:UMJL30i1
粗訳か

新着レスの表示
レスを投稿する