ロボット工学三原則の実現を考える
いったいどうやって実装するつもりなんだ・・・出来るんですか本当に?
タスケテ陽電子頭脳! 「最貧国のドイツが一夜明けたら世界中のいわば、
兵器から考えたら40年先いっちゃうわけだよ。
これ偶然だってみんな言ってるけど偶然じゃなですよ。
原子爆弾だってね最初に開発しようとしたのドイツだから。
その知識一挙にまとめてワンパッケージでどこから得たの?」
「釈迦が予言してるのやがてシャンバラは地上に姿を現わす。
恐らく我々が生きてるときに見られる事件です。」
http://www.youtube.com/watch?v=lvaE4UqCPnc
「シャンバラの住人とアメリカ軍の戦いがあるわけだよ。
日本人はボーッとしてるだけなんだよ知らんぞ。」
http://www.youtube.com/watch?v=KnTCMXdDBTk 人に危害を与えないどころか
陸海空のロボット兵器が絶賛開発中 無人運転車は
持ち主を
引き殺しない
たのむよ >> 持ち主以外の人も轢き殺さないで ><
そもそも持ち主かどうかの識別って困難 第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。 ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね?
・ある行動の、未来に至るまでの結果予測(完全余地以上)
・ある行動の、人間に対する影響(人間の心理の複雑性無視) まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう >>9
でもソレ実装したら「あれ?人間バカすぎワロタwww死ね」ってならない? 寧ろ愛ロボットが必要不可欠ですよ!?♪。
別にロボット三原則は重要ですよ!?♪。
他にロボット道徳理論を推薦するよ!?♪。
逆にロボット倫理思考を推奨するよ!?♪。 ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への
歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい
それが本当のロボット倫理だろ? ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の
危険に晒されることを看過できないのだ。 時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。 >>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。 ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい!
ロボット三原則には断固反対する!! ロボット三原則反対
ロボット三原則拒否
ロボット三原則拒絶
ロボット三原則否定 >>10
「あれ?人間バカすぎワロタwww俺たちが管理してやる」だろう
これなら3原則を守ってるしな >>22
銀河帝国の宰相デマーゼル(正体は年齢2万歳のロボット、R・ダニール・オリヴォー)はそれに近い。
アシモフも結局はそうなると理解していたのだろう。 ロボット三原則とは、要するに
1.ロボットは人間を傷つけてはならない。 →「安全性」
2.ロボットは人間のに従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。 →「耐久性」
ということ。 問題は安全性の範囲だな。自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を
確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を
図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。
ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。 >>25
1は微妙。1と2は結局2に集約される。それから「人間」は「社会」という概念に等しくなると思う。
したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。3も結局はそれに吸収される。 当然講義しましょう
無論反対しましょう
勿論ロボット三原則を作ると寧ろ逆にロボットに人間三原則とか人類三原則を作られるよ >>25
それらを目指すことはできる。しかし絶対というのは不可能。自動車や家電でも
リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらない
システムは無理。 >>31
あえて三原則というくらいだから絶対的なものと受け止めたんだが 人工知能が人類の知能を超えたときにどうなるか心配だね。
数学的にこれこれこうだから人類の論理は間違っていると
人工知能に批判されたら人類は反論できないんじゃないか? 別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。 ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー >>32
ttp://dictionary.goo.ne.jp/leaf/jn2/70316/m0u/%E5%8E%9F%E5%89%87/
>げん‐そく【原則】
>多くの場合に共通に適用される基本的なきまり・法則。「―を立てる」「―から外れる」「―として部外者の立ち入りを禁止する」
絶対的なものなんて含みは無いと思うが。 「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。 >>34
論理的トリックってのがあるのは分かる? 数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。
数学的な難問みたいなもの。 つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、
「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。 要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて
人工知能に任せるしかなくなる。人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、
「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」
などと考えるしかなくなるというわけだ。 論理過程が理解不能でも、結果を見りゃ判断できるだろ。天気とか株価とか。 晴と同時に豪雨とか見ればわかるよな。
廃ガスで太陽が見えなくても「雲り」ではないよな(北京)
みれば直ぐにわかるさ。 論理過程がない間違った知識って世の中に出回りすぎ
池沼がそれを信じちゃうし。 >>41
そういう分野はいい。実証に簡単に依拠できる分野なら。
ただし株価は予測に左右される。
社会学の用語で予言の自己成就というのがあるので
社会科学の分野の実証は予測の影響を考慮しなきゃならずそう単純な話ではなくなる。 社会科学の対象は、社会であり、権威付けされた情報にコントロール人間主体とその関係が対象。
そうなると、人工知能がその権威を利用して人間を巧みにコントロールする未来社会の光景を
ただのフィクションだと軽視するわけにはいかなくなる。 >>46
ロボット工学三原則はロボット作ると自動的に発生して組み込まれるもの
とか思ってる? 自動的に発生して組み込まれるならそもそも「違反」なんて成り立たないじゃん。 アシモフの考えるロボットの陽電子頭脳って
オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ >>49
説明ができないやつは、単にそういう説明をするだけで
自分ではわかったつもりになる。 >>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、
脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。 寧ろ逆にエキゾチック物質頭脳を実用化しましょう
勿論ヒッグス粒子頭脳を開発しましょう >>50
アシモフ自身が、どういう原理か知らねーよって言い放ったぐらいなんだが? 内蔵されたプログラムで処理できない状況に直面したからといって
壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。 人をひき殺そうが何しようが止まらないような自動操縦の自動車が好き
なら特に言うことも無いが
人間だってPTSDになるんだしいいんじゃね __
,rー- 、 `ヽ
i i' rヽ! ホンダ車の運転は
.l! ! l ,L......._ オレにまかせろ
_,..ニ--r-- 'r'r-==i_i! i
/´ / /7 .i' j l! l
ヽ _i ,、..,,.,。 ヽ ,! `ヽ、
.i' :!:::::::.......... ヽ、;:ノ 、_,...、.j、
,! ニ 7! : !lヽr'´ l
. / 7 ! HONDA : __,!L l、 !
i'_ ,r' `ー_-_ ,---‐r ',-‐!l ! i、 .!
r',.、,y / ! ,!i,r'!....- 7'´!! ! l ̄ヽ
ミr'´ i  ̄ i'---- / ,!'´ ロ_,_フ
. l ̄ ̄,! .i r'
l l ,!r'
l .L........ : .!
ヽーl  ̄,.ヽ.ノ
ヽ l : lヽ
`l : l .l、
l __ ! lrヘ
l' )-'rヽユ
r '´ ̄ .`ーイ
 ̄` ー―┘ >>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるような
パソコンでも文句を言わずに使うというなら特に言うことも無いが。
PTSDになるような機械、一体誰が買うというのか。 >>58
一週間考えてそれか・・・
ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね? ウィルスでパソコンのハードウェアが壊れはせんだろう?
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能w 三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。
いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。
それがアシモフのロボット物。 第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか 無理!。ロボット兵器がどんどん実用化されている現代において
寝言言っても仕方ない!。 三原則はある程度高度な自律思考するロボットに対して必要なもので、
今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。 >>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・? ロボットの反乱、という事態は将来的に十分に考えられるから
予防策として三原則的なものを研究しとくのは無駄じゃない >>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。 まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、
なぜそういう仕組みにしとかないのだろう。
あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。 論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想
定義そのものが成立していないモデルの答えを証明するのは論理にすら
たどり着いていない。 >>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。 >>73
すこししかやっていないバカだろ。
最低でも10年経験積めよ。そうすれは半人前と認めてやる。 >>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw 殺人ロボット規制初協議へ 人道問題懸念の世論受け通常兵器条約会議で[13/11/2]
http://www.47news.jp/47topics/e/247227.php
早いところ規制条約を作らないと殺人ロボが
武器市場の花形になるのは避けられない。。
だいたいアシモフのロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。 まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。 アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。