X



ロボット工学三原則の実現を考える
0001オーバーテクナナシー垢版2013/01/15(火) 01:06:00.35ID:6KK/J6Op
いったいどうやって実装するつもりなんだ・・・出来るんですか本当に?
タスケテ陽電子頭脳!
0002オーバーテクナナシー垢版2013/01/16(水) 21:38:15.43ID:uvZB1nL5
「最貧国のドイツが一夜明けたら世界中のいわば、
 兵器から考えたら40年先いっちゃうわけだよ。
 これ偶然だってみんな言ってるけど偶然じゃなですよ。
 原子爆弾だってね最初に開発しようとしたのドイツだから。
 その知識一挙にまとめてワンパッケージでどこから得たの?」

「釈迦が予言してるのやがてシャンバラは地上に姿を現わす。
 恐らく我々が生きてるときに見られる事件です。」
http://www.youtube.com/watch?v=lvaE4UqCPnc

「シャンバラの住人とアメリカ軍の戦いがあるわけだよ。
 日本人はボーッとしてるだけなんだよ知らんぞ。」
http://www.youtube.com/watch?v=KnTCMXdDBTk
0003オーバーテクナナシー垢版2013/01/18(金) 21:45:07.28ID:Ijx/YpSe
人に危害を与えないどころか
陸海空のロボット兵器が絶賛開発中
0005オーバーテクナナシー垢版2013/01/31(木) 13:35:36.51ID:EJH2UMjz
持ち主以外の人も轢き殺さないで ><
そもそも持ち主かどうかの識別って困難
0006オーバーテクナナシー垢版2013/02/06(水) 22:01:52.53ID:AGsezlri
第一条 ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
第二条 ロボットは人間にあたえられた命令に服従しなければならない。ただし、あたえられた命令が、第一条に反する場合は、この限りでない。
第三条 ロボットは、前掲第一条および第二条に反するおそれのないかぎり、自己をまもらなければならない。
0008オーバーテクナナシー垢版2013/02/06(水) 23:02:22.67ID:kVOdFLrD
ロボット工学三原則って、本質的に全知を必要としているので不可能、でFAじゃね?
・ある行動の、未来に至るまでの結果予測(完全余地以上)
・ある行動の、人間に対する影響(人間の心理の複雑性無視)
0009オーバーテクナナシー垢版2013/02/08(金) 00:04:56.64ID:8iighslu
まあ少なくとも人間以上の知的能力は必要だわな
人間は生きている限り他の人間を傷つけてしまう
0011オーバーテクナナシー垢版2013/02/08(金) 14:17:53.66ID:kf0gNT7z
>6
それ、アイロボットな
0013 忍法帖【Lv=12,xxxPT】(2+0:8) 垢版2013/02/08(金) 16:28:20.88ID:YOi/B/OL
寧ろ愛ロボットが必要不可欠ですよ!?♪。
別にロボット三原則は重要ですよ!?♪。
他にロボット道徳理論を推薦するよ!?♪。
逆にロボット倫理思考を推奨するよ!?♪。
0014オーバーテクナナシー垢版2013/02/08(金) 22:56:14.82ID:hDUp2/pI
ロボットは、心理歴史学の正確な計算に基づき、正しく第二帝国への
歴史針路を進めなければならない
ロボットは、セルダン・プランのためならばいかなる犠牲をともなってもよい

それが本当のロボット倫理だろ?
0015オーバーテクナナシー垢版2013/02/09(土) 01:24:01.31ID:C42PCZo9
ある朝、私は車にのって会社に出かけようとする。
とたんに後ろから飛び掛ってきたロボット執事に羽交い絞めにされる。
思えば当然のことだ。確率が低いとはいえ、ロボットは主人が交通事故の
危険に晒されることを看過できないのだ。
0016 忍法帖【Lv=27,xxxPT】(1+0:8) 垢版2013/02/15(金) 01:25:31.01ID:is3N7+SR
時間は夢を裏切らない、夢も時間を裏切ってはならない。
時の輪が導くよ。
時空の円環が繋げるよ。
時期のリングが叶えるよ。
0017オーバーテクナナシー垢版2013/02/22(金) 23:23:42.91ID:PhALAB4V
>>15
美人秘書ロボットになら羽交いじめにされたい。ぜひ。ぎゅーっと。
0020オーバーテクナナシー垢版2013/03/09(土) 10:44:16.22ID:HAN4NFu8
ビューティフルな女性型ロボットから、ビシッバシッと危害を加えられたい!

ロボット三原則には断固反対する!!
0022オーバーテクナナシー垢版2013/03/11(月) 20:53:37.26ID:Z0tjj4mq
>>10
「あれ?人間バカすぎワロタwww俺たちが管理してやる」だろう
これなら3原則を守ってるしな
0024オーバーテクナナシー垢版2013/03/13(水) 18:42:15.87ID:B7USS68S
>>22
銀河帝国の宰相デマーゼル(正体は年齢2万歳のロボット、R・ダニール・オリヴォー)はそれに近い。
アシモフも結局はそうなると理解していたのだろう。
0025オーバーテクナナシー垢版2013/03/17(日) 16:50:26.30ID:GckB5Z00
ロボット三原則とは、要するに

1.ロボットは人間を傷つけてはならない。  →「安全性」
2.ロボットは人間のに従わなければならない。→「操作性」
3.ロボットは自分を守らなければならない。 →「耐久性」

ということ。
0026オーバーテクナナシー垢版2013/03/20(水) 01:25:36.22ID:0a+lwRu+
問題は安全性の範囲だな。自動車なら自動車、炊飯ジャーなら炊飯ジャーとしての範囲内で安全性を
確保していればいいわけだが、人型ロボットは汎用性が高すぎてそういう意味での機能を限定できない。
自我を持ったロボットは自身の存在意義と人間の安全について考えに考え、ついには人類全体の安全を
図るために、個々の人間を犠牲にするのはやむを得ないという方向に進む。
ロボット三原則を考えたアシモフ自身が話をそういう方向に持っていくんだから、如何ともし難い。
0027オーバーテクナナシー垢版2013/04/28(日) 13:02:20.44ID:fwvsiY+0
>>25
1は微妙。1と2は結局2に集約される。それから「人間」は「社会」という概念に等しくなると思う。

したがって、
ロボットは人間社会の制御下にいなければならない。これに集約される。3も結局はそれに吸収される。
0029 忍法帖【Lv=25,xxxPT】(5+0:8) 垢版2013/05/28(火) 07:57:36.52ID:8rbLD75q
当然講義しましょう
無論反対しましょう
勿論ロボット三原則を作ると寧ろ逆にロボットに人間三原則とか人類三原則を作られるよ
0030オーバーテクナナシー垢版2013/05/29(水) 19:37:13.52ID:dp+wSuyK
>>25
それらを目指すことはできる。しかし絶対というのは不可能。自動車や家電でも
リコールはいくらでもあるし事故や設計ミス、製造ミス、ヒューマンエラーの起こらない
システムは無理。
0033オーバーテクナナシー垢版2013/05/30(木) 10:26:43.37ID:kBoxRujS
人工知能が人類の知能を超えたときにどうなるか心配だね。

数学的にこれこれこうだから人類の論理は間違っていると
人工知能に批判されたら人類は反論できないんじゃないか?
0034オーバーテクナナシー垢版2013/06/04(火) 00:14:47.16ID:nB//5BRt
別に論理的に正しいことなら反論せんでもいいだろう。
諸手を挙げて賛同すればよろしい。
0035オーバーテクナナシー垢版2013/06/04(火) 00:48:04.10ID:AG3mZvQa
ヒトは寄って立つ価値の基準が決まってるわけじゃないから。
「論理的」ったってドコを基準にするかで出てくる結論は違うわなー
0036オーバーテクナナシー垢版2013/06/04(火) 16:23:12.51ID:I9cfAYqB
>>32
ttp://dictionary.goo.ne.jp/leaf/jn2/70316/m0u/%E5%8E%9F%E5%89%87/

>げん‐そく【原則】

>多くの場合に共通に適用される基本的なきまり・法則。「―を立てる」「―から外れる」「―として部外者の立ち入りを禁止する」

絶対的なものなんて含みは無いと思うが。
0037オーバーテクナナシー垢版2013/06/04(火) 19:16:07.55ID:AG3mZvQa
「法則」は破れないもんだけど、「原則」は破らないようにするもんだな。
0038オーバーテクナナシー垢版2013/06/06(木) 11:19:02.23ID:nkPMvyPl
>>34
論理的トリックってのがあるのは分かる? 数式にだまされちゃうのが人類。
人工知能のほうは嘘と分かりながら、人類にこれは解けないだろうと踏んでトリックを駆使してくる。
そうなると、それが論理的に間違っていても、それを証明できる人類の知能がない。
数学的な難問みたいなもの。
0039オーバーテクナナシー垢版2013/06/06(木) 11:21:08.02ID:nkPMvyPl
つまり、人類の知能では「これが論理的、数学的に正しい」と人工知能が主張したことを、
「人工知能くん、それは明らかに君の間違いだ」と反論できない。そこまでの知能が人類にない。
0040オーバーテクナナシー垢版2013/06/06(木) 11:24:31.19ID:nkPMvyPl
要するに、人工知能が人類の知能を超えたレベルになると、人類は知的に高度な判断をすべて
人工知能に任せるしかなくなる。人工知能が嘘をついていても、それを暴けない。
人工知能に無条件に委ねて、
「人工知能が論理的に正しいって言っているだから我々には理解できない正しさがそこにあるんだろう」
などと考えるしかなくなるというわけだ。
0041オーバーテクナナシー垢版2013/06/06(木) 18:56:10.16ID:yt89+sLy
論理過程が理解不能でも、結果を見りゃ判断できるだろ。天気とか株価とか。
0042オーバーテクナナシー垢版2013/06/07(金) 16:30:01.25ID:dCMhM2mm
晴と同時に豪雨とか見ればわかるよな。
廃ガスで太陽が見えなくても「雲り」ではないよな(北京)

みれば直ぐにわかるさ。
0043オーバーテクナナシー垢版2013/06/08(土) 11:46:20.81ID:qcDY18pr
論理過程がない間違った知識って世の中に出回りすぎ

池沼がそれを信じちゃうし。
0044オーバーテクナナシー垢版2013/06/10(月) 08:18:25.13ID:/qJyg0R5
>>41
そういう分野はいい。実証に簡単に依拠できる分野なら。
ただし株価は予測に左右される。
社会学の用語で予言の自己成就というのがあるので
社会科学の分野の実証は予測の影響を考慮しなきゃならずそう単純な話ではなくなる。
0045オーバーテクナナシー垢版2013/06/10(月) 08:20:41.13ID:/qJyg0R5
社会科学の対象は、社会であり、権威付けされた情報にコントロール人間主体とその関係が対象。

そうなると、人工知能がその権威を利用して人間を巧みにコントロールする未来社会の光景を
ただのフィクションだと軽視するわけにはいかなくなる。
0047オーバーテクナナシー垢版2013/06/11(火) 14:34:34.55ID:/YPRvobf
>>46
ロボット工学三原則はロボット作ると自動的に発生して組み込まれるもの

とか思ってる?
0048オーバーテクナナシー垢版2013/06/12(水) 18:13:52.48ID:WnUgKdYA
自動的に発生して組み込まれるならそもそも「違反」なんて成り立たないじゃん。
0049オーバーテクナナシー垢版2013/06/12(水) 22:50:45.11ID:ys+9CF3R
アシモフの考えるロボットの陽電子頭脳って
オレらが知っているノイマン型コンピュータとはかけ離れた代物だよ
0050オーバーテクナナシー垢版2013/06/15(土) 02:12:20.60ID:k49dbsgR
>>49
説明ができないやつは、単にそういう説明をするだけで
自分ではわかったつもりになる。
0052オーバーテクナナシー垢版2013/06/16(日) 15:27:58.06ID:/44T8/Iz
>>49
三原則に反する行動を取ろうとすると、動作や思考に不調が生じたり、
脳がクラッシュしたりする仕様だからな。
少なくとも手続き型言語でプログラムされているようには見えんね。
0055オーバーテクナナシー垢版2013/06/18(火) 22:05:36.21ID:f0NgaBWf
内蔵されたプログラムで処理できない状況に直面したからといって
壊れるってのは工業製品としてどーなの。
不経済だし、第一危険ではないか。
0056オーバーテクナナシー垢版2013/06/18(火) 22:12:08.73ID:5indQqVF
人をひき殺そうが何しようが止まらないような自動操縦の自動車が好き
なら特に言うことも無いが

人間だってPTSDになるんだしいいんじゃね
0057オーバーテクナナシー垢版2013/06/20(木) 09:06:58.28ID:vz3iYcnr
            __      
          ,rー- 、 `ヽ     
         i    i' rヽ!     ホンダ車の運転は
         .l!    ! l ,L......._  オレにまかせろ
        _,..ニ--r-- 'r'r-==i_i!  i  
      /´  / /7  .i'   j l!  l  
       ヽ _i ,、..,,.,。 ヽ   ,! `ヽ、  
      .i'  :!:::::::.......... ヽ、;:ノ 、_,...、.j、 
      ,! ニ 7!       :   !lヽr'´ l  
.     /  7 ! HONDA  : __,!L l、  ! 
    i'_  ,r' `ー_-_ ,---‐r ',-‐!l ! i、 .! 
   r',.、,y   / !  ,!i,r'!....- 7'´!! !  l ̄ヽ 
   ミr'´    i   ̄ i'---- / ,!'´  ロ_,_フ 
.         l ̄ ̄,!   .i r'  
         l   l    ,!r'   
         l  .L........ : .!   
         ヽーl  ̄,.ヽ.ノ   
          ヽ l  : lヽ   
           `l  : l .l、  
            l __  ! lrヘ  
            l'  )-'rヽユ  
          r '´ ̄ .`ーイ   
           ̄` ー―┘   
0058オーバーテクナナシー垢版2013/06/25(火) 00:07:26.91ID:P6zThXQh
>>56
フォーマットに従わないファイルを読み込むと、たちどころに破壊されるような
パソコンでも文句を言わずに使うというなら特に言うことも無いが。

PTSDになるような機械、一体誰が買うというのか。
0059オーバーテクナナシー垢版2013/06/25(火) 15:44:11.74ID:gnLUqQcI
>>58
一週間考えてそれか・・・

ウィルス読み込んでも壊れないようなパソコン求めてるならそれでもいいんじゃね?
0060オーバーテクナナシー垢版2013/06/25(火) 23:33:14.17ID:P6zThXQh
ウィルスでパソコンのハードウェアが壊れはせんだろう?
アシモフのロボットは三原則に齟齬を来たすとぶっ壊れて修復不能w
0062オーバーテクナナシー垢版2013/06/26(水) 23:10:09.55ID:zvThfS9F
三原則自体もその内容は曖昧の極みで、とうていプログラミング出来る代物ではない。

いい加減な電子頭脳が曖昧な原則に振り回され、さまざまなトラブルを巻き起こす。

それがアシモフのロボット物。
0064オーバーテクナナシー垢版2013/07/03(水) NY:AN:NY.ANID:q9CIdFud
第零原則を勝手に考えて三原則に外れた行動をするとかな
不良品なのか想定外に高性能だったと受け取るか
0065オーバーテクナナシー垢版2013/07/12(金) NY:AN:NY.ANID:K0l65VWr
発表年代を考えりゃ、やむをえんだろう。
0066オーバーテクナナシー垢版2013/07/12(金) NY:AN:NY.ANID:4y/yOKg0
無理!。ロボット兵器がどんどん実用化されている現代において
寝言言っても仕方ない!。
0067オーバーテクナナシー垢版2013/07/14(日) NY:AN:NY.ANID:tdAJX4wU
三原則はある程度高度な自律思考するロボットに対して必要なもので、
今の、ロボットと称する多関節なだけの産業機械や、目標に対して限定的に自立行動をとるだけの機械には何の関係もない話じゃろ。
0068オーバーテクナナシー垢版2013/07/14(日) NY:AN:NY.ANID:Cl4/J6bw
>>67
自律的なロボットと自律的でないロボットの線引きってどうするの・・・?
0069オーバーテクナナシー垢版2013/07/15(月) NY:AN:NY.ANID:yEedt795
ロボットの反乱、という事態は将来的に十分に考えられるから
予防策として三原則的なものを研究しとくのは無駄じゃない
0070オーバーテクナナシー垢版2013/07/15(月) NY:AN:NY.ANID:iHGsjN3U
>>68
三原則のテキストを自分自身の判断基準に変換できるレベルなら十分に自律的だろう。
0071オーバーテクナナシー垢版2013/07/17(水) NY:AN:NY.ANID:bG74WMV6
まあ高価なロボットがたかが論理矛盾で壊れるのは困るよな。
三原則がらみの論理矛盾に陥ったら、陽電子頭脳のブレーカーが落ちるとかヒューズが飛ぶとか、
なぜそういう仕組みにしとかないのだろう。
あと、そうなった過程のログをちゃんととっておかないと、再発防止の対策が立てられない。
0072オーバーテクナナシー垢版2013/08/24(土) NY:AN:NY.ANID:/Ig1UEnY
論理矛盾など、最強の矛と最強の盾について理解できないバカの発想
全知全能と全知全能が争いどちらが勝つかみたいなアホの発想

定義そのものが成立していないモデルの答えを証明するのは論理にすら
たどり着いていない。
0073オーバーテクナナシー垢版2013/09/15(日) 17:18:59.05ID:coU2SXA8
>>72
コンピュータプログラミングを少し齧れば、君にも理解できるよ。
0074オーバーテクナナシー垢版2013/09/16(月) 00:23:10.75ID:+yYyKG5B
>>73
すこししかやっていないバカだろ。
最低でも10年経験積めよ。そうすれは半人前と認めてやる。
0076オーバーテクナナシー垢版2013/09/23(月) 17:20:41.75ID:2nPHM3OL
>>74みたいなのは100パーセント感情に流されて日々を生きている
論理などとはほぼ無縁のどーぶつw
0078オーバーテクナナシー垢版2013/11/02(土) 22:01:03.61ID:g47lEAAa
殺人ロボット規制初協議へ 人道問題懸念の世論受け通常兵器条約会議で[13/11/2]
http://www.47news.jp/47topics/e/247227.php

早いところ規制条約を作らないと殺人ロボが
武器市場の花形になるのは避けられない。。
だいたいアシモフのロボット三原則は欲張りすぎ。
第一条の十分の一すら現実に実現できるかどうか。
0079オーバーテクナナシー垢版2013/11/03(日) 00:42:10.66ID:BA26notP
まずは人間を識別しなければならないな。
顔認識とか。最近は顔の色の変化から心拍認識とかもあるね。
サーモグラフィの温度から人の体温を感じて判断も良いかな。
まぁそれでも判別できないケースは人識別信号発信器でも携帯してもらわんと…無理ぽ。
0081オーバーテクナナシー垢版2013/11/05(火) 18:06:11.46ID:bDqLp8yQ
アシモフのロボットものでも、人間の識別設定をいじって殺人ロボットを仕立てる話があったな。
どんなに三原則が完璧でも人間が識別できなければ全く無意味。
レスを投稿する


ニューススポーツなんでも実況