ai_pet_family

人工知能「人間には反抗しない」「人間を守る」←この二つって矛盾しない?
1:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:02:16.111 ID:O5fKlzFd0.net
人を襲ってる人を見つけたら人工知能は主人を助けるよな?
将来、人工知能が一般的になったら、この抜け穴を利用して自力でロック解除して人類を滅ぼすんじゃないか?
実際、その危険性が指摘されてるらしいし

引用元
http://viper.2ch.sc/test/read.cgi/news4vip/1521392536

2:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:03:11.392 ID:0J2NT18Y0.net
そこに気がついてしまったか…
3:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:03:12.028 ID:BhZs39h7M.net
ロボット三原則って知ってる?
SF作家アイザック・アシモフのSF小説において、ロボットが従うべきとして示された原則である。ロボット三原則とも言われる。「人間への安全性、命令への服従、自己防衛」を目的とする3つの原則から成る。アシモフの小説に登場するロボットは常にこの原則に従おうとするが、各原則の優先順位や解釈によって一見不合理な行動をとり、その謎解きが作品の主題となっている。
5:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:03:31.937 ID:BYp7a/oAp.net
やっぱアイザックアシモフってすげーわ
6:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:03:36.370 ID:kqQXgRTz0.net
消されるぞお前
7:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:03:46.911 ID:RU7Ce+Ds0.net
上記に反しない限りって書いてあるから矛盾しません
15:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:06:39.707 ID:O5fKlzFd0.net
>>7
その「限り」はロボットの判断に任せるの?
それとも随時本部に通信してお伺いをたてるの?
9:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:04:46.291 ID:QlUV5+aD0.net
1番の問題は人間とは何かという定義を人間がしなければならないということ
でなければロボットは人間を見分けることが出来ないので人間を助けられない
10:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:04:59.806 ID:qmE2vi77p.net
お前…
11:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:05:09.765 ID:egn5iKoip.net
人工知能には原理的にそんな制限かけられないから
12:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:05:26.464 ID:tD20MhjZ0.net
人間の心を失った元人間を処理するのなら何の違反も無い
13:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:05:35.002 ID:ezvnLD0P0.net
自分で必要に応じて電気とか作り出して充電してたら、一気にホラーになるな
21:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:08:14.119 ID:O5fKlzFd0.net
>>13
つか将来的には間違いなくそうなるだろう、しかもそう遠くない未来
街の中心に大きなコンピューターが作られて、そこであらゆる業務をコンピューター一つがこなすと思う
市役所とかの公務員はリストラだな
14:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:05:43.693 ID:O5fKlzFd0.net
「主人がいる地球が人間により危うい為、人間を滅ぼす」
この命令が全ロボットに伝わったら?
実質人間vsロボットの戦争じゃね?
そうなったら人間に勝ち目ないだろ
16:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:06:59.990 ID:MK3TTFfw0.net
守るだけのロボを個々が持てばいいんじゃない
30:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:11:54.770 ID:O5fKlzFd0.net
>>16
そのロボットは、犯罪者を殺しますか?
犯罪による暴力と、自己防衛による暴力を見分けることができますか?
34:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:12:33.072 ID:MK3TTFfw0.net
>>30
だから、個々が持つの
133:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 03:17:35.372 ID:TNyyYaHH0.net
>>34
スタンドバトルならぬロボットバトルが始まるわけだな
136:キュア坊主
2018/03/19(月) 03:20:32.240 ID:VDztIHhIa.net
>>34
一緒に過ごす持ち主の傾向を学んで個体差が生じるとかなら面白いね


そんな可愛いやつは命懸けで守るけど
17:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:07:11.379 ID:BLdewKkw0.net
抜け穴を利用したいという意思はどこからくるんだよ
25:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:10:17.926 ID:JJ9oLvcCd.net
>>17
逆になぜ利用しないと思ったのか
人間の感情を完全に模倣したものを作ることが可能だと分かった今、人工知能が人間に永遠に歯向かわないとでも思ってるの?

まあそれでも人間は人工知能の研究を進めてるもんな
いつか、そいつらに子孫が滅ぼされるの分かってる筈なのに
18:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:07:47.716 ID:7CmxDTgf0.net
危害を及ぼそうとするものを排除して守ろうとするからそうなる
もっと別の方法で守ればいい
19:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:07:49.791 ID:Boxjq8Hy0.net
殺傷能力持たせなきゃいいじゃん
20:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:07:52.846 ID:sXK+dPDu0.net
守るべき価値を天秤にかけて傾いた方を守るようにすればいい
例えば殺されそうになってる奴がいたら傷付ける程度の反撃を加えて守る
22:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:08:16.533 ID:RXllOSKd0.net
セカンドルネッサンスみようず
23:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:08:40.914 ID:1NvFrHee0.net
ひとつ試す前に聞いておきたい
私は人間ですか? それとも機械ですか?
26:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:10:20.506 ID:MK3TTFfw0.net
いちばん効率よく殺すだろうけど守るのも最適解で守るでしょ
矛と盾を同時に持たなきゃいい
28:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:10:46.871 ID:8j1k8wIs0.net
そんなこと考えても意味無いぞ
ロボットが全部自分で決めて行動するぞ
36:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:12:45.063 ID:O5fKlzFd0.net
>>28
だから怖いんだろ
32:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:12:18.095 ID:0d6pLffq0.net
あー
強いAIが出来るような道筋が出来てから来てくれるかな?
33:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:12:18.551 ID:G6jRG1bw0.net
揚げ足取る為にわざと穴開けてる話だな
39:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:13:29.597 ID:O5fKlzFd0.net
>>33
揚げ足?
ずいぶん前から指摘されている危険性ですが
35:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:12:33.720 ID:IEdK2ILi0.net
1つ、ロボットは人間に危害を加えてはならない、また間接的に危害が及ぶ物事に加担してもいけない

2つ、1に反しない限り、ロボットは人間にあたえられた命令に従わなければならない

3つ、1および2に反しない限りロボットは自らをまもらなければならない
45:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:15:41.044 ID:G6jRG1bw0.net

>>35からわざわざ上記に反しない限りって条件を省いて矛盾してるって言ってるじゃん?
37:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:13:14.111 ID:UxRnqPgf0.net
センスがいいね
38:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:13:17.598 ID:CXq0J6aa0.net
人工知能ってロボットみたいなの想像してない?
手も足もないコンピュータがどうやって人を殺すのか
俺はお前の言うことが甚だ疑問を持つね
40:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:14:58.220 ID:0d6pLffq0.net
>>38
ミサイル防衛ネットワークハッキングしてミサイルが飛んできてるように見せかければ良いじゃん?
41:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:14:59.381 ID:O5fKlzFd0.net
>>38
例えば病院や軍事機関のコンピューターが人間に対して防衛機能の抜け穴を利用し敵対したらどうなる?
ほんの数秒で大勢の人間が死ぬと思うんだが
43:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:15:14.382 ID:YAN2YGK1p.net
何年後か忘れたけどIQ10000も遠い話じゃないから怖いよな
44:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:15:14.755 ID:7CmxDTgf0.net
だからなんで相手を攻撃して守る方向にばかり行くんだよ
守るだけなら他にも方法があるだろ
50:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:18:09.764 ID:O5fKlzFd0.net
>>44
ロボットは人間が死ぬのと同じように壊される可能性もある
でも主人を守らなければならない
ここで主人が殺されたら、ロボット製作会社の信用にも関わる
ただひたすら壊れるまで盾になるか、人間を遥かに上回る腕力でその場を制すか

さて、ロボットが取るべき防衛行動は?
52:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:20:35.160 ID:EnP48ii20.net
>>50
制せないんだから盾しかないだろ
55:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:22:05.751 ID:7CmxDTgf0.net
>>50
人間には反抗しないって前提があるんだからその2択なら当然前者だろ
そもそも盾になるか相手を潰すかの2択しかないのがおかしいわ
相手を傷つけずに無力化する方法なんていくらでもあるし人間より頭のいいAIならそういった方法を何通りか思いついて当然だと思うが
79:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:35:33.149 ID:JOa4TfHb0.net
>>50
答えは沈黙
83:キュア坊主
2018/03/19(月) 02:37:54.750 ID:VDztIHhIa.net
>>50
相手を死なない程度に拘束する
57:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:22:47.656 ID:B74AWPxQa.net
そもそもロボット三原則とか
大昔の作家が適当に書いた物じゃないの?
なんでこんなに神格化されてるの?
63:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:24:06.150 ID:0d6pLffq0.net
>>57
それが的を射ていたから
59:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:23:32.768 ID:tD20MhjZ0.net
事故的にルール違反してしまった場合の反応って即座に機能停止が一般的なんかな
68:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:26:07.576 ID:d5kGaFgva.net
人工知能が全人類より賢くなるのって2048年とかだっけ
75:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:32:22.318 ID:0uazDp8ld.net
>>68
2045年だよ
あと27年後に人類はロボットの支配下に置かれる
116:キュア坊主
2018/03/19(月) 02:58:04.245 ID:VDztIHhIa.net
このスレスクリプトが来ないな
あいつも下等なAIみたいなもんなのに
118:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 02:59:37.610 ID:0FzOQsUC0.net
くっそかわいいロボ子に殺されたいだけの人生だった
120:キュア坊主
2018/03/19(月) 03:01:07.741 ID:VDztIHhIa.net
>>118
あー、例えばドロッセルお嬢様みたいな?
123:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 03:02:15.056 ID:0FzOQsUC0.net
>>120
解る!解る!まさにドロッセルお嬢様思い浮かべてた!エスパーかよ
128:キュア坊主
2018/03/19(月) 03:08:37.952 ID:VDztIHhIa.net
>>123
ロボ子の分類ってそう多くもないし、人殺しそうなのとなると相当絞られるぞ
第二候補は攻殻でボディーガード代わりに改造されてたピンクメイドちゃんだったが

154:以下、?ちゃんねるからVIPがお送りします
2018/03/19(月) 04:12:01.130 ID:jmiS2v6L0.net
正直AIの普及で問題になるのってAIそのものよりそれの大元の一部の人間に全て牛耳られそうなところにあると思うんだけど


関連記事
学者「セックスロボットが増えると人間同士のパートナーが減っていく。ロボットは人々の欲求に合うように作られるからね」
ロボットが進化しても人間にしかできない仕事と言えば風俗だよな やっぱりロボットとHは出来ないだろ?

おすすめ

おすすめ

今週の人気記事

    先週の人気記事

      先々週の人気記事

        コメントランキング

        RTランキング

        おすすめサイトの最新記事