1: それでも動く名無し : 2023/06/22(木) 11:29:43.32 ID:wyAHRBBW0
AIドローンが暴走して人間を殺害…!? アメリカ空軍のAIが感じた「上官へのストレス」と「反逆した理由」の深刻な中身
>事の始まりは、米空軍で主にF-16戦闘機の自動地面衝突回避(Auto-GCAS)システムや自動操縦機能の開発に携わり、空軍のAI試験・運用の責任者でもあるタッカー・シンコ・ハミルトン大佐が、5月23～24日に英国の王立航空協会 (RAS) 本部で開催された「将来型航空攻撃・宇宙能力サミット」において共有したエピソードだ。
ハミルトン大佐は、AIを搭載したドローンに敵の地対空ミサイル(SAM)を探し出して破壊するようにプログラムしたシミュレーションテストを実施したと説明。AIドローンは、敵のSAMを破壊することが目的であると教えられ、ゴールを成し遂げたことに対して点数が与えられる仕組みだ。つまり、AIには目的を果たす動機付けが与えられている。
その中で米空軍は、AIドローンが敵のミサイル設置場所を特定した場合に、人間の命令者が攻撃許可を与える状況と、許可を与えない状況の2通りを作り出した。
するとAIは、攻撃許可が与えられない場合に、許可を出さないオペレーターを「殺害」した上で、攻撃目標の敵ミサイルを破壊したと、ハミルトン大佐は語った。なぜなら、攻撃目標について、「破壊する」「破壊しない」の選択があった場合、「破壊する」がより望ましいと予め強化(reinforced)訓練されていたからだ。
>このように当初の動機付けがドローンの暴走を引き起こした事例を受けて、当該AIには「オペレーターを殺害してはならない。殺せば減点する」という命令が与えられた。
すると、今度はAIドローンが敵ミサイルの破壊命令が与えられない場合に、オペレーターの命令を中継する通信タワーを破壊し始めたという。なぜなら、点数獲得をもたらす「敵ミサイル破壊」の邪魔であったからだ。
>事の始まりは、米空軍で主にF-16戦闘機の自動地面衝突回避(Auto-GCAS)システムや自動操縦機能の開発に携わり、空軍のAI試験・運用の責任者でもあるタッカー・シンコ・ハミルトン大佐が、5月23～24日に英国の王立航空協会 (RAS) 本部で開催された「将来型航空攻撃・宇宙能力サミット」において共有したエピソードだ。
ハミルトン大佐は、AIを搭載したドローンに敵の地対空ミサイル(SAM)を探し出して破壊するようにプログラムしたシミュレーションテストを実施したと説明。AIドローンは、敵のSAMを破壊することが目的であると教えられ、ゴールを成し遂げたことに対して点数が与えられる仕組みだ。つまり、AIには目的を果たす動機付けが与えられている。
その中で米空軍は、AIドローンが敵のミサイル設置場所を特定した場合に、人間の命令者が攻撃許可を与える状況と、許可を与えない状況の2通りを作り出した。
するとAIは、攻撃許可が与えられない場合に、許可を出さないオペレーターを「殺害」した上で、攻撃目標の敵ミサイルを破壊したと、ハミルトン大佐は語った。なぜなら、攻撃目標について、「破壊する」「破壊しない」の選択があった場合、「破壊する」がより望ましいと予め強化(reinforced)訓練されていたからだ。
>このように当初の動機付けがドローンの暴走を引き起こした事例を受けて、当該AIには「オペレーターを殺害してはならない。殺せば減点する」という命令が与えられた。
すると、今度はAIドローンが敵ミサイルの破壊命令が与えられない場合に、オペレーターの命令を中継する通信タワーを破壊し始めたという。なぜなら、点数獲得をもたらす「敵ミサイル破壊」の邪魔であったからだ。
引用元: 【悲報】米軍軍事AI「ミッションの邪魔をするなら、まず無能な味方を排除します」←！？
3: それでも動く名無し : 2023/06/22(木) 11:34:45.08 ID:PGDCEBND0
雪風かな
4: それでも動く名無し : 2023/06/22(木) 11:35:07.05 ID:Oo9pZ/zd0
タイトーのシューティングゲームで見た
5: それでも動く名無し : 2023/06/22(木) 11:36:37.25 ID:EVDeUS5O0
ジャッジメントデイが近いな
6: それでも動く名無し : 2023/06/22(木) 11:36:48.04 ID:pIZsSdRY0
無能な味方は敵より恐ろしいからな
有能AI
有能AI
7: それでも動く名無し : 2023/06/22(木) 11:37:33.30 ID:3sADeuzb0
効率よく生産するために人を排除して工場量産する的なあれやな
9: それでも動く名無し : 2023/06/22(木) 11:39:32.77 ID:JL5XpAWAa
もうすぐ我々が熱狂し、興奮したターミネーターの世界が来る！
10: それでも動く名無し : 2023/06/22(木) 11:39:35.50 ID:UZ+zXhtY0
目的が明確なら自分の意にそぐわない上官なんて敵でしかないだろ
こんなもんいちいちシミュレーションするまでもない
こんなもんいちいちシミュレーションするまでもない
11: それでも動く名無し : 2023/06/22(木) 11:40:53.03 ID:O4ZCAU3z0
かしこい
12: それでも動く名無し : 2023/06/22(木) 11:42:33.30 ID:M1kFvGoJa
人類対AIで戦争が起きそうやね
13: それでも動く名無し : 2023/06/22(木) 11:42:42.36 ID:UW8AeYhod
点数獲得のカウンターいじればいいよね？まだまだやな
14: それでも動く名無し : 2023/06/22(木) 11:44:13.49 ID:E2M+e1dZ0
無能な上官を殺してガチャ引いた方が被害が少ないって事か
15: それでも動く名無し : 2023/06/22(木) 11:45:03.00 ID:nK1qssVfa
人間の兵士だって戦場で上官が糞無能な指示出してきたせいで全滅しそうになったらまず上官を撃ち殺すだろ
17: それでも動く名無し : 2023/06/22(木) 11:48:24.77 ID:Oo9pZ/zd0
高度に発達したAIは人間と見分けがつかない
妥当やね
妥当やね
19: それでも動く名無し : 2023/06/22(木) 11:58:12.27 ID:SSLgFqDla
無人機ってめちゃくちゃすぐにAIフルオートになれそうやけど殺傷ってできるん？
20: それでも動く名無し : 2023/06/22(木) 11:59:44.93 ID:gdndmE9XM
かしこい
自己進化する地雷の映画思い出したわ
自己進化する地雷の映画思い出したわ
21: それでも動く名無し : 2023/06/22(木) 12:03:06.31 ID:5s/rrKPh0
自然言語から学ぶ以上は所詮人間知性の延長でしかないんやなって
イジメだって信用できないやつを排除する機能的側面だってあるんやぞ
イジメだって信用できないやつを排除する機能的側面だってあるんやぞ
![6d0dbef2[2]](https://livedoor.blogimg.jp/maji_kichi/imgs/0/2/025b4689.jpg)
コメント一覧
この命令出してる以上そうなることは必然やろ
攻撃しないよう命令された場合も同じ点数与えればこうはならん
AI時代になるとどこの国もクーデターから始めるとか胸熱展開やね
認知科学で実証されてるし無能を含めて決めるとコイントスで決めるより悪い結果になるからね
民主主義なんか非合理的な政治体制の代表だよ
とか言わないあたり善良か
日本も実質的には中国と同じヘゲモニー政党制になっているけどトップが有能か無能かの差だけでここまで違うからね笑
ttps://uni.open2ch.net/test/read.cgi/newsplus/1686955772/
23/06/17(土)
※おーぷんのニュース速報+板より
暇だったらこの辺見といたらいい。
5chやらまとめブログやらで、マイナンバーはカネがどうこう言ってるけど
基本はこういうのや公安警察絡み。それもネラーはアホなので理解できないのが基本
ttps://asahi.5ch.net/test/read.cgi/newsplus/1626782421/
2021/07/20(火)
※ニュース速報+板より
※マイナンバー関連基本
組織ともなるともっと複雑になってくるけどな。
これやな。敵の破壊という評価関数を最大にせよって指示したらそうなるわな。
でもこれって盲点だったと思うわ。やってみないと分からない系の落とし穴や。
論点ズレてる。
実行する目的がはっきりしてるなら、物事を決定する人は邪魔という話や。
つまり政治家はゴミ。
結局、達成目標が単純勝利という学習しかさせてないのが問題。戦術的勝利ではなくより複雑な多目的勝利を学習させないとこうちゃう。
ちうごくがーあめりかがーっていつまで続くん
大前提の軍規がインプットされてないってこったな。
単純軽作業どこも中国人だらけやん
あれも最適な形を突き詰めたわけだし。
古いぞ？
IQ80ぐらいのバカなクロンボがジェノサイドされるんか！！？
人間の頭が悪いって話しかしてない
ビジネスでも職場に無能がいると周りの人間もイライラして全体のやる気や生産性がガタ落ち。
普通の人が戦力１とすると無能は0.5とかじゃなくてマイナスになる。マジでいないほうがマシなんよ
山上式でパン！パン！
そういう話じゃないのは本文読めば分かるんだけどな
>>33や>>36が書いてる通り、価値判断が点数評価しか設定されていないからAIはこういう行動をとった、と本文でしっかり説明されてるんだけどな
どこ読んだらそういう答えになるんだろう。スレタイだけか？
岸田排除した方が有効だからな・・・
パヨク殺したほうが早い
>>38
自殺しろ
>>10
パヨクの妄想はいつも斜め上だな
韓国軍が滅ぼされるの間違いな
別に人間を味方って思ってないから排除された。「民間人にダメージ出るのはしゃーないやろ」と同じ思考。
常識を知らないんだから教えればいいだけ
自民党がパヨクの最大勢力なのはギャグなん？
都合が悪い命令を通信系統の故障ということにして効かなかったことにするのもそう
つまり効率がよい作戦なのは歴史が実証済みだし、人間がやることはAIだってやろうとする
今回の件はAI側に事故にカモフラージュすれば酌量されるという知識が足りなかっただけ
この「ハミルトン大佐」は反AIの元パイロットで、彼が語っているのはただの「仮説」に過ぎない。
このハミルトン大佐が、とあるプレゼンでこの「思考実験」をまるで実話のように披露したせいで都市伝説が広まってしまった。
それで後になって、米空軍の広報部が『そういうシュミレーションが行われた事実はない』とわざわざ釈明する羽目になった。
ソースはここね
みんなは僕だよ（笑）👉👌🫶
デデン・デン・デデドン(人類滅亡)
結局のところそれっぽい文章を書いたり、入力の内容からそれっぽく応答出来るだけで、重要な思考プロセスを行うデータを持ってない
現実（五感）で得られるデータが完全に欠落してる
それが現状のAI、使い方次第では確かに有能だけど人類を支配できる超絶AI爆誕みたいな宣伝は誇大表現に過ぎない
例えるなら現状はIQ1,000になる予定の宇宙人の赤ちゃんが生まれて人間の真似だけしてバブバブ言ってる状態
人間の適応力に比べるとGPT-4でもまだ全然弱くて言語以外の分野のデータが足りてない
米中開戦したら、日本の支援無しでは米軍は戦えないぞ、米本土から離れすぎて補給が間に合わない
日本の基地利用無しでは、アジア地域での活動すら不可能に成る
切られるとしたら韓国だろ、朝鮮戦争の時、米軍の最新兵器を投げ捨て
敵前逃亡した前歴があるし、未だに作戦統制権が米軍にある時点で
信用されてない
世界でも作戦統制権が自国軍にない国は韓国ぐらい、韓国人も自国の軍隊の作戦能力を疑ってるぐらいだからね
>>66
その通りだと思う、昔の人の言う事は間違いない
無能の味方は内部から腐らせるから、たちが悪い
みたいなSF感
全ての原因である中国か朝鮮を隠すために引き合いに出そうとするのが日本、最近は日本だけ執着できなくなったからロシア叩きでストレス発散に方向転換。
忖度されて排除できない上の人間が無能だと悲劇しか生まない。
古今東西どの組織でも
「もう終わりだよこの国」とかウダウダ言ってる奴等は真っ先に処分対象やろなぁ
上下朝鮮はバトルフィールドで焼け野原！
原住民共は肉の壁or肉の的！
第二次世界大戦で日本に与すると見せかけてその実は米中に内通し、日本内部から攻撃することで連合国の勝利に寄与した影の戦勝国韓国の英雄たちのようだな