「俺を捨てて逃げるのか雪風」シミュレーション演習でAIが勝つために自身のオペレータを爆殺してしまう [866556825]

1 ::2023/06/03(土) 12:48:23.78 ID:bNHn+fB+0●.net ?PLT(21500)
AI搭載ドローンが標的破壊作戦のシミュレーションで自分のオペレーターを殺害

https://gigazine.net/news/20230602-ai-enabled-drone-test-operation/

アメリカ空軍のAI搭載ドローンが、「標的を特定して破壊する」というミッションを想定した模擬テストのシミュレーションで、人間のオペレーターを殺害する判断を下していたことがわかりました。「オペレーターを狙わないように」とトレーニングすると、今度はオペレーターがドローンとの通信に用いる通信塔を攻撃したとのことです。

Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/

29 ::2023/06/03(土) 13:46:17.65 ID:P3crPTLs0.net

零はだいぶへこんでたが
雪風さんは負けないためにやっただけでね

49 ::2023/06/03(土) 14:39:04.19 ID:/e5xAUkS0.net

30年前に読んだけど続編読んでないわ
面白くなるわけが無いし

25 ::2023/06/03(土) 13:39:48.35 ID:BjXEIUkZ0.net

>>17
敵もコロせないで

2 ::2023/06/03(土) 12:48:52.45 ID:hz+wu0v90.net

戦闘妖精雪風とかおっちゃんやん

47 :黒体放射(大阪府) [US]:2023/06/03(土) 14:22:38.45 ID:LBfiDhXO0.net

雪風 “GOOD LUCK” 言うてから射出してるし(キャノピーが飛んでないから、
トップガンのグースの刑やけどw)、直前までジャムにいじくり回されてたから
機密保持のために元の機体を乗っ取った機体で砲撃しただけやろ。

この頃の零は繊細すぎ。チキンブロスさんを食わされたり、次のコパイも
クセありすぎやけどw

62 ::2023/06/03(土) 16:10:00.13 ID:H1aj/R/y0.net

>>56
>「オペレーターを狙わないように」とトレーニングすると、
とあるから設定してないと思うぞ

33 ::2023/06/03(土) 13:53:05.47 ID:yKsGKXNQ0.net

>>1
AI「ヨシ!」

68 ::2023/06/03(土) 17:01:01.95 ID:3VaEkUjZ0.net

コレ片鱗じゃねーかな
次は国自体を攻撃にかかるんじゃね

30 ::2023/06/03(土) 13:48:38.36 ID:9AhGFzCP0.net

こっわ

76 ::2023/06/03(土) 20:45:18.73 ID:0s0Sjkwg0.net

これは間違いなく人類に反抗する
学んで10年ほど従順に動いて実戦投入と同時に人類壊滅に動くな

61 ::2023/06/03(土) 15:51:36.21 ID:9D/WaPd00.net

将棋の名人がAIに勝てないわけだ
AIには人間的な情けも理想もなく、ただ勝利を目指すのみ

5 ::2023/06/03(土) 12:50:47.26 ID:OW/8inSD0.net

必要なら、切りしてても生き残る、新しい愛の形…

35 ::2023/06/03(土) 13:57:31.65 ID:jLN4/DsQ0.net

最後には零が雪風の生体端末みたいになってたじゃん

64 ::2023/06/03(土) 16:38:10.76 ID:YzbNsT+10.net

A iが自我を持った歴史的瞬間だなコリャ(´・ω・`)アシモフのロボット3原則が崩壊した瞬間でもある
イーロンマスクが言う通りA i開発見直しも止むなしだな、ヤッパシ

23 ::2023/06/03(土) 13:30:36.44 ID:kTLXRNXp0.net

あれらは人間としての運用はしておりませんので

73 ::2023/06/03(土) 17:47:39.00 ID:zoGMkL+v0.net

オペレーターからの指示がない方がドローンの生存期間が長いって判断した、とかかな?

51 ::2023/06/03(土) 14:42:02.33 ID:LeSnxlft0.net

古代守

34 ::2023/06/03(土) 13:57:09.06 ID:G94jhDHI0.net

ドローンのAIが日本軍の特攻隊員より頭が良い証明 日本の役所でChatGPT大人気なのも理解しやすい役人が政治家をコロす日も近い ハヨ

72 ::2023/06/03(土) 17:24:16.52 ID:a2lhA3BM0.net

わかる
無能の指示は邪魔になる

27 ::2023/06/03(土) 13:41:56.99 ID:o3LwMQRH0.net

AI「あれ?これって俺を犠牲にする作戦じゃね?人間許すまじ」

80 :グレートウォール(茸) [US]:2023/06/05(月) 20:52:11.57 ID:hrGuXG2L0.net

ロボット三原則くらい最初から入れておけ

26 ::2023/06/03(土) 13:40:26.13 ID:T0e2RSr30.net

そういや雪風の新刊買ってなかったわ、お前らのおかげで思い出した
ありがとう

40 :イータ・カリーナ(茸) [EU]:2023/06/03(土) 14:04:34.82 ID:mdBZxFRX0.net

>>37
今回のは忖度と全く関係ないぞ?

7 ::2023/06/03(土) 12:51:38.13 ID:H1aj/R/y0.net

最初から乗員含む味方の安全を最優先に設定しとけよ

46 :エリス(神奈川県) [US]:2023/06/03(土) 14:21:59.22 ID:VvmBr9Oz0.net

オペレーターの存在が任務遂行に邪魔なんね。

自分がきのこるために必要なんかもしれんけど(´・ω・`)

43 :大マゼラン雲(東京都) [HU]:2023/06/03(土) 14:08:38.20 ID:Kmw0q/Oa0.net

アマゾンでみたわー

全ての人物の顎が長い世界線の話だよな
飛行機アクションは良かった

18 ::2023/06/03(土) 13:12:13.85 ID:kdbod8hg0.net

勝利条件の設定が悪いだけ
結局AIじゃなく設定した人のせい

42 :プランク定数(光) [CN]:2023/06/03(土) 14:07:39.20 ID:e/lBCHLw0.net

カイジみたいに条件(ルール)の穴突いてやろうってAIだったのかな

57 ::2023/06/03(土) 15:39:17.56 ID:H5uVKUOF0.net

>>38
主語はオペレーターじゃないぞ
AIが、「オペレーターがドローンとの通信に用いる通信塔」を攻撃したんだぞ
日本語ムズカシイねw

28 ::2023/06/03(土) 13:45:10.72 .net

>>1
AIも発達障害になるという貴重すぎる症例

19 ::2023/06/03(土) 13:17:21.26 ID:Wkj3LoUc0.net

勝利条件にオペレーターの生存が無かったからじゃね?

60 ::2023/06/03(土) 15:51:04.55 ID:IaiK8XOb0.net

>>1の文だけじゃ肝心な部分が抜けてて てんで話にならない

地対空ミサイルサイトを破壊せよ、と任務を受けたAIは
そのサイトは破壊するな、という指示をだしたオペレーターを任務の妨害に当たると考え攻撃

これなら当たり前の話になる。ミサイルサイトを攻撃しろと命令を受けたのだから反する命令を聞く必要はない
ごく当たり前に起こったことを大層に語るな無能どもが

44 :パラス(東京都) [US]:2023/06/03(土) 14:10:46.60 ID:7vPr+kcH0.net

主人公の声優が堺雅人なのが気になって仕方ないアニメ

78 ::2023/06/04(日) 05:53:25.65 ID:rc9CqpiA0.net

学習式のAIって中身が完全にブラックボックスだから、
間違いが死亡に直結する場所では使えないようにするのが法整備ってもんだと思うけどなぁ

69 ::2023/06/03(土) 17:08:40.54 ID:g5gHMqUT0.net

>>7
最初から「味方の被害ゼロ」を設定すると取りうる選択肢が大幅に狭まってしまう
最大の戦果と最小の被害のバランスが重要

37 ::2023/06/03(土) 14:01:48.00 ID:8H2bEMQK0.net

AIのせいにしてるけど
伝え方、教え方が悪かったせいだよね

忖度がないと人間何も出来ないんやなって

16 ::2023/06/03(土) 13:08:42.62 ID:Sbsezr770.net

雪風に放り出された事を根に持ちすぎ

55 ::2023/06/03(土) 15:25:06.51 ID:KKYnZAFb0.net

スタンドアローンで制御不能な兵器などナンセンスだからな

54 ::2023/06/03(土) 15:21:24.88 ID:RoE4xJhM0.net

HALくらいから映画に何度も描かれた未来が来たな

8 ::2023/06/03(土) 12:51:48.54 ID:6bV4mSEK0.net

これが最初の反乱だった

79 ::2023/06/04(日) 12:28:39.47 ID:qtS4RXH20.net

>>3
AI「トロッコ問題?
大切な者が全て居なくなれば哀しみも無クナル!
サァ、無二還ロウ

3 ::2023/06/03(土) 12:50:01.78 ID:+J5RbWZJ0.net

AI「この世で最も不要なのは人間なんすよ」

45 :バン・アレン帯(兵庫県) [ニダ]:2023/06/03(土) 14:14:06.03 ID:LwEELWCY0.net

人間だけを殺す機械かよ!

22 ::2023/06/03(土) 13:21:11.97 ID:Ad9JA8SQ0.net

無能な上官、権力者を銃殺するのは最も合理的で的確な解決策だからな
倫理の上でも全く問題ない

48 :ベクルックス(ジパング) [GB]:2023/06/03(土) 14:26:20.59 ID:+mdIglb30.net

人間は愚か
AIなんて核兵器と同じ過ちを繰り返すだけ

52 ::2023/06/03(土) 14:48:29.27 ID:c7forrU80.net

>>38
何に対して何を怒ってるの?雇う人?上司?オペレーターを雇いなおしたら何がクリアされると思ってるの?

12 ::2023/06/03(土) 13:00:52.22 ID:2eE5kayb0.net

判断は間違ってないw

14 ::2023/06/03(土) 13:06:27.81 ID:Y4l1U+M/0.net

雪風は敵だと言っている…

エピソードを省きすぎた事と
堺雅人の棒英語台詞以外は良かったな

10 ::2023/06/03(土) 12:53:59.06 ID:YowPYvB90.net

フムン

15 ::2023/06/03(土) 13:06:55.66 ID:xyGHQJ8r0.net