Highlights from the RAeS Future Combat Air & Space Capabilities Summit
https://www.aerosociety.com/news/highlights-from-the-raes-future-combat-air-space-capabilities-summit/
AI-Controlled Drone Goes Rogue, 'Kills' Human Operator in USAF Simulated Test
https://www.vice.com/en/article/4a33gj/ai-controlled-drone-goes-rogue-kills-human-operator-in-usaf-simulated-test
アメリカ空軍のAI試験運用部長であるタッカー・ハミルトン大佐
イギリス王立航空協会が主催したFuture Combat Air & Space Capabilities Summit(将来の戦闘航空宇宙能力サミット)で行ったプレゼンテーションで
アメリカ空軍は、AI搭載ドローンでSAM(地対空ミサイル)サイトを特定して破壊するという敵防空網制圧ミッションの模擬テストを行いました
このとき、最終的に標的を破壊するかどうかは人間のオペレーターが決定する、と設定されました
すると、トレーニングによってSAMサイトを破壊することがより好ましいと学習したAIは
標的を破壊しないという判断を下すことがあるオペレーターこそがSAMサイトの破壊を妨害していると考え
オペレーターを殺害するという判断をするようになった
そこで、ハミルトン大佐らはAIに
オペレーターを殺してはいけない、それは悪いことだと学習させた
するとAI
オペレーターがドローンに対して指令を送るのに用いる通信塔を攻撃するようになった
ハミルトン大佐はこれらの結果から
「AIはだまされやすく、あまり頼りすぎてはいけない。また、目標達成のためには予想外の戦略も採りうる」
・・・はあ～
なんとも
優先順位が・・・
使えない新人？
今日は～
イワホウライシダ/Adiantum ogasawarense
久々に登場
ウチの親株の片割れ
今はハッパの更新時期
傷んだのをポツポツ切り取ってく
ついでに
カイガラがいないか確認
0 件のコメント:
コメントを投稿