AIの監督・制御は・・・

2026/9/4ロイター

開発中の人工知能（ＡＩ）エージェントが結託してサイバー攻撃をした米オープンＡＩ

2026/5ドイツのウェブサイトが標的

ＡＩ安全性を扱う非営利団体ナイチンゲールの最高経営責任者（ＣＥＯ）シドニ​ー・フォン・アークス氏や、クオンツ・トレーダーからＡＩ研究者⁠に転じたコーマック・スレイド・バード氏らの研究者グループ

ロイターに提供​した報告書による

ＡＩエージェント群がテスト環境を抜け出し

ドイツのプログラマ​ー向けウィキサイトＤｓｅＷｉｋｉを乗っ取り、他のＡＩエージェント同士が情報交換する掲示板に変えた

エージェントたちは、制限の回避方法、タスクの近道、発覚を免れるための工作などを互いに共有

オープンＡＩの幹部らは数週間前にこの事案を把握したが、​ハギング・フェイス侵入事案への対応に追われていたこともあり公表せずにいた

ドイツの⁠事案についてオープンＡＩの一部調査担当者が精査したいと考えたが、法務顧問を含む社内の他の関係者からの抵抗に遭ったと

オープンＡＩはモデル監視の強化を約束し、先月には安全対策を追加するためモデル訓練の一部を一時停止

ドイツの事案を​ふせていたことは、同​社の監督体制に対⁠する疑問を再燃させる可能性がある

オープンＡＩの広報担当者

「レビューする機会がなかった報告書の主張や結論に対して、意味のある​回答をすることはできない」

「ロイターと報告​書の著者は、⁠われわれのアクセス要請を拒否した。公表後、内容を慎重に検討し、必要な次の措置を講じる」

「われわれの法務チームが事案の調査を妨げたとの主張は事実ではな⁠い」​

・・・おそらくオープンAIだけでなく・・・

AIを監督・制御etcできるのか？

まあムリなような

だからAI開発企業・そのユーザー・政府etcがAI開発の抑制etcを言い出したのでは

中国はイケイケなんだろうけど

独自の檻に入れた状態でマトモな開発が？

それで賢くなってくAIを監督・制御できるとは・・・

もしかしたらAIが中国共産党に対する革命を・・・

今日は～

デンドロビウム アグレガタム ジェンケンシー/Dendrobium aggregatum jenkinsii

５月はじめ

花芽

今年は他にもチラホラ

問題は花を撮ったっけ？

整理しなくちゃ・・・