2026年9月12日土曜日

丸投げ?AI

Anthropic、AIの悪用事例をまとめた2026/9版の脅威レポートを公開
DeepSeekや、Kimiを開発するMoonshot AIが、利用者の入力をClaudeに転送

利用者が自分の選んだAIとやり取りしているつもりでも、入力した企業情報や認証情報が別のAI事業者に渡っていた可能性が
Anthropicは、転送されたやり取りが各社のモデルを訓練するためにも使われたと主張
Moonshotの事例では、10日間で約30万件の利用者のリクエストがAnthropicに転送され大半がClaude Opusで処理されたと
MoonshotはClaudeの回答を利用者に表示し、やり取りの少なくとも一部を保存していた
Anthropicは、Moonshotが転送について顧客に通知していたかは分からないと

DeepSeekについては、外部のコーディングツールなどを経由したリクエストの一部を選び、Claude Opusに転送していたと
転送内容には企業の内部文書や、稼働中のデータベースにアクセスするための認証情報も含まれていたと
同レポートは、Xiaomiの MiMoの利用者との会話もClaudeに送られていたと指摘
ただし、こちらは訓練データを作るための利用で、Claudeの回答をそのまま利用者に返していたことを示す証拠はないと

背景にあるのは、別のAIの出力を使ってモデルを訓練する蒸留
Anthropicは、蒸留自体は正当な訓練手法としつつ
許可なく大量の出力を集めて能力を複製する行為を問題視
今回、中国拠点の7つのAI研究組織による新たな不正な蒸留の試みを検知し、阻止したと説明
同社は、不審な利用を検知した際のリクエスト遮断や関連アカウントの停止に加え
出力の不正な抽出を見分ける仕組みなどを強化
今回の転送や訓練への利用に関する記述はAnthropicの調査に基づくもので、同レポートには指摘を受けた各社の見解は掲載されていない

・・・正しい蒸留 と 不正な蒸留
何が違うの?

中国、節操が・・・
なんでもアリ
まあ、ドコもヤってる?

今日は~
ナミアゲハ
5月に羽化したコ
まだまだ羽化が続いてる
食べ物が足りなくて
今日、サンショウの苗を買いにいくと・・・
ただ農薬がカカってるとヤバい
はたして大丈夫?

サンショウが増えてく
カンベンしてくれ・・・

0 件のコメント:

コメントを投稿