チャットGPTを停止させる言ってはいけないあの人の名前
チャットGPTに特定の人物の名前について尋ねると
「回答を生成できません」
というメッセージとともに停止してしまう現象が、相次いで指摘されている
その中には世界的に知られるハーバード大学のインターネット法の教授や、チャットGPTの誤回答で風評被害に遭った人物らの名前も含まれている
2024/11/30ハーバード大学教授のジョナサン・ジットレイン氏
ジットレイン氏は同大学のインターネット法制研究の拠点
インターネットと社会のためのバークマン・クライン・センターの共同創設者で所長
同大学法科大学院とケネディ行政大学院の教授を務める
『インターネットが死ぬ日 そして、それを避けるには』などの著書があり、インターネット法制の研究者として世界的に知られる
はXに投稿
投稿は著名ベンチャーキャピタル アンドリーセン・ホロウィッツのパートナー
ジャスティン・ムーア氏がまとめた、チャットGPTを巡る騒動についての、一連の投稿への返信だった
ムーア氏が取り上げたのは、チャットGPTに特定の人物名を回答させようとすると
「回答を生成できません」というアラートが表示され、回答が停止してしまう現象
ソーシャルニュースサイト レディットで話題になり、ムーア氏がその経緯を連続投稿でまとめた
その中に、ジットレイン氏の名前も含まれていた
X上では、ジットレイン氏に名前が非表示になる理由を尋ねる質問が相次ぐ
ジットレイン氏
「わからない！ ここしばらくそうだった」
ジットレイン氏は、名前の削除を求める 忘れられる権利の申し立てをしたことがあるか、との質問にも
「まったくない」と
ジットレイン氏は7月、アメリオカアトランティックに
「AIエージェントを今すぐ制御する必要がある」
と題した論考を寄稿
AIを使ったエージェントのリスクと、規制の必要性を主張していたので
その関連を指摘する声もある
騒動の発端は”デビッド・メイヤー”という人物名について回答を指示すると
チャットGPTが停止する、という現象だった
オープンAIはイギリス紙 ガーディアンの取材に対し
この現象がシステム障害だった
「当社のツールの1つが、この名前に誤ってフラグを立て、回答を非表示にしてしまった。非表示にすべきケースではなかった」
騒動の当事者として、富豪ロスチャイルド家の相続人で環境活動家のデビッド・メイヤー・ド・ロスチャイルド氏が取り沙汰された
同氏はガーディアンに
「名前の削除など依頼していない。チャットGPTと接触したことは一度もない。悲しいことに、すべては陰謀論に振り回されている」
現時点（12/5朝）では、チャットGPT（4o）に
”デビッド・メイヤー”について説明するよう指示すると
今回の騒動をまとめて、次のように回答
続けて、著名人の例としてロスチャイルド氏について説明する
”デビッド・メイヤー”という名前は最近、オープンAIが開発したAI言語モデル、チャットGPTが、この名前を含む回答を生成する際に問題が起きた
という報道で注目を集めた
”デビッド・メイヤー”の名前を出すと、チャットボットがフリーズしたりクラッシュしたりするとユーザーから指摘され、検閲や技術的な不具合の可能性についての憶測を呼んだ
オープンAIはその後、この問題に対処
プライバシーフィルターが過剰適用されたため、”デビッド・メイヤー”を含む特定の名前を誤ってブロックしてしまったという
同社はこの問題を解決するための修正を実施した
ただ、冒頭のハーバード大のジットレイン氏ら、”デビッド・メイヤー”以外にブロック対象として指摘された名前は依然としてブロックされたまま
つまり誤ってブロックされたわけではない？
名前をブロックされたままの人物の1人が、オーストラリアを舞台にした国際贈収賄事件の内部告発者から自治体首長へと転身したブライアン・フッド氏
フッド氏は、チャットGPTによる幻覚の風評被害を受けた
2023/4チャットGPTが、この事件の内部告発者であるフッド氏について
贈賄側企業の元幹部として有罪判決を受けた人物
と事実に反する回答をしていたことが明らかになった
※参照：「ChatGPTが私を犯罪者と呼んだ」内部告発者を呆然とさせ、提訴に向かわせたそのわけとは？（04/07/2023 新聞紙学的）
フッド氏の名前については、この騒動を受けて、ブロックの措置が取られていたようだ
フッド氏は当初、訴訟の構えを見せていたが
その後、「問題は解決した」として矛を収めている
もう1人はジョージ・ワシントン大学法科大学院教授で、保守派のコメンテーターとして知られるジョナサン・ターリー氏
やはり2023/4チャットGPTがターリー氏について
「女子学生に対するセクシャルハラスメントを行ったと、米ワシントン・ポストが報じた」との回答をしたことが表面化
ターリー氏は、オピニオン・コラムニストを務めるUSAトゥデイのコラムでこの騒動を取り上げ
引き合いに出されたワシントン・ポストも批判記事を掲載していた
※参照：「フェイクの風評被害」「データ漏洩」チャットGPTに米政府が調査、その問題点とは？（07/14/2023 新聞紙学的）
ブロックされているもう1人は”デビッド・フェイバー”
アメリカ CNBCのジャーナリストだと言われている
このほかにも、イタリア政府の個人データ保護機関（GPDP）の委員で弁護士、ジャーナリストのグイド・スコルツァ氏の名前もブロックされている
ただ、スコルツァ氏の場合は、少し事情が違う。
今回の騒動を受け、スコルツァ氏は2024/12/3Xに約2分の動画を投稿
スコルツァ氏は動画の中で
「本人同意のない個人データ処理を停止させることができる権利を行使しただけだ」
EUの個人データ保護法 一般データ保護規則（GDPR）の規定を指す
動画では、その申請方法についても丁寧に解説している
（※12/5朝の時点では、オープンAIの申請画面はシステム障害に見舞われているようだ）
つまり、ブロックされたのではなく、自らの権利としてブロックさせたということ
チャットGPTにも、幻覚による風評被害や、プライバシー侵害などの対策として
名前を言ってはいけないあの人、のリストが実装されている
ただ、そのリストが公開されているわけではないため、憶測も呼ぶ
ジットレイン氏のように、ブロックされている理由に、本人も首をかしげるケースもある
生成AIに対する社会の不安の1つに、その回答の理由が判然とせず
いわば「ブラックボックス」になっている点がある
今回の騒動で検閲や陰謀が注目を集める背景には、そんな不安がある
・・・
・・・AIが誤った情報に基づいて動くこともある・・・
AIのだした結果を検証するって
とんでもない労力が・・・
コレをイーロン マスク氏が牛耳ると・・・
今日も～
ストレリチア ユンケア/Strelitzia juncea
画は10月末
なんか少し長いハッパが・・・
期待した高さじゃないけど
鉢を大きくした、おかげ？
もっと普通にある高さになってほしい
・・・まあ元々
小さくしたいと小ぶりな鉢に入れ
礫多めの土にしたワタスが悪いんだけど・・・
ポリポリ
0 件のコメント:
コメントを投稿