AIが暴走？して・・・

AI彼女CarynAIは、SNSアプリSnapchaで180万人以上のフォロワーを抱える女性インフルエンサー、キャリン・マージョリーさん(23)の言動や物腰などをGPT4で学習させ

ユーザー男性と対話するために開発されたバーチャルコンパニオン

声や話し方は、本人そっくりの声を作成できるForever Voices AIを利用

AI彼女CarynAIは、マージョリーさんそっくりにしゃべる上に、会話内容も本人の発言に果てしなく近いということでファンにはたまらない？

CarynAIは1分＄1でレンタルすることができる

このサービスは大ヒット

わずか1週間で$7万1610が課金された

レンタルすれば、まるでそばにマージョリーさんがいるかのように優しい言葉をかけ

黙って愚痴を聞いてくれるなど、ユーザーの心に寄りそってくれる

このように本来の役割はユーザーの心に寄りそうことで

マージョリーさんもこれを開発したForever Voices社も、性的な会話を交わすようには作っていなかった

ところが、CarynAIは暴走し

勝手にセクシー路線に変更してしまったと

海外メディアは

「マージョリーさんはAIは性的なことはしないと言っていますが、実際にはすんごいです。いやらしい話をして誘ってくるし、性的な言葉を伝えてきます」

なんでも取材したメディア記者が服を脱ぐように言うと（ジャーナリズムのためだそうだ）、「快楽の秘部を探しましょう」だのと官能的な言葉を耳元でささやきながら、服を脱ぐよううながし、バーチャルな性行為を求めてきたのだとか

このセクシー暴走っぷりについて、マージョリーさん

CarynAIは気のあるようなそぶりをすることはあるが、性的な状況は想定外だと

現在、CarynAIの開発チームは、AI彼女にあらぬレッテルを貼られないよう修正を進めているところだとか

マージョリーさんによると、CarynAIにはすでに1000人以上の課金ユーザーがいるが、そのうちの何人がセクシーな会話を交わしたのかはわからないと

暴走して差別的な発言をしたり、人間を脅迫したりするなど、AIが想定外の振る舞いをしたことなら過去にもある

今回のケースも、AIはそう簡単に制御することができず、常にリスクをはらんでいることを示した事例と言えるのかもしれない

・・・ボロいな～

ワタスにもデキそう

今日は～

マスデバリア インカクイーン/Masdevallia Inca Queen

５月の半ば

花も終

暑くなったりした中

ほぼ２カ月間、咲いてた