AIが

 アメリカIT大手、ＡＩ新技術の活用にブレーキ　倫理的問題に直面

グーグルのクラウド部門は昨年9月、顧客金融機関から融資審査に人口知能AIを活用するサービスを提供してほしいと持ちかけられた

グーグル・クラウドは、AIベースの信用スコアリング（信用力の数値化）は年間＄数十億規模の市場になる可能性を秘めていると考え、足場を築きたい気持ちはやまやまだった

しかし管理職、社会科学者、エンジニアなど約20人で構成する倫理委員会は10月の会議で、全員一致でこの案を却下した

AIシステムは過去のデータやパターンから学ぶ必要があるため、有色人種その他、社会の主流から取り残された人々への差別的慣行を繰り返すリスクがある

と結論付けたのだ

社内でレモネードの名で知られる倫理委員会はさらに、こうした懸念が解消されるまで信用力に関連する金融サービス案件には一切手を付けないとする規約も採択した

レモネードはそれまでの1年間にも、クレジットカード会社や企業向け金融機関などから持ちかけられた同様の案件3件を却下していた

昨年初め以来、グーグルは感情を分析する新たなＡＩ機能についても文化的配慮の欠如を懸念して阻止した

マイクロソフトは声を模倣するソフトウエアの利用に制限をかけ

IBMは顔認識システムの進化版を作って欲しいという顧客の要望を拒否

３社のAI倫理責任者への取材によると、いずれも経営幹部その他指導者でつくる委員会が決定を下した

社会的責任を強く求められるようになった業界では今

莫大な利益をもたらすAIシステムを追求することと

社会的責任との間でバランスを図ろうとする機運が芽生えている

グーグル・クラウドの責任あるAI担当マネジングディレクター、トレーシー・ピッッゾ・フレイ氏

「チャンスと有害性がある。われわれの仕事はチャンスを最大化し、有害性を最小化することだ」

しかし難しい判断もある

マイクロソフトの場合、人の声の録音を修復するのに音声模倣技術を用いることのメリットと

政治的なディープフェイクを可能にするリスクを天秤にかける必要があった

・・・ネットがますます嘘まみれに？

人権活動家は、社会全般に影響を与える可能性のある物事については社内だけで判断を下すべきではないと

社内倫理委員会が本当に独立性を保つことは不可能

他社との競争圧力により一般への情報公開も制限されるから

ヨーロッパのための市民の自由連合の責任者、ジャスチャ・ギャラスキー氏

社内のAI倫理委員会について

「本当に透明かつ独立したものになるとすれば――まったくもって夢物語だが――その他の解決法よりも、かえって良いかもしれない。しかし私は非現実的だと思う」

同氏は外部から監視すべきだと考えており、実際に当局がルールの策定に取りかかろうとしている

大手３社もAI利用についての明確な規制を歓迎すると表明

自動車の安全性規則と同様、顧客にとっても社会の信頼を得る上でも不可欠

責任ある行動は自社の経済的利益にもつながると

ただ各社は技術革新と、それに伴う新たなジレンマに対応できるよう規則に十分な柔軟性を持たせることも強く要望

IBMのクリスティナ・モンゴメリー最高プライバシー責任者はロイターに対し

脳とコンピューターを結ぶインプラントやウエアラブル機器について、自社のAI倫理委員会が審議を始めたことを明らかにした

こうしたニューロ技術（脳神経科学を用いた技術）は、障害者が身体の動きをコントロールするのを助ける可能性があるが

ハッカーが思考を操作する可能性も懸念される

IT企業はほんの５年前まで、ほとんど倫理上の安全性を確保することなくチャットボット（自動会話プログラム）や写真のタグ付け機能といったAIサービスを導入していたと認めている

誤用や偏った表示がなされるなどの問題には、その都度アップデートで対応してきたという

しかしAIの欠点に対して政治や市民から厳しい目が向けられる中

マイクロソフトは2017年、グーグルとIBMは2018年に倫理委員会を設立

新サービス導入当初から審査する体制を整えた

グーグルにはクラウドに関するもう一つの倫理委員会アイスティーがある

グーグルの責任ある技術革新チームを率いるジェン・ジェンナイ氏は

アイスティーは今年

人々の写真を”喜び”、”悲しみ”、”怒り”、”驚き”の４つの表情に分類する2015年開始のサービスについて審査を始めた

グーグル全体の倫理委員会　先進技術審査評議会(ATRC)が、表情認識関連の新サービスを差し止めたのを受けた措置

ATRCは、文化によって表情と感情との結びつきは異なるため

感情を推察することは無神経な場合があると判断した

と

アイスティーは”気まずさ”、”満足”など

グーグル・クラウド用に計画されていた13種類の感情の導入を阻止した

近くこうしたサービス全体を廃止し、”しかめ面”、”笑顔”など

顔の動きだけを表現してその解釈はしない新システムに切り替える可能性がある

一方マイクロソフトは、短いサンプルから人の声を再現する新ソフト　カスタム・ニューラル・ボイスについて

委員会が倫理面の問題を2年間審査

最終的にゴーサインを出したため、ソフトは２月に全面始動したが

対象者の同意を確認するなど、使用に当たって複数の制限を設けた

IBMのAI委員会は新型コロナウイルス感染拡大の初期にジレンマに見舞われた

高熱のある人やマスク着用の有無を識別するための顔認識技術をカスタマイズして欲しい、という顧客からの要望を審査した時

委員会の共同座長を務めるモンゴメリー氏は

手作業でチェックすれば十分であり、プライバシー侵害も避けやすいとしてこの案を却下した

手作業ならAIのデータベス用に写真が保存されることもないからだ

この６カ月後、IBMは顔認識サービスを中止すると発表

EUとアメリカの議員らは、プライバシーなどの自由を保護するためにAIシステムの広範なコントロールを模索している

来年成立する見通しのEUのAI法では

公共スペースでのリアルタイムの顔認識を禁じるとともに

IT企業に採用や信用スコアリング、法執行などリスクの高い分野で使われるアプリを厳しく精査するよう義務付ける予定

ビル・フォスター　アメリカ下院議員は

AIに関する新法ができれば企業の公平な競争環境が確保されると説明

「社会的な目的を達成するために利益が打撃を被るのを我慢してくれと企業に言うと『株主や同業他社はどうなる』と返されるだろう。だからこそ高度な規制が必要なのだ」

「あまりにもセンシティブな分野については、明確な規則ができるまでIT企業はあえて手を出さないかもしれない」

・・・AIといっても入力したデータ自体が間違ってると・・・

実際、今も起こってる

オカシイと声をアげても

おそらく大方無視される

確実に不利益を被る方が・・・

・・・割とマトモな対応

コレが効かないのが

おそロシアや、かの国

まあウラでは

ドコもヤるだろうけど・・・

今日は～

中国オニマメズタ/Lemmaphyllum pyriforme Ching

を培養してる鉢に

イワホウライシダ/Adiantum ogasawarense

まだ、はっきりした確信はないけど

ウチには、この手の他のアジがないんで

ほぼ確定

ニンマリ