人間よりも計算能力に秀でたAIなら、過去のデータを基により正確に、効率的に物事の推測ができるはず・・・
だが、データが不適切だったり、設計に差別や偏りがあったりしたら？
オランダでは税務当局が過去の不正申請のデータと国籍などの個人情報を基にAIによるリスク分析を行い
2万人以上が児童手当の不正受給者のぬれぎぬを着せられ、親子が引き離されたり、自殺者まで出る事態に
オランダのハーグのジャネット・ラメサーさん
突然、身に覚えのない不正受給者に
「すべては2010年、税務当局から届いた一通の手紙から始まったんです」
当時、離婚して3歳の一人息子とともにロッテルダムから故郷のハーグに移ったばかりだった
フルタイムで働き、託児費用の大半は申請に応じて公的に負担されていた
税務当局からの手紙は改めて就業時間や託児施設の利用を証明する書類を送るよう求める内容だった
何かの間違いだろう、そのときは深刻には考えず、書類をそろえて返送
同様の手紙がその後、3度届いた
不審に思いつつ、その度に書類を送ったり、直接役所に出向いて提出したりした
だが2016年、それまで利用してきた託児費用などの児童手当が不正受給だったとして約€4万の返還を求められた
説明を求めたが、相手にされなかった
不正受給者とみなされ、多額の借金を背負うことに
さらに財務関係の職場で借金の制限があったために職を失い生活は困窮
2019/2息子が通う学校から呼び出された
待っていたのは児童福祉当局
自分の食事まで切り詰めている母親を助けてほしいと、息子が学校に相談
だが当局は逆に、ラメサーさんの生活状況が育児に適さないと判断
正式な手続きを経ずに息子を連れ去り、息子を元夫に渡してしまった
税務当局が使ったAIの個人データ分析が引き金に
身に覚えのない返金請求に苦しんでいたのはラメサーさんだけではなかった
地元メディアは2018年、税務当局が使ったAIの個人データ分析によって誤って不正受給を疑われ、返金を求められた被害者が推定2万6000人にのぼると報じた
ラメサーさんのように困窮して親子が引き離されたケースも多く、命を絶った人がいたこともわかった
2020/12国会の調査委員会
「前代未聞の不正義」と題した報告書を公表
税務当局が長年、多くの親に誤って過去の児童手当が不正受給だったとして返金を求めていたと結論づけた
2012～2019年に不正受給者とされた2万5000～3万5000人中、94％が不当な判断だったと
税務当局は少なくとも2013年までに不正受給をチェックするため過去のデータをもとに不正申請者のパターンを学習するAIを取り入れた
組織的な不正受給事件の直後で対策強化を推し進めていた
チェックの対象となる個人データには、国籍を含む多数の指標が含まれていた
わずかな申請ミスや託児施設側の問題でも親側が全額を返還しなければならなかったり
未返還分があると次年度の手当を受けられなかったりする制度上の問題も重なり被害が拡大
政府は謝罪し、内閣は総辞職
被害者への返金と一律€3万の補償を打ち出したが、規模が大きく被害の認定や補償をめぐって問題は続いている
なぜ誤った判断がされたのか明らかになっていないことも多い
・・・証拠隠滅？
知らしむるべからず？
比較的早い段階で情報公開請求をしたラメサーさん
自身に関する税務当局の記録を入手することができた
「学歴や両親の出生地、住んでいる地域などもAIが不正の疑いをはじき出す際の指標に使われていたことがわかった」
自身はハーグ生まれのオランダ人だが両親はともにオランダの植民地だった南米スリナムの出身でインド系
記録からは当局の職員らがラメサーさんについてインディアン・ケース（インド系の件）と呼んでいたこともわかった
EU委員会がこの事件について2021年に出した意見書
国籍を指標に用いたことはオランダやEUの法律に反すると考えられると
ラメサーさん
「オランダでこんなことが起きているなんて信じられないかもしれない。私の両親でさえ、『あなたが申請書類を間違えたんじゃない』と言って、当初は信じてくれなかった」
被害がきっかけで政治に関心を持ち、昨年からハーグ市議会の議員を務めている
12歳で引き離された息子は11月、17歳の誕生日を迎えた
いまも良好な関係を保っているが
「同居していたころの親子関係とは違うものになってしまった」
「息子は借金で生活に困窮する中で育った。次世代への影響もはかりしれない。AI政策の決定者には、事態の重大さと、オランダのような民主主義国家でさえもこんなことが起きたのだと知ってほしい」
「機械だけで人を判断しリスト化、間違い」
ロッテルダムで進行性の難病を抱える長男と長女と暮らすセンシミリア・シュヘンダリンさんも、この事件で自身の記録の開示や補償を求めて闘っている被害者の一人
一人親として長男を育てながら、言語聴覚療法士をめざして大学に通っていた2009年
税務当局から突然、託児費用が不正受給にあたるとして€8000の返還を求められた
身に覚えのないことだったが、この請求を境に、住宅手当や児童手当、健康保険など本来なら当たり前に利用できるはずの公的サービスが次々と拒まれ生活は急激に困窮
病で次第に歩けなくなる長男のため行政に車いすを求めたが断られ
バス代が払えず近くの学校への転入を求めたが認められなかった
自身も難病のクローン病を抱え、追い詰められて体重が34キロにまで落ち入院を余儀なくされた
シュヘンダリンさんをはじめ、複数の被害者を支援するクリス・セント弁護士（
「彼女が『私の名前に見えない×がついているみたい』と言ったのが印象に残っている」
問題が明るみに出た後、シュヘンダリンさんは被害者と認定され、政府から謝罪の手紙も受け取った
だが、税務当局の記録は開示されず、様々な行政サービスもいまだに受けられていない
ほかの事例などから
「シングルマザーで、父親がカボベルデ出身で、私も息子も難病を抱え、低収入で……という理由から、機械的に『不正受給の疑いあり』と判断されたのではないか」
「AIで便利になることはもちろんある。でも、機械だけで人を判断してリスト化するのは間違っている」
穏やかに話すシュヘンダリンさんが、長男の話になると涙ぐみながら訴えた
「息子には時間がない。児童手当をめぐる政府の問題で苦しんでいる間に、彼が自由に歩ける時間は失われてしまった」
被害者支援に取り組むニコール・テミンク下院議員
「人間を信用せずにシステムに頼り切り、さらに機械の出した判断が本当にあっていたのか検証することも怠ったことが事件につながった」
「機械は人間以上に計算ができるかもしれないが、心の痛みは感じられない。ときに人を傷つけるものにもなることを忘れてはいけない」
・・・そのAIを作らせた・作った輩は？
お縄になったの？
政府から謝罪の手紙も受け取った
だが、税務当局の記録は開示されず、様々な行政サービスもいまだに受けられていない・・・
なんで？
元の権利の回復がなされないなんて
これ行政の、現在進行形の犯罪・・・
AI云々でなく
基本的なトコで・・・
オランダ壊れた？
時に先進的な法律を作る国が・・・
AIは信用できない
これを常に意識しないと・・・
特にセンセイやお役人様は・・・
今日は～
ムラサキ サギゴケ/Mazus miquelii
つい先日
さすがに庭じゃない
玄関避難してる鉢から
でも今時咲く？
0 件のコメント:
コメントを投稿