2018年、ある男性がニューヨークにあるディスカウントストア・T.J. Maxxから靴下を万引したとして逮捕
その男性は事件当時ちょうど自分の子どもが生まれるところで、病院にいた記録がありました
でも警察は男性のアリバイを調べることなく、たったひとつの証拠にもとづいて捜査を進め、セキュリティ映像と顔認証データベースを照合して一致の可能性のある顔を見つけた
その顔を万引目撃者に送り、目撃者から｢この男だ｣との証言を得た
結局男性は6カ月間勾留されたうえに、無罪を訴え続けたにもかかわらず有罪判決を受けた
このエピソードはたまたま起きた極端な悲劇ではなく、増加するトレンドの中の一例として、Georgetown Law Center on Privacy & Technologyが発行した顔認識技術に関する報告書の冒頭に書かれてる
この報告書では司法機関が人を捕えるたったひとつの根拠として顔認識を利用している現状を示している
でも顔認識技術は、精度、そしてバイアスという意味で、まだまだ深刻な問題を抱えている
顔認識技術に関する報告書の題は
科学なき科学捜査：米国犯罪捜査における顔認識
さまざまな種類・形態を持つ、顔認識ソフトウェアの技術的欠陥に焦点をあててる
報告書の著者・Clare Garvie氏
｢警察は、顔認識技術とは信頼できる特定ツールだという認識をもって、20年以上にわたり使い続けてきました｣
同氏はNational Association of Criminal Defense Lawyersの顧問でもある
｢そんな警察の認識は、今までまったく検証されていないどころではありません。顔認識技術が信頼できる手がかりを生み出さず、むしろ人違いや誤認逮捕の危険を招くと考える理由は数多くあります｣
複数の研究によれば、顔認識技術は女性や有色人種、とくに肌色がより濃い人の特定では精度が下がることが示されてる
この問題は非常に深刻で、専門家の中には、顔認識技術を完全に禁止すべきだという意見もある
一番良い条件でも、顔認識技術を使っている人間自身が問題になることも
アルゴリズムと人間がお互いの間違いを増幅させうる
ユーザーは技術の精度について間違った認識を持っているかもしれないし
顔認識スキャンで表示された容疑者候補リストを見た人間は、人物の属性や表情といった顔の特徴からバイアスを受けるかも
Garvie氏
｢過去20年以上にわたる利用の中で、顔認識アルゴリズムは改善しましたが、顔を検索する人間は改善していません｣
｢警察はいまだに、認知バイアスや悪用、誤用を防ぐためのポリシーや研修プログラムを義務付けられていないのです｣
司法機関の上層部や顔認識ソフトウェアを作る企業たちはこの問題を認め
顔認識技術はあくまで手がかりとして使うにとどめるべきだと発言することも
でも現場の捜査官がその忠告を無視している
報告書では、警察が顔認識技術による証拠を逮捕のための確実な根拠として使っていた複数のケースを取り上げている
問題は、顔認識技術がどう使われるべきかの明確なガイドラインがないこと
その理由の一端は、顔認識技術がまだ新しいことにもありますが
もうひとつの理由は、我々が顔認識技術の短所を完全に理解していないこと
ガイドラインが仮に作られたとしたら、そのときには無実の人を起訴するときにも使えるようになるだろうと報告書に
情報公開されていないので顔認識技術があったために逮捕された人がどれくらいいるのかはわかりません
でも報告書によれば、その数字は増え続けている
司法機関は捜査に顔認識技術が使われたときにそれを公開しないことが多い
それは容疑者側には不利に
不完全な技術から生まれた証拠が使われていても、そのことを知らなければ異議を申し立てられない
顔認識技術の結果はあまりに信頼できないので、Brady material（被疑者の不利にならないように、検察側が公開しなくてはならない証拠に対する司法用語）として考えるべきではないかとも
Garvie氏によれば刑事事件において顔認識技術利用の詳細を公開しないことは
法的権利の侵害になる
｢これは当然のプロセス違反で、2001年以来起こり続けていす｣
顔認識技術が100％完ぺきでないことは皆うすうすわかってるのに、それでも警察やいろんな人が、顔認識結果を都合よく利用してしまっている
｢難しい問題を解決しようとして、または意思決定から人的エラーを除去しようとして、人工的・中立的な、数学ベースのアプローチを必要以上に信じてしまう傾向がまだまだあります｣
｢でもそれは、間違ったアプローチなのです｣
・・・アメリカでこれ
中国なら・・・
今日は～
マスデバリア ピンクガール/Masdevallia Pink Girl
先日アげたコとは別のコ
こっちも花芽が２つ
株分けしてヨかった
0 件のコメント:
コメントを投稿