AIから見えないシャツ

ぼや川より
オレの顔・見ると浮足・立つ諭吉
・・・縁がない・・・

TEXT BY ALEX LEE
WIRED(US)
 facebook share
shirt
PHOTOGRAPH BY BENEDICT EVANS

ウィリアム・ギブスンの小説『Zero History』
主要な登場人物のひとりが“世界一醜いTシャツ”を着用
滑稽な見た目のその服を着ると不思議なことに着用者は監視カメラから見えなくなる
・・・
いま世界中の国々が人工知能（AI）を用いた監視システムで国民を追跡、監視
ノースイースタン大学とマサチューセッツ工科大学（MIT）、IBMの研究者が
着用者がAIに認識されないシャツをデザイン
このシャツには、さまざまな色が万華鏡のようにプリントされている
ノースイースタン大学で電気及びコンピューター工学の助教で、このテーマで最近発表された論文の共著者でもある林雪（リン・シュエ）
「この敵対的Tシャツは、物体検出で使用されるニューラルネットワークに作用します」
ニューラルネットワークは通常、画像内の誰か、もしくは何かを認識
その周囲に境界ボックス（バウンディングボックス）を描いた上で、その物体にラベル付けする
林らはニューラルネットワークの境界ポイント
あるものが“物体”であるかどうか決定づける境界を見つけることによって、その裏をかくことに成功
AIによる分類とラベル付けシステムを混乱させるデザインを作成
このために研究チームはトレーニングに使用されることの多いYOLOv2とFaster R-CNNというふたつの物体認識ニューラルネットワークを利用
そして体のどの部位にピクセルのノイズをつけ加えればAIを混乱させることができて着用者がAIから見えなくなるかを特定することができた

AIをだますための対象物が開発されたのは、これが初めてではない
アメリカのカーネギーメロン大学とノースカロライナ大学チャペルヒル校の研究者は2016年、顔認識技術をだまして着用者を誤分類させられるメガネをつくった
17年には米国の研究者が停止の標識に目立たない落書きのようなものをいくつか足すことでディープニューラルネットワークをだまし時速45マイル（同約72km）の速度制限標識であると誤認識させた
これまでのこうした敵対的攻撃は、静止した物体の上に施されていた
ビデオによる監視を対象に同じ効果を得るのは難しい
スパムメール検知システムをだませる敵対的サンプルを初めて作成したカリアリ大学助教のバティスタ・ビッジオ氏
「物理的攻撃において、本当に難しいのはビデオが撮影されている間ずっと検知されないでいることです」
「1コマごとに検知されている場合、一貫して検知されずにいるのははるかに困難なのです」

Tシャツは停止標識とは違い着用者が動くとしわが寄ったり波打ったりする
今回のTシャツをつくった研究チームは動く物体にプリントできる敵対的サンプルをつくることに初めて成功した
開発にあたって研究チームは、林がトランスフォーマーと呼ぶ手法を採用
Tシャツの動きを測定し、それをデザインの上にマッピングするというもの
研究者たちはチェック模様の服を着て歩く人を記録
着用者の動きに合わせて服にどのようなしわが寄るのか正確にマッピングするために、模様の一つひとつの四角の角を追跡
この手法を使うことで検出回避率はYOLOv2に対して27%⇒63％
Faster R-CNNに対して11％⇒52％へと向上した

林さん
「現実の世界でこれをうまく機能させるのは、まだ難しいでしょうね。検出アルゴリズムについて、すべて理解できている前提で開発したものなんです」
「完璧ではないので、あちこちで問題が生じるかもしれません」

研究者たちは人々が監視技術から逃れるのを助けたいわけではない
研究チームの究極の目的は人々が検出を回避するのを助けることではなく
ニューラルネットワークの弱点を見つけて監視する企業側がそれを修正できるようにすること
林さん
「将来的には深層学習システムがだまされないように、こうした問題点を修正できればと思っています」

・・・なんだ
面白くない

今日は～
マスデバリア カロウセ/masdevallia Carouse

５月初め
植替え
コケ・プラ鉢仕様
バラけなくて良かった～