AIの闇

ぼや川より
まだグチの・続きがおます・線香花火
・・・ぶちぶち・・・

ディープラーニングの弱み？
米グーグルの研究部門であるGoogle DeepMindが開発した囲碁AI（人工知能）AlphaGo（アルファ碁）
2016年3月9日～15日に韓国でイ・セドル氏との五番勝負
第四局ではイ・セドル氏が勝った
で・その第４局
AlphaGoは明らかな悪手を繰り返した後に敗れた
その原因はDeepMindのメンバーにも???
AlphaGoのソフトウエアには、囲碁のルールすら組み込まれていない
過去の棋譜をニューラルネットに入力と勝利を報酬に囲碁AI同士を対局させただけ
AIが明らかに誤りと思える判断を出力した場合でも
その原因の解析が極めて困難
通常のプログラムであればコードを追跡してデバッグできる
ディープラーニングでは人間が読める論理コードはない「
あるのは各ニューラルネットの接続の強さを表すパラメーターだけ
アルゴリズムは人間にとってブラックボックス・・・制御できない
あとAlphaGoが勝った第２局
プロ棋士の解説者
「なぜAlphaGoの奇妙な打ち手が勝利につながったのか、理解できない」
つまりAIは
例え結果的に正しい判断であっても、人間にはまったく理解できない行動を取る場合が・・・

そして、ソレが人間にとって不都合な行動をとったら・・・

今ディープラーニングは適切な入力データ・教師データ・報酬データを用意できれば勝手に成長？
画像認識、音声認識、顔認証などから防犯カメラに映った人間の振るまい解析・サイバー攻撃の予兆検知・医療用画像の解析などで、人間を超える精度を実現しつつある・・・
・・・そこで誤りがあったら

従来のディープラーニング技術は、複数台のサーバーが分担して処理す「分散化は苦手
だが米グーグルは、自社のディープラーニングソフトウエアライブラリ「TensorFlow」の分散化機能を強化
AlphaGoでも、本番対局では分散処理バージョンを使った
2015年10月に欧州のプロ棋士と勝負した際は、1202台のCPUと176台のGPU（グラフィカル・プロセシング・ユニット）で並列処理させた
自己対局による強化学習でも、グーグルのIaaS（Infrastructure as a Service）「Google Cloud Platform」が持つ大量のコンピューティング資源を活用
巨大なITインフラを保有する企業ほど有利
・・・人民解放軍も～

今日は～
ピンクレディ

りんご・・・オーストラリア産
見た目がピンクっぽい
で、国紅？紅玉？っぽい
酸味もある品種だそうな
アップルパイとか、お菓子に使える？