勝手に進化するAI（人口知能）は怖いけど期待もある

2017/05/01 2017/05/02

AIで走行する、自動運転の車のことを考えて色々と調べてみたら、知らなかったことがたくさんあって、将来すごいことになるだろうなと想像ができて怖くもなり、かつ面白く感じる部分もあるので書いてみます。

AIとか人工知能とか、漠然と言っていますが、人間がプログラムした通りに動くだけのものの場合（今のゲームの敵とかはコレだと思います）、そのプログラムを作った人がコントロールできるので、責任も作った人にあるのは直感的にわかりますよね。「リッキー（ドラクエ10ディレクター）、なんでこんなAIにしたんだー！回復全然しないじゃん！」とかね。

でも人が全く運転しない自動運転車などは、人間が作ったプログラム通りに動くだけではなく、勝手に進化していくものになるらしい。

AIの中に機械学習、さらにその中にディープ・ラーニング

まず、その進化の過程の第一段階が「機械学習」というものらしい。これは人が定義づけを決めると、この定義にぴったりあてはまらないモノでも勝手に機械が判断していくというもの。

具体例で私が一番わかりやすかったのは、「迷惑メールフィルタ」です。迷惑メールに良く使われる単語や特徴を人が定義づけると機械が勝手に区別するというもので、現実にも使われています。これで大事な人からのメールが迷惑メール扱いになっていた！なんてこともありました。

そして、さらに進化したのが、ディープ・ラーニングというもののようです。これは、機械がネットにある情報を収集して、判断をするというもので、この技術によって自動運転の車がどんどん進化をしていって、標識や道路の仕組みなどが複雑な環境でも正しい判断できるということらしいです。

私のつたない図ですが、こんな風にAIというものの中に、機械学習というものがあって、その中にディープラーニングというものがあるということのようです。なので、「AIの自動運転車」とかいう言い方は間違いではないようです。

ディープラーニングは、データが多くなればなるほど、判断が良くなっていくというものらしく、ビッグデータと呼ばれる多くの情報を持っているところが自動運転の実現という意味でもリードしている気がします。

画像認識では、もうこのディープラーニングの機械のほうが人間よりも優れているようです。

私は、自動運転になったら、今の自動車保険の仕組みは一体どうなるんだろう？と考えたところ、もし自動運転車が事故を起こして人をケガさせたり死亡させてしまった場合、製造したメーカーの責任になるのかな、とコレもまた漠然と思っていましたが、単純にこういうことでもないようです。

ディープ・ラーニングの怖さ

機械が進化していくと、人間の判断とは異なる場合が出てくるでしょう。人は自分の身を守るのを最優先に判断すると思うのですが、機械が進化すると、乗せている人間を犠牲にしてでも、相手車に乗っている人が多かったり、多くの歩行者に突っ込んでしまうようなケースのように、助かる人が多い場合にはどのように判断するのでしょうか。

囲碁や将棋でも、進化した機械が人間に勝ってしまうようになっています。人間の想定を超えた正しいことを実行していると言えます。こういうことが実際の交通事故や法的争いになったとき、人間より賢い機械がやったことを、どのように法的判断するのでしょうか。

製造者ではなく、そのＡＩ自体に責任があるとすべきだ！と主張する法学者もいるようです。

これはもう、映画でみた世界がもうすぐそこまできていることを意味していますね。

機械が法的に人格を持つ社会。

機械が人を犠牲にしてでも秩序を守ろうとする可能性があるという怖いことを想像させられます。

さらにこれがすすんでいくと、社会に必要のない人間、害のある人間は排除しようとかになり、漫画「サイコパス」の世界ですよね。

ディープ・ラーニングが機械学習と異なるのは、人間のコントロールが及ばなくなること！ここに怖さがあるのを学びました。

<br />

ディープ・ラーニングに期待することもあります

そこまで進化するのはまだまだ時間がかかるのかもしれませんが、私が趣味でやっているゲームの世界では、このディープラーニングAIを持った敵が出てきたら、それこそ対人戦よりも面白くなりそうですね。勝っても勝ってもどんどん強くなっていくわけですからね。これはワクワクします。

あと、レントゲン、ＣＴ、ＭＲＩなど医療の画像診断は人間よりもAIのほうが正確になるでしょうね。

ガンとか、手術適応かとか、膨大な医療画像情報に基づいたAIは、素晴らしい画像診断をするようになると思います。