「プログラマーがついていけないから」──車の自動運転に”ディープラーニングを応用する理由”を小飼弾氏が解説
米カリフォルニア州マウンテンビュー国道101号線で、半自動運転機能「Autopilot」を搭載した電気自動車『Model X』が、中央分離帯に激突、近くを走行中の自動車2台を巻き込む事故を起こし、ドライバーが死亡する大惨事となりました。
この話題をうけて、4月2日の『小飼弾のニコ論壇時評』で、プログラマーの小飼弾氏と山路達也氏の二人が、車の運転は自動であるべきか、ということや、最近頻繁に取り上げられる「AI」という言葉の意味が、近年、変化しつつあることについて言及しました。
『バーチャルYouTuber』を見て思ったんだけど、“AIによる人類の支配”って軍事力でなくエンタメによって行われる可能性あるよね？
『俺の妹』新垣あやせと会話ができるAIを開発中のNTT主任研究員に色々聞いてみた「キャラを愛する人が多い場所でないとデータが集まらない」
経営者が『AI』になることはあるのか。「為替トレーダー600人中598人クビ」を受けてプログラマーが言及
人工知能とは何者なのか？
山路：
人工知能絡みの話題で、市内をテスト走行中だったテスラのModelXが、大事故を起こしまして、運転手が死亡しています。
小飼：
この「AI」という言葉が曲者なんです。AI変換とかAI将棋、中にコンピュータが入っていて、それで制御していれば、何でもかんでもAIと言っているのが許された時代というのもあったんですね。
山路：
でも、コンピュータの黎明期から、人工頭脳や人工知能というイメージはあったじゃないですか？
小飼：
かつてのAIというのは、「人間っぽく振る舞うプログラムを積み重ねていけば、人間と同じような判断を人間以上の正確さでできる」と思われていた時代というのがあったんですよね。
でも、今のAIというのは、「データをいっぱい食わせて、神経細胞相当の部分というのを鍛えておき、判断させる」というやり方をしてるので、ディープラーニングとは、データドリブン【※】なんですよね。
※データドリブン
得たデータを分析し、未来予測・意思決定・企画立案など、様々な分野に役立てること。
山路：
「弾さんが定義するAIの定義って何？」というコメントが来ています。
小飼：
AIという言葉に立ち戻ると、Artificialの部分はいいですよね。人工の知能で。ただ、実は知能っていうのを、我々もキチッと定義できてないんですよね。そもそもこの間亡くなった、あのホーキング博士とかが、まだ地球上にもないでしょう。みたいな（笑）。
山路：
地球外知的生命体はいるのか？ って聞かれて。
小飼：
そうそう。地球にもいねえじゃんって、もう鉄板ネタなんですけどね（笑）。仕組みはどんなであれ、プログラムにプログラムを重ねたものでも、ニューラルネットワーク【※】にデータを食わせまくったものでも、トートロジカル、類語反復ではありますけど、我々がAIと思うものであればAIでいいじゃんとは思います。
※ニューラルネットワーク
脳機能に見られる特性を、計算機上のシミュレーションによって表現することを目指した数学モデル。
何の処理をしているか人間には理解できない
小飼：
ただやっぱりひとつ気をつけなければいけないのは、プログラムドリブンのものとデータドリブンのものでは、デバックの仕方が違うんですよね。まだデータドリブンのものというのは、どういう風にデバックすればいいのかというのが、キッチリわかってないんですよね。
山路：
結局、学習データを与えられて、それが最終的なアウトプットになる時に、中の繋がりというか、結局何の処理を行っているのかっていうのが、人間に理解できないということですよね。
小飼：
そうそう。もちろんそれも全部デジタルにやってるわけなので、もし本当の神の理解力を持つものであれば、わかるんですけども、例えば、AIの状態を見せられても、人間は途方に暮れるしかないんだよね（笑）。
山路：
ここのニューロンの繋ぎ方が太くなってみたいなことを説明されても、「結局それってどういうことなの？」となってしまう。
小飼：
そうそう。だからAIのディープラーニングは、上手くいった時は早いですし、データさえ食わせて学習を繰り返していけば良いという意味では、ずっと楽ではあるんですけども、もし、変な癖がついてしまった場合、取り除くのは難しいんですよ。
山路：
なんかこう、ちょっとネットで見かけたニュースで、ポルノというか裸の画像みたいな画像データを散々AIに食わせたら、なんかポルノっぽい画像が生成されたみたいな、そういうのもありましたよね。でも、なんとなく人間って、こうやって裸とかをそうやって認識しているのかなと思わせる部分もちょっとありましたけどね。
Barrat氏はこのヌード絵画に対し、「機械は、我々人間をこのように見ているのかと思い、驚きました」とコメントした。
小飼：
実際、ニューラルネットワークによるAIというのが、まずいところまで含めて人に似ているというのは、確かですね。
「テスラの自動運転システムというのはニューラルネットワークによるAIなんですか？」というコメントがありましたが、そこですね。同じAIでもプログラムでだって出来るわけじゃないですか？ 歩行者の画像があった場合、「これは歩行者である可能性が高いから」というのは、人間のコメントなんです。だから減速するなどは、これはもう完全にプログラムで書けるわけですよね。