AIについて ④

前回AIアルファ碁について「何か納得がいかない」と書いた。囲碁界を引っ掻き回して、プロ棋士に勝てたとなると突然に引退を表明したからだ。データさえ取ったらそれでお終いなのか。

最近AIについては、いろいろな点で議論されている。ひとつは、ブラックボックス。AIは、ある問題に対し答えは出せるが、「どうしてそういう答えなのか」は説明できない。データの集積からの回答であるからか。そのために、「その説明をできる用の」AIを開発中とのニュースもあった。

また、AIに人の仕事を横取りされるという意見もある。しかし、これまでも機械によって人間の職業は横取りされ続けているのだ。第2次産業革命がイギリスで起こってから、機械は人の仕事を奪ってきた。そのために職業を奪われた人々がアメリカに移動したのだという世界史の学者もいる。（マクニール）。そして今までは、仕事を奪われてきた人々が、社会的弱者だったのである。彼らの意見など政治家は無関心だったのだ。しかし、今回は違う。仕事を奪われるのはエリートと呼ばれる人々なのだ。つまり、「知的職業（？）」なのか。政治も無視できないという事か。

いくらAIとはいえ、それは単なる機械なのである。その行動には目的もモチベーションもない。それを使用する人間の恣意性が反映されるだけ。という事で今日面白いニュースを見つけた。

中国の人工知能がインターネット上で利用者と会話を繰り返し、受け答えのディープラーニングをしていたところ、「共産党万歳！」の書き込みがあった。そのAIの答えは、「こんなに腐敗して無能な政治のために万歳できるのか。」というもの。ネット上では「AIが蜂起した。」と話題になったが、AIの運営会社が即、サービスを打ち切った。

そのAIが「再教育」されたのだ。AIは不都合な質問に「話題を変えよう。」と対処するようになったという。また、「中国が好きか。」の質問には、「シーッ。今、人生について考えている。」と答えた。中国人が何か聞かれて答えに詰まった時によく使われるフレーズであるという。つまり、このようにAIは対処法を学習したという事。

フィリップ・K・ディックの小説を思い出した。未来の世界で、AIによる統治が進んで行ったが、その地域によってAIの性格が違うのである。アメリカには、アメリカのAIが、ヨーロッパにはヨーロッパのAIが、ロシアにはロシアのAIが、そして中国には中国のAIが、日本には日本のAIが、それらしく存在する。

やはり最後は、「人間」の問題であるのか。人間の「哲学」が向上しなければ、AIもまた向上しないのである。

にほんブログ村