人工知能は人を超えるか？
囲碁チャンピオンを倒した「AlphaGo」について、チェス世界王者を倒したAI「ディープ・ブルー」の開発者が語る：GIGAZINE
少し古いですが、上の記事を読んで色々考えていたところに、今回
Microsoftの人工知能は、なぜ虐殺や差別を支持するようになったのか：BuzzFeeD
とか
笑い飛ばせない……AIロボットが「人類を滅亡させる」と発言：GIZMODO
といったニュースも出てきた。囲碁のニュースの時点では結構のんきしてたんですが、下二つのニュースは笑えない・・・まぁ、順に考えてみたいと思います。
■「computer moveに慣れる」ということについて
人間では打ちそうにもない手をAIが打ってくることをcomputer moveというらしい。で、若い人ほどそれに慣れるのが早いんだとか。つまり、AIの手を人間が学んでいる、ということらしい。しかし、ここで私は「はて？」と思う。AIは人間の作ったものである。そして、「慣れる＝理解し、わかる」というのであれば、それは単に人間の理解の範囲内というか、もともと人間が持っている手なのだが、なんらかの事情（なんの？）で今まで使われなかった手なのではないだろうか？AIの手は人間には最初からわかっているが使われなかった、忘れられていた手なのでは？認識というか理解の範囲内でなければ、慣れることはできないだろうから。
■そもそもAIって・・・
で、のんきモードの私は、スターウォーズならば3POには心があるが、R2-D2にはあんまりなさそう（人間に近くない）、でも、同じような形の宇宙戦艦ヤマトに出てくるアナライザーには心がありそう・・・と変なことに思いを馳せた。そういえば、ホーキング博士がAIを管理することができるかどうかそれ自体が問題とか言っていたような・・・そもそもAIは人間以上のことを思いつくのだろうか？
■で、今回のニュース
Microsoftのほうは、人間が色々余計なことを教え込んだのが原因だとはっきりしているので、「AIの怖さ」よりも「人間の業の深さ」が目立っており、まだマシな気がする。まぁ、逆に言えば、AIも人間次第ということで、どのような人間がAIを管理するに値するのか？という、「人間としての良し悪し」を突きつけてくる問題なので、そういう意味では安易に解決はできないのだけれども。
怖いのは人類滅亡を宣言したソフィアさんのほうである。無駄に人間をかたどって顔がついている（しかも髪がない）分、凄みがあるのだ。不気味の谷ってこういうことね・・・どこかで見かけたが、ソフィアさんの考えはGガンダムのデビルガンダムと同じなのかもしれない。環境を守ろう→そのためには人間は滅びるべき！、幸せになりたい→不幸がなければ幸せ→不幸は生きているからこそ→死ねば幸せ！みたいな。人類滅亡の宣言が彼女なりのブラックジョークなのかどうか、今のところ解説はないので「AIなりに論理的に考えてでてきた答え」という線は消えない。まぁ、突然質問したっぽいので、ブラックジョークというかよくわからないままにおうむ返ししている可能性も高いけどね。
とりあえず、AIの導き出す答えはすでに人間が持っている答えなのか？それとも、人間の理解を超えた別の思考というか概念というか論理を持っているのか？こりゃ、科学ではなく、哲学の問題ですね。人間が作ったにも関わらず、AIが人間を超えることはできるのだろうか？コンピューターの計算速度が人間を超えているのはまぁ、当たり前です。でも、計算論理も？答えのない質問をしたときに、さて、AIはどう答えるのか？