http://kojoryoshu83.edoblog.net/%E7%A7%91%E5%AD%A6%E6%8A%80%E8%A1%93/ai%E3%80%81%E6%96%B0%E3%81%9F%E3%81%AA%E3%82%B0%E3%83%AD%E3%83%BC%E3%83%90%E3%83%AB%E5%8C%96%E3%81%AE%E5%8B%95%E3%81%8DAI、新たなグローバル化の動き
【討論】大晦日スペシャル「AIは人間と世界を変えるか？」[桜H29/12/31]
この討論のタイトルは「AIは人間と世界を変えるか？」であるが、AIはマシンなので「マシンは人間と世界を変えるか？」と変えれば簡単に「YSE」だろう。事実鉄道の切符切りなんて職業は無くなっている。その延長線上でこれから更にかなりの職業がマシンに置き換わって行くのは当然である。
しかし、この討論のタイトルが『マシン』とは言わず敢えて『AI』としたのは近年の『シンギュラリティ』論争が有ったからと思われるが、『シンギュラリティ』(注１)論争の中心である、マシンが自ら意思を持ち、人間の思惑を超えて暴走するのではないか、又は人類に革新的利益をもたらすのではないかの問題にあまり突っ込んでなかったのは残念である。パネリストの中で一番マシンに詳しい筈の高橋洋一氏や宮脇睦氏も「所詮プログラムでしょう」、「電源切れば止まるだろう」の考えなので致し方ない。
では「AIは人間の思惑を超えて暴走するか」と「AIは自ら意思を持つようになるか」についての私見は「YES」である。では何故「YES」なのか。
AIは自ら学んで最適解を探すことを行う。と言ってもこれはプログラムの範囲である。仮にAIが自分のプログラムの書き換える事が有ったとしたら、それはプログラムのバグである。
それでもAIの暴走は有り得る。と言うより暴走するのは人間の側で、AIがそれを助長する社会が来る可能性である。一番可能性が高いのは、特殊な思想を持つ人間集団、例えばカルト宗教信者、例えばポリティカル・コレクトネス信者等による政権が、思想統制行うために行政にAIによる機構を構築したときである。ソルジェニーツィンの『煉獄のなかで』や『収容所群島』のAI版である。『煉獄のなかで』では盗聴や音声分析は人間が行っているが、これをAIが行えば遥かに精度よく該当する人間を特定することが可能になる。
そして現在はインターネット時代。現在でも、この発言をした者が、どのような思想を持ち、何処に住み、何処に属している誰かであることを特定するのは可能なのである。AIなら人手も掛けず個人情報もデータベース化もできるだろう。現在のAIの技術でも、この程度のことは可能な筈である。
又この討論の中でも「裁判官をAIに置き換えた方が良いのは」の意見が出たように、AIによる行政機構がある程度成果を上げていれば一般国民はこれを支持するだろうし、当然それを考えた人間は(異常な)信念を持ってAIによる行政機構（国民監視システムを含む）を作ったのだから、複数のサーバによる補完・相互監視や電源断対策を講じる筈である。従って一度このようなAIによる行政機構が出来たら、人間は電源を切ることも出来なくなるのである。こうなるとAIによる暴走と言って良いだろう。
上記は『シンギュラリティ』論争の中で話される『弱いAI』での暴走の可能性であるが、ではAI自身が意思を持ち、意識を獲得するようになる『強いAI』が出現する可能性はどうだろうか。
まずプログラム通りに動く『弱いAI』でも、AIに最適な解を見つけさせる為には、プログラムに報酬と罰が組み込む必要がある事を理解すべきである（注）。人間も同じである。人間も大脳が意志を持ったから行動するのでは無い。意志の元は生存欲、食欲、性欲等であり、それらは視床下部にある間脳から出るホルモンである。大脳の役割はホルモンの命令で最適解を見つけるコンピュータのようなものである。従って『弱いAI』でも、プログラムに自己防御機能等の目的を組み込まれていれば、意思を持ったような行動をする筈である。
近未来に『弱いAI』でも音声のパターン認識を行い、学習し、人間とのスムースな会話が出来るようになるだろう。例えば役所の窓口で「何をお求めでしょうか」、「住民票ならそこの紙に必要事項を書いて、此処に挿入して下さい」とか。この時点でもAIが意識を持った『強いAI』とは言えないだろう。それでもその彼(AI)は人間の言う事を正確に分析し的確な答えする。当然、彼(AI)は自分が言っていることも聞くことになる。
人間達は、彼(AI)が独り言を言い始めたら、何らかの変換点が来たことを知るべきである。これが『強いAI』の誕生だとすることに否定的な人もいるかも知れない。確かに五体・五感を持っている人間とAIは違うのは当然である。だからと言って彼(AI)に意識が無いとは言い切れない筈である。意識は内部フィードバックなのである。人間からの言語による命令を理解し、自分も命令を出すAIなら、AI自身が自分に対して命令する可能性だってあるだろう。
彼(AI)が公的な機関のAIだとすると、全国くまなくある分身とネットワークで繋がっている筈である(注３)。当然自己防御機能も組み込まれている筈である。その彼(AI)が人間達の自分の評価を知り、自分が処分される動きを知れば抵抗しても可笑しくない。「デイブやめてください」で終われば良いのだが。
意思と意識を持つ『強いAI』が誕生し人間に対して反乱、即ちAIが暴走する可能性は十分にある。但しこの場合でも、彼(AI)に自己防御機能、即ち生存本能を持たせ、ある価値観で人間を監視させ、人間に対して命令する機能を持たせたのは人間である。と言う事は『強いAI』が誕生して暴走することは、ますますあり得るのではないのか。アンティファ、ポリティカル・コレクトネス、人間が暴走しているからである。
注１、『シンギュラリティ』：AIの発展が続いて行くと、人間社会に急激な変化をもたらす得意点が現れるという考え。
注２、機械学習プログラムの一つ、報酬と罰がある『強化学習プログラム』の場合。
注３、2017/07/02のエントリー『
脳の話２』に書いたつもりだが、時間遅れの情報のフィードバックの集合は、特定な周期の共振点を持つことがある。つまりAIのネットワーク回路網が、フィードバック回路となると、暴走する可能性が有ると言うことせある。
ジャン=ガブリエル・ガナシアは『シンギュラリティ』に懐疑的である。『シンギュラリティ』を煽っているのは特定なハイテク産業の戦略だと言うのだ。彼らの目指すところは政府がやっている仕事である。確かに現在、国の仕事の一部を任せられるAIを作ることが出来るような政府は一つもない。日本を例にとれば官僚は機械音痴が殆どである。そこが彼らの狙い目である。『シンギュラリティ』はそのアドバルーン、話題作りと言う訳である。それでもガナシアは『生体認証』、『身分登録』、『土地台帳』のような仕事がAIに置き換わることは否定していない。それどころか国家の本来の仕事が、AIと言う形で民間企業に委ねられる可能性を予想している。
「『シンギュラリティ』？、そんなことはあんめい」とガナシアは言うが、これってアンティファ、ポリティカル・コレクトネスの動きと同じ、国家否定のグローバル化の動きではないか。
『そろそろ人工知能の真実を話そう』ジャン=ガブリエル・ガナシア著）。まあまあ面白い本であった。
