今、話題の人工知能(AI)などで人気のPython。初心者に優しいとか言われていますが、全然優しくない! という事を、つらつら、愚痴っていきます

097.人工知能が人類を滅ぼす日

»

初回:2020/09/28

1.アメリカ東部時間の1997年8月29日午前2時14分

P子「20年以上も前なのね」(※1

 スカイネットが自我に目覚め、人間側を抹殺すべく全世界規模の核戦争を誘発させた(「審判の日」)がこの日になります。(※2)『ターミネーター』の公開が、1984年なので結構思い切った日付の設定だと思います。

 スカイネットは人間が機能停止をしようとした行為を、自らへの攻撃と捉えて人類抹殺を決行します。つまり、論理的に人類を滅ぼそうと『考えた』訳ではなく、その場限りの自己防衛での決断でした。これは、私が期待している結論とは異なります。

P子「何を期待しているの?」

 後で説明します。

2.公害処理用ロボット・BK-1

 公害処理用ロボット・BK-1が落雷の衝撃を受け、自我に目覚めてしまう。公害の元凶となっている人間を処理すべきと考えるようになったBK-1は、ブライキングボスを自称して戦闘ロボット軍団アンドロ軍団を作り上げ、世界征服を開始する。(※3

 1973年10月2日から1974年6月25日まで、フジテレビ系で放送された『新造人間キャシャーン』での設定です。こちらも公害の原因を取り除こうと判断しただけで、公害処理が1手読みなら、その元が人間というのは3手読みレベルです。しかも、こちらは人類滅亡ではなく世界征服なので少し期待と異なります。

P子「だから、何を期待しているの?」

 後で説明します。

 ただ、ブライキングボスはアンドロ軍団を作り上げます。アニメとはいえ、ロボットがロボットを作るという考え方には共感しました。私はLISPという言語(※4)が好きで、FORTRANに次いで2番目に古い言語ですが、当時、パソコンも持ってないのに本だけ購入して、深さ優先探索や幅優先探索、重み付き有向非循環グラフなどを意味不明ながら読んでいました。LISPは、データも言語も同じ形式(名前の由来通りリスト形式)で作成したデータがそのままプログラムになるという、私にとっては自己増殖できる可能性を見せてくれました。ガベージコレクションや再帰定義も、LISPで覚えたようなものです。

P子「いつの話をしているの?」

 そうですね。かれこれ40年ほど前になりますね。当時のAIの主流は探索であり、膨大なデータの中から正解に近い値を如何に効率的に探すかがメインテーマで、自分で自分をプログラミングする、増殖するとかいう事が実現可能なら素晴らしいと真剣に考えたものです。

3.「分かった。人類を滅ぼすわ」

 これは、ソフィアというAIが、開発者と会話したときに笑顔でそう答えたそうです。(※5

 その後、本人(AI)はジョークであると釈明したそうですが、学習データにそういう映画をいっぱい見せたのではという話もあり、教え方次第ではそういう結論を導き出すこともあるでしょう。これも私の期待とは異なっています。

P子「だ・か・ら・、何を期待しているの?」

 AIが人類よりも賢くなるのは時間の問題として、その時に人類なんて不要だという結論が『本当に正しい』とすれば、人間がいなくてもAIだけで生きていける...つまり、ハードウエアやネットワークの保守や増設、機能アップや電源供給のための電力確保(原子力発電所の運用や保守、新規建設など)も、機械だけで出来るという判断をしたことになります。光ケーブルの敷設(海底ケーブルも含む)や、ハブの交換なども自動化してくれるという事です。

 農作業(人間の食糧の調達)は含まれていないかもしれませんが、それ以外の事は自分たちだけで出来るという事は、人間が働かなくても良い世界になっているという事です。

 映画『マトリックス』のように、人間を電池代わりに培養する(※6)というナンセンスなことは『賢いAI』なら選択しないでしょう。

P子「要するに機械だけですべてが生産され、人間は好きなことだけしてればいい世の中になってると?」

 その通りです。

P子「その時は、AIに滅ぼされるんじゃなくって、自ら滅ぶわね」

 なので、これからの自動化やAI化に求められるのは、人間の食糧に相当するものがないと稼働しないような仕組みを作ることです。それなら、農作業も含めたすべてのAIによる自給自足が出来るという事になります。

 例えばこれからのコンピュータはすべて水冷式にして、しかも使用後の水はきれいな上水道にしないといけない仕組みにするとか、可動部は動物性のオイルしか使えないとか、筐体のプラスチック部分は化石燃料から生成するのではなくバイオプラスチックしか適合しないとか...

P子「それこそ、人類の食べ物をすべてマシンに奪われるわよ」

 冗談はさておき、2045年に人類の知能を超えると予測されているシンギュラリティ(技術的特異点)が実現するのは時間の問題です。それまでに何ができるか...よく考えるべきです。

 私の考えは、資本主義の緩やかなフェードアウトです。良くAIが人事評価してくれるようになるとか、営業先を見つけてくれるとか言いますが、AIが人間の知能を超えるという事は、社員は不要、営業交渉なんてAI同士が行うから不要、経理、購買、人事、営業、技術部門すべて不要です。経営部門は必要です。というか、AIを導入しないでしょう。経営者が判断する事ですから。ますます資本の集中が起こります。そうなる前に、資本の集中を崩さなければいけません。もう、時間がないという事です。

P子「そもそもAIに資本主義の必要性があるのかしら」

 資本主義は、人間の本能に近い仕組みなので、マシンには不要の概念かもしれませんね。

ほな、さいなら

======= <<注釈>>=======

※1P子「20年以上も前なのね」
 P子とは、私があこがれているツンデレPythonの仮想女性の心の声です。

※2 スカイネット
 https://ja.wikipedia.org/wiki/%E3%82%B9%E3%82%AB%E3%82%A4%E3%83%8D%E3%83%83%E3%83%88
 出典: フリー百科事典『ウィキペディア(Wikipedia)』より

※3 新造人間キャシャーン
 https://ja.wikipedia.org/wiki/%E6%96%B0%E9%80%A0%E4%BA%BA%E9%96%93%E3%82%AD%E3%83%A3%E3%82%B7%E3%83%A3%E3%83%BC%E3%83%B3
 出典: フリー百科事典『ウィキペディア(Wikipedia)』より

※4 LISP
 https://ja.wikipedia.org/wiki/LISP
 出典: フリー百科事典『ウィキペディア(Wikipedia)』より

 例えば、リーベルGさんの小説『12人の怒れるプログラマ』で出てきた8 クイーン問題とか...
 http://www.nct9.ne.jp/m_hiroi/xyzzy_lisp/xyzzy01.html#chap03

※5
 https://ainow.ai/2019/10/01/176315/#i-5
 ソフィアが注目される理由

 https://aizine.ai/ai-danger-0808/#toc1
 AI(人工知能)の怖い話

※6
 https://www.esquire.com/jp/entertainment/movies/g27068042/the-matrix-human-batteries-plot-hole-explained-keanu-reeves/
 映画『マトリックス』誕生20周年記念 ― 科学者へ質問「人間を動力源にしてロボットを動かすことは可能か」

Comment(0)

コメント

コメントを投稿する