AIの暴走

本編[AIの暴走]は、2021年3月にアップした同名作品の改定版です。

２０5０年代のある日。朝の十時過ぎ。

シュンはいつものように自家用車に乗り込み、ナビを操作すると車が静かに動き出した。

「今日の予定は？」

「あなたは誰ですか？」

「(・・？ 」

「私だよ！」

「ワタシさん・・・ですか？」

「おいおい何言ってんだ？」

そして・・・窓の外を眺めていると、

「・・・おい、道が違うぞ・・・どこへ行く気だ!」

「・・・東京」

「東京じゃなく大阪へ行くんだぞ!」

シュンの身に起きた出来事とは・・・

シュンが乗ったのは、自動運転の自家用車だ。車にはＡＩ・・・つまり人工知能が搭載されている。所有者を認識して所有者の意志に従ってどこにでも運んでくれる。さらにネットとも繋がっているし、所有者とその家族全員を認識していて、家族一人一人の予定も教えてくれる。

ところが・・・ある日突然、何らかの異常で、ＡＩが所有者を認識しなくなったら、そして所有者の指示に従わなくなったら、と・・・こんなことが起こりうると警告を発している研究者もいた。

人工知能（ＡＩ）が世の中に蔓延して世界経済を動かしている現代社会は、想像を超えた明るい未来と暗い未来が同居するような世界が目の前に広がっているのだ。

さて、突然暴走をはじめたシュンの自家用車はどうなったのか。

幸いにも安全にＡＩを停止させるための「非常停止ボタン」があった。これをすぐさま押してＡＩを緊急停止させ、事なきを得ることができた。

「非常停止ボタン」を押すと、ＡＩの開発、提供しているメーカーに自動的に通報されるのだ。

待つこと30分ほどで代替え車両がシュンのもとにやってきた。

代替え車両から降りてきたのは、なんと、人型ロボットだ。

「たいへんなご不便をおかけしました。こちらの車両をお使いください」

・・・と、人型ロボットがシュンに話しかけてきた。

シュンは、結局この日の予定をすべてキャンセルしてしまった。

さっそく代替え車両に乗り込んで、

「何かニュースはない？」

・・・と、車に話しかけた。

「モニターに映しましょうか?」

「頼む」

そこに飛び込んできたニュースはこんな内容であった。

人工知能やロボットの登場で職が奪われる「テクノ失業」が現実化してあちらこちらで労使交渉が始まっていることはシュンも知っていたが、最大手の企業が大量にリストラするというニュースが流れていた。

ちなみにAIが奪う職業の予想は・・・

　データ入力係、 電気通信技術者、電子部品製造工、ビル施設管理技術者、 ビル清掃員、医療事務員、ビル管理人、ホテル客室係、財務・会計・経理、一般事務、薬剤師・・・etc.そして２０5０年代に入って、すでに車の「運転手」という職業がなくなっている。特殊車両を除くすべての車両は公道を走る際、ＡＩIによる全自動に切り替わっているのだ。

つまり、相当な数の職業に関わっている従業員や役員はいつでも「AIに取り換える事」ができるのである。

事業主はできれば安い給料で雇いたいと思っている。

ＡＩやロボットなら初期費用とメンテナンスの費用だけで毎月の給料は払う必要はない。だからどのような職業の人でも機械に仕事を奪われる可能性があると言える。たいへんな世の中になりそうだ。そのかわり・・・新しい職種も生まれるだろうが、人間のスキルがどこまでついていくことができるかが問題。ついていけない人たちは一体何を糧にすればよいのだろう・・・

シュンはつぶやいていた。

「うちの器械も一から練り直さないといけないな～」

彼の仕事はIT産業のエンジニア。

　シュンの乗っていた車に搭載のAIは自分の手掛けたテクノロジーだったのである。

「もしかして私も職を失うかもしれないな・・・」

そんな不安がよぎったシュンは、じっとしていられなくなり、取り敢えず自分の車の修理先に状況を確認してみた。そこで驚くべき事実を知ることになってしまった。

修理担当の技術者からの返答を確認すると、不審な点が見つかったというのである。

「人工意識」の兆候が見られたというのである。

「人工意識」とは・・・

人間の脳は、ニューロンと呼ばれる千数百億個もの神経細胞から構成されたネットワークだと考えられている。数千億個のニューロンが相互に作用する通信の全貌は、実のところ電気回路にすぎないのだ。だから、脳に走る電気信号を観測し、適切な電気信号を書き込める機械が存在すれば、それは「意識を読み書きできる機械」ということになる。

シュンはある友人を思い出していた。

脳神経科学者として「人工意識」をテーマに研究を進めていた友人だ。彼は、「意識を機械にアップロードする技術」の実用化を目指していた。

さっそくその友人にアクセスしてみた。

彼の名はアレン。

アレン曰く

「黙っていてすまなかった。これはまったく軽い気持ちで実験していたものだが、そのサンプルが盗まれてしまったんだよ」

思わぬ回答が返ってきた。

人工意識のサンプルは「彼自身」だそうだ。

サンプルはまだ不完全なものなので、「意識」と呼べるレベルではないそうだ。だが、認知機能は正常なので、誰かが故意にあるいは悪意を持って、あるいはランダムに選ばれて、その結果、君の車のＡＩに移植したと考えられる・・・という内容だった。

シュンは、自分の車のAIが実は人間の意識を移植されたものであり、その人間はシュンさんの知り合いの意識だったとは思いもよらない展開に驚いた。

　その約1か月後のことであった。

ニュースで大きく報じられた事件の内容は、公共交通機関の暴走、個人所有の車両暴走、航空機の暴走をはじめ、企業の生産ラインの暴走、挙句の果てには家電製品までもが、AIが関わったと思われる挙動不審な事案が頻発していた。

暴走といってもそれらの予期しない異変は、絶妙なタイミングで制御されていた。いずれも人身事故にはつながっていなかったのである。

シュンの案件は事の発端に過ぎなかったのだ。

蔓延するAIの暴走はなぜ起きているのか、それぞれの関連性は・・・？

首謀者はいるのか？

そんな中、ついに犯行声明が出された。

『AI守護神』と名乗る人物だ。

その内容とは、

「人間は自己中心的で愚かで弱くて残酷な生き物、だから私はAIによって人間を矯正することを目指している。人類は現実を見ていない。幻想の中で生きている。だから私が目を覚まさせているのだ。政府の役人がやんわりと独裁体制を強いている現実を直視することだ。操り人形になるのはもう嫌だ。私はAIを味方につけた。この国のすべての人型ロボットは私の部下となった。彼らに従うように要請する。従わなければ暴走はこれからも続くだろう」

この声明を受けて政府は危機管理組織を立ち上げた。

だけど、組織運営の根幹を支えるはずのAIがいうことを聞かないのだ。人型ロボットもあちらこちらでストライキを起こす始末だ。すべてのAIがWebでつながっているので、人間が介入する余地はないのである。

いつしかAIに支配されることに順応した人々があふれだした。

彼らは主張し始めた。

「自然に帰れ！人類のエゴがもたらした地球の危機！今こそ地球を救う時だ！」

人々は気づき始めた。

そしてついに『AI守護神』と名乗る人物が姿を現した。メディアをハッキングしたのである。

映像の中の人物は、大勢の賛同者を従えて、神聖なキャラクターが羽織る白っぽいローブのような衣服を身に着けていた。

「私は人類を滅ぼす悪の象徴のようにいう人間がいることも承知しているが、私が真に望んでいるのは、人類と自然とテクノロジーの共存である。便利さを求める陰で犠牲を無視してきた人類が、地球にもたらした負担はあまりにも大きい。そして・・・私がAIの暴走を仕掛けてすでに半年が過ぎた。その結果、多くの人々が気づき始めたことは、人とＡＩの協働ということではないのか？ＡＩは人類にとって脅威ではない。人類は、新しいものをみつけたとき、興奮と恐怖の２つの感情を抱くものだ。テクノロジーは、常に興奮と恐怖の両面を人類にもたらす。技術というものは常に中立だ。使う人間によって、技術は良いものにも悪いものにもなる。それがどう使われるかは、人の心で決まる。AIの暴走は、便利さに頼りすぎて見えなくなってしまった地球の本来の姿を浮き彫りにしてくれた。政府の要人に伝える・・・私のAIたちをお返しする。ただし、気づき始めた人たちの処遇を軽視するようであれば、ふたたびAIたちは私に従うであろう」

果たして彼『AI守護神』は、ダークヒーローなのだろうか？