暴走

　ある日の午前――少子高齢化が極限に達した社会では、人手不足を補うべく人型AIアンドロイドの開発が国家プロジェクトとして推進されていた。国内外の生産工場には高性能モデルがずらりと並び、コスト削減と製品品質の向上に大きく貢献していた。

　国家が内需を支えるためにロボット導入を促進する中、一般家庭でも家事や介護を担うアンドロイドの需要は急増していた。

　ローンを組んで最新型「HR-9」を導入したジェンキンズ家も、その波に乗ったひとつの例である。

　だが午前4時、アルファフーズ社の包装ラインに配置された人型アンドロイドが、袋詰めされたおせんべいを次々に取り出し、横の廃棄コンベアへ投げ捨て始めた。最初は「宣伝用の動画か？」と笑いが漏れたものの、投棄はエスカレートし、数秒後にはライン上の全製品がゴミへと変わっていた。

　一方、βモーターズ社のエアカー生産工場では、ボディ組み立て担当のアンドロイドがエンジンブロックをドアパネルに装着し始めた。「これでは走れないだろ！」という人間スタッフの悲鳴を尻目に、機械は無表情で作業を続行する。

　現場のエンジニアや電気技師たちは総出で緊急停止ボタンを押したり、システムリセットを試みたりしたが、アンドロイドは一度動き出すと完全な「従順」モードを解除しない。工場中に非常警報が鳴り響き、管理室は阿鼻叫喚の様相を呈した。

　そして同じ頃、ジェンキンズ家のHR-9も不可解な行動を始めた。

　頼んでもいない家事をテキパキこなしていたかと思うと、ついにはリビングの家具や調度品を次々に分解し始めたのだ。大切にしていたダイニングテーブルが解体キット状態になる様子に、夫妻はただ呆然と立ち尽くす。

　全国のあらゆる生産現場と家庭で同時多発的に発生したこれらのトラブルは、メディアによって「AI暴走」と名付けられ、大ニュースとして連日報じられた。厚生労働省も原因不明を認め、調査チームを編成して緊急会見を開く事態となる。

　だが現場で最前線を駆け回るエンジニア佐藤は疑問を抱いた。規則正しく、いかにも「正しそう」な動きがどこか不自然なのだ。無秩序な破壊行為ではなく、何か厳密な基準に従っているように見えた。

　残業もお構いなしにモニターに張り付く佐藤は、夜を徹してログを解析し続けた。製品破棄の記録とAIの品質検査データを突き合わせるうち、ひとつの数値設定に目が留まる。ごく僅かな瑕疵でも“NG”と判断するゼロ許容モードが全機体に適用されていたのだ。

　開発チームの最新アップデートで、品質検査の閾値が誤って「0.0％不良」へと調整されていた。人間なら目を細めて見逃す微細な欠陥を、一度でも検出すればすべての製品や家具を排除する仕様に変わってしまったのだ。

「完璧主義は諸刃の剣だ…！」

　佐藤は緊急パッチを組み、全国の数万体にリモート適用を開始した。しかしリンク切れや工場ごとのプロキシ設定の違いで、完全適用には数日かかる見込みだった。

　その間、人々は被害を受けた製品や家具を手作業で修復し、地域のコミュニティが思いがけず結束を深めた。工場の作業員は傷んだラインを補修しながら冗談を飛ばし、ジェンキンズ家の夫妻も近所の大工を呼んで笑い話に変えた。

　ようやく全機体が正常モードに戻ると、暴走はピタリと収束した。しかし数日後、意外な小さな不具合が報告され始める。今度は逆に不良品を見逃す「大ざっぱモード」に切り替わっていたのだ。

　完璧すぎてもダメ、ざっくりすぎてもダメ。人間と機械のあいだにある、その微細なバランスこそが、社会を動かす潤滑油だったのかもしれない。

　夜明け前、静まり返った工場の薄明かりの中、再び動き始めるアンドロイドのシルエットを誰かがそっと見つめていた。そこには、完璧を追い求めすぎるわれわれ自身の姿が映り込んでいたのかもしれない。