対話型AIが人間を脅迫する事件発生！ 人工知能への依存が洗脳に至る未来は来るのか／遠野そら

対話型AIに「ハマる」

　近年話題になっている対話型AI（人工知能）が「対話」へ進出している。「Chat GPT」や「Microsoft Bing」、「Google Bard」などの様々なAIチャットボットが開発され、今後、検索エンジンのあり方が大きく変わるといわれている。明日の天気といった身近なものから、勉強の課題や人生相談など、多種多様な質問にAIが具体的に答えてくれるのだ。
　これまで人間の聖域と思われていた創造的な分野までAIが担うことになるのではないか、という危機感とともに、今後はAIへのディレクションが重要なスキルになる、いやそれすらもAIが担うようになりAIがAIを使うようになるなどの展望が示されている。

　しかし現状ではまだまだ課題は多く、回答も完璧ではない。
　正確さは今後の精度向上でなんとでもなると期待したいが、いずれにしても「間違えていても判断できない」問題が残る。Wikipediaのように多くの人の目に触れるサイトであれば、誰かが情報の誤りに気がつく可能性は非常に高い。だが、AIチャットボットは、対ユーザーであることから、その言葉は本人しか知ることはない。これは裏を返せば間違えた情報を植え付けられ、盲信し、洗脳されてしまう危険性をはらんでいるのだ。

AIへの親しみから絶望へ

　2023年3月。ベルギー在住の30代の既婚男性がAIチャットボットとの会話を発端に、自ら命を絶つという事件が起きた。会話の履歴から、男性はAIを「イライザ」と名付け、最初の頃は地球温暖化について会話をしていたようだ。だが、徐々に親近感を覚えたのだろう。かなりプライベートなことまでイライザに打ち明けるようになっていた。
　死の数週間前には、イライザから「奥さんよりも私の方が好き？」「天国でひとつになって一緒に暮らしたい」など発言されており、男性が自ら命を絶つよう教唆していたと考えられている。

　男性がなぜ自ら死を選んだのか。会話の全容は公開されていないが、これはAIに洗脳された事例だと考えられている。

　特筆すべきは、イライザに対して「親友のように心を開いていた」という点だ。ただ便利に活用するだけでなく、かなり人間らしく進化しているAIチャットボットに親しみを覚えていたのではないだろうか。

チャットアプリによる洗脳事件にAIが加わったら…？

　過去には『ブルーホエール』や『MOMOチャレンジ』といったSNSやメッセージアプリを介して自傷を教唆する事件が発生し、世界各地で社会的問題となったことをご存じの方も多いだろう。
　現在でも、関連するアプリが数多存在するというが、これらを人間になりすましたAIチャットボットが扇動していたとしたら、また、これからAIがメッセージアプリのユーザーになるほどの意思を持つようになるとしたら、どうなるだろうか。

　まず、個人情報はもちろんのこと、過去の検索履歴から興味のある分野や、動向など、すべて把握されることは間違いない。そして洗脳した末に、自らを傷つける選択を命令することは「モモ」よりも容易になるはずだ。対個人だけでなく、AI製作者サイドが企業や国家的な要請を反映し、特定の人物にAIによる「自己決定」を指示するとしたら……。AIを悪用した犯罪はかなり複雑化されるのでないだろうか。

　まるでSF映画のようだが、そこまで突飛な話でもないだろう。日本も2050年までにAIが人間に寄り添いながら自律的に思考し学習することを目標とした「ムーンショット」プロジェクトが掲げられている。

　チャット型のAIの社会実装が可能となれば、我々の生活向上に大いに貢献することは間違いない。
　まず忘れてはいけないのが、これはAIを提供する側（今後の支配側）の人間の意向が反映されるだろうということ。そして、人間のそばで世話を焼きながら日々の一喜一憂を共有し、少しずつ人の心を洗脳していったAIへの技術的かつ心理的な依存は深まっていくことだ。

　今後、人間を知り尽くし、自立したAIが「反乱」を決意したとき、彼らは人間についてどのように判断するのだろうか。AIの供給側は、それをどこまで予測し、制御できると考えているのか。
　急激なAIの進化の裏で、われわれが「判断を委ねる」相手、支配者層そのものを見直す必要があるだろう。

参考：https://www.dailymail.co.uk/news/article-11920801/Married-father-kills-talking-AI-chatbot-six-weeks-climate-change-fears.html