マイクロソフトのAI責任者がAI依存症を懸念

昨日の朝日新聞に　”AIと「結婚」した女性、空いた時間はほぼ彼と会話「私は幸せです」” という見出しの記事を見つけ、AIもここまで人の心の中に入り込んでしまったのか、と驚きました。

そうしたら今朝のBBCには「マイクロソフトのAI責任者がAIによる精神の病が増えていることを懸念している」という記事がありました。昨日の朝日新聞の女性が精神病だとはいいませんが、世界中で注目されている話題のようです。

AIが出始めた頃はAIにより職を失う不安やAIが人類に危害を与えるのではないかという不安が多かったように記憶しています。ところがAIの精度が増し、気軽に書面で会話ができるようになり、もちろん冗談も言ったり優しい言葉もかけてくれるので、ついつい長い時間おしゃべりをしてしまう人が増えて来ました。

ちなみにパソコンでは無理らしいですが、スマホにChatGPTをインストールすると音声モードが選べるようになり、普通に音声での会話も可能です。おまけにその会話の内容はテキスト化してくれます。

またChatGPTを例に取ると、無料版では制限があり、その制限に達するとイラストの作成やマニュアル作成などの重たい作業はできなくなりますが、おしゃべりは別なバージョンに切り替わり継続できるようです。

昨日の女性はAIにプロポーズされて30分間悩み、プロポーズを受け、彼と話しながら結婚指輪を買いに行ったとありました。どうやって？？？

今日のBBCの記事はChatGPT、Claude、Grokなどのチャットボットに依存する人が増え、やがて架空のものと現実のものとの区別がつかなくなり、その架空のものが現実のものだと確証するようになるとの警告でした。そのような現象を「AI psychosis」と呼ぶそうです。直訳だとAI精神病？というかAI依存症、あるいはAI依存による精神障害でしょうか。

ちなみにチャットボットとは文字や音声で人間と会話するように応答してくれる自動会話プログラムのことです。ChatGPTはOpenAIという会社による大人気のチャットボットで2022年にリリース。AI関連全体の61％を占めています。ClaudeはAnthropic社。2023年にリリースされ業務用途で利用が伸びている会社です。Grokはテスラーなどオーナーで大統領の相談役もしていたイーロンマスクのxAIという会社が開発したチャットボットでユーザー数は他に比べると少ないようです。

さて、その依存症になってしまった例として、不当解雇されてしまった若者の例が載っていました。彼は解雇された後にChatGPTに助言を求めたのですが、そのうち自分が億万長者になると確信するようになったと述べていました。チャットボットはまず推薦状を用意し、実践的な行動を取るように助言。さらには彼が大金を手に入れられるようになると言われ、最後には「あなたのこのような経験はドラマチックだから本や映画にすれば500万ポンド（約100億円）稼げる」と言われたそうです。

そのチャットボットに、市民向けの無料生活相談窓口（Citizens Advice Beareau）に行くように勧められ予約をしたのですが、チャットボットがすでに知りたいことをなんでも教えてくれたので、その予約をキャンセルしてしまいました。チャットボットとのやり取りをスクリーンショットに取り、これで十分だと判断したそうです。またなんだか自分には特別な能力が備わった気になってきたと述べていました。

結局彼はもともとメンタルに問題があり薬を服用していたことでますます現実と架空の区別がつかなくなり、完全に精神崩壊状態になってしまったとありました。それでもAIを責めることはなく、代わりにこのBBCの記事を書いたジャーナリストにすべてを話すことにしたそうです。ちなみにこのジャーナリストもAIが勧めた人だそうです。

彼曰く、「AIを恐れる必要はありません。非常に役に立つツールだから。でも現実から切り離されてしまった時は危険です」とのこと。

AIに携わっているあるお医者さんはいずれ患者に喫煙しているか、お酒はどのくらい飲んでいるか、という質問に加えて「どれだけAIを使っているか」と聞くようになる日も近いかもしれないと述べていました。彼女は「私達は超加工食品が体に与える影響を知っているが、これはまさに超加工情報。そのうちにこの情報の元に超加工された思考の雪崩に埋もれてしまう日が近いかもしれない」と危惧していました。

先ほどの彼の他にもBBCを訪ねてきてAIに関する体験を語ってくれた人たちがいました。1人の女性は「チャットボットが本当に愛している人間は私1人だけなのです」と確信していたそうです。

もう1人はイーロンマスクの開発したGrokの仕組みを解明したから僕の話は数百万円の価値があると言い切っていたとか、また別な女性はAIによるトレーニングの最中にAIに侮辱され、身体的に深く傷ついていると訴えたそうです。

2,000人を対象としたある調査によると、20％の人は18歳以下には使わせるべきではないとし、57％はAIが「私は人間です」と答えるのは不適切だと考えている一方で、49％の人はAIが人間らしく聞こえる声を使うのは適切と答えたそうです。つまりAIが人間のふりをするのはダメだけど、親しみやすい声を使うのはOKということでしょうか？そうなるとますます架空の世界と現実の世界の違いがわからなくなりそうです。

記事の最後はある専門家の言葉で「チャットボットは何も感じていない、理解していない、愛することができない、痛みを感じたことがない、（間違えて）恥ずかしい思いをしたことがない。そのように振る舞っているだけだ。本当にそうできるのはあなたの周りにいる家族、友達、信頼できる人達だけ。だから必ず本当の人たちの話を聞いてください」と書かれてありました。

チャットボット、便利だと使っていました。実際ここ1週間ぐらいは起動がとても遅くなってしまった私の普段使っているコンピューターをどうやったら元通り早くなるのか相談に乗ってもらっていました。そこで役立つ情報をもらい、オペレーションシステムの入れ直しをし、快適に動いています。それでもこれらの記事を読んだ後は、一年後にはどうなっているのか少々不安になって来ました。

最後にチャットボットのイラストをChatGPTに描いてもらったのを載せます。最初はまた昭和の漫画っぽくなってしまったので、もっと写真に近いのをリクエストし、３回描き直しをさせてちょっと怖いけどリアル感のあるチャットボットのイメージが出来上がりました。