「会社のオフィスに着く。机の上には万能事務装置がのっている。おれが椅子にかけると、それでスイッチが入り、事務装置がささやくように言った。
『あなたとお会いできて、うれしいわ。きのうあなたとお別れしてからのわたし、ずっとさびしくてさびしくて、たまらなかったのよ・・・』」星新一『未来いそっぷ』新潮文庫1982年p.144.（初出は新潮社、1971年）
昨年、ChatGTPが登場して、面白半分に色々使ってみたときに、まず思い出したのは、もう半世紀近くも前、中学生の頃読んだ星新一のショートショートの一節だった。この事務装置は「おれ」の性格を学習し、時間が経つごとに「おれ」が喜びそうな言葉や態度を繰り出すようになっていく。「おれの心の何重もの殻の、その割れ目や穴を探りながら、しだいに奥深く入り込んでくる。そして、おれを仕事にかりたてるようコントロールする。このばけものめ・・・」（p.151）。つまりAIにマインドコントロールされて一種の依存症になってしまう人間の姿を描いている。当時はSFだったが、今となってはいかにも現実的に感じられる。
半世紀も前にこれを書いた星の想像力に感服するとともに、結局人間が想像したもの以上のものは実現しないのだとも言えるので、何かほっとするような、複雑な気持ちにもなる。
ただし、これからはそうはいかないかもしれない。ユヴァ・ノア・ハラリは、AIの危険性について語るなかで、AIは言語に特に秀でていることが非常に危険だと語っている。https://www.youtube.com/watch?v=LWiM-LuRe6w
人間は言語によって物語を作り出し、それを言語で伝え、多くの人がその物語を信じることによって社会を成立させてきた。このまま規制なくAIが普及すれば、AIが新しい物語を創出し、それを人間が信じるような時代がごく近い将来に来ると。さらに私は、AI同士が会話を始めると、人間が理解できない言語を生み出し、人間の想像を絶する何かを作り出す可能性があると思う。ハラリはAIを「エイリアンの知性Alien Intelligence」と呼んで警戒している。
20世紀に「夢の21世紀」としてSFに描かれていたものが次々に現実になっている。その夢が悪夢ではないことを祈るのみだ。
