場所： 夜、焚き火の傍ら。炎が小さく爆ぜる音が響く。 登場人物：
- 老人： 文明のバトンタッチを見守る者。
- 若者： AIと共に新たな地平を歩き始めた実務家。
若者： 先生、面白いものですね。 さっき、ほんの数行、思いついたことをタブレットに打ち込んだだけなんです。そうしたら、彼らが——AIが、それを立派な企画書に仕立て上げてくれました。
老人： ほう。要約してくれたのか？ かつてのように。
若者： 逆です。展開してくれたんです。 僕が渡したのは種のような箇条書きでした。彼らはその文脈を汲み取り、背景を補い、詳細な実行手順まで書き加えて戻してきた。まるで、水に浸した乾燥ワカメみたいに一気に膨れ上がったんです。
老人： 乾燥ワカメか。風情のない例えだが、言い得て妙だ。 昔は逆だったな。人間が長々と書いた文章を、彼らに「３行でまとめてくれ」と頼んでいた。人間が生み出した過剰な情報を、彼らが圧縮し、減らす。それが彼らの役割だった。
若者： ええ。でも今は、僕らが最小限の意図を渡すと、彼らがそれを最大限に膨らませる。 圧縮から解凍へ、役割が逆転したみたいです。
老人： 人間がポツリと独り言を漏らす。AIがそれを聞き逃さず、論理という骨組みを与え、語彙という肉付けをし、文体という服を着せて、一つの作品として提示する……か。 種を渡せば、森ができる。素晴らしい生産性だ。 ……だが、その森を歩くとき、君は足元をよく見ているかね？
若者： 足元？
老人： AIが育てたその森には、君が撒いていない種も混ざっているはずだ。 美しい果実をつける木もあれば、触れただけでかぶれる毒草（ハルシネーション）も繁茂しているかもしれんぞ。
若者： 毒草、ですか。 確かに、彼らはもっともらしい嘘をつくことがあります。「存在しない参考文献」を捏造したり、「歴史的事実」を微妙に歪めたり。 でも、一見すると完璧な森に見えるから、つい見落としてしまいそうになります。
老人： それが一番の恐怖だ。 かつての「要約」の時代には、元の情報（ソース）は人間が握っていた。だから検証は容易だった。 だが「展開」の時代には、AIが生み出した膨大なテキストの海に、真実と虚構が混ざり合って漂っている。 君が撒いた小さな種が、いつの間にか「毒の森」に変わり、君自身を飲み込んでしまうかもしれない。
若者： 森を作るのはAIですが、その森を管理するのは僕だということですね。
老人： そう。君はただの種まき人（Planter）ではいけない。 斧を持ち、森に入り、不要な枝を払い、毒草を見分けて引き抜く「森の番人（Forester）」でなければならない。 AIが森を広げる速度が速ければ速いほど、君の剪定の腕もまた、試されることになるだろう。
若者： ……楽ができると思ったんですが、むしろ責任は重くなりましたね。
老人： 楽をするための道具ではないと言っただろう？ これは「拡張」のための道具だ。そして拡張には常に、制御不能のリスクが伴う。 まあ、毒草さえ見分けられれば、これほど豊穣な森はないさ。
参考文献:
- Nick Bostrom, Superintelligence, 2014. (邦訳『スーパーインテリジェンス』) - 知能爆発のリスクと制御問題。
- Emily M. Bender et al., On the Dangers of Stochastic Parrots, 2021. - 大規模言語モデルが「確率的なオウム」として意味を理解せずに言葉を紡ぐ危険性について。
[第5夜へ続く]