本書を執筆しながら、思い知らされたことがある。「AIがいずれ人類を滅ぼす」とささやかれる一方で、数兆円をかけたAIは、人間の記憶力ひとつ、まだ超えられていない。
執筆中に思い知らされた、AIの記憶の狭さ
長い原稿をAIと一緒に書き進めていると、数章前に決めた設定を、AI自身があっさり忘れる瞬間に何度も出くわす。
数兆円規模のデータセンターで動く、全能のはずのAIが、愚かであるはずの人間の記憶容量にすら届かない。これは皮肉というより、拍子抜けに近い。
「人類を滅ぼすAI」という物語と、「数章前の設定を忘れるAI」という現実は、同じ画面の中で同時に進行している。
専門用語はあるが、実感を語る言葉がない
機械学習の世界には、コンセプトドリフトやモデル崩壊といった専門用語がすでにある。現象そのものは、以前から知られている。
だが、それらの言葉は論文の中にはあっても、執筆の現場でAIに苛立つ人間の実感までは運んでくれない。
専門用語を知っていることと、その気持ち悪さを言い当てることは、別の仕事だ。
中華ランチの崩壊、という名前をつけた理由
そこで筆者は、この実感に「中華ランチの崩壊」という名前をつけた。学術的な新発見を主張するためではない。
なぜこの名前なのか、という由来はここでは明かさない。本書を読んでもらったほうが、この名前の気持ち悪さがよく伝わるはずだ。
少なくとも一つだけ言えるのは、AIに人類を滅ぼされる心配をする前に、AI自身の記憶力と、学習データの鮮度を疑ったほうがいい、ということである。