LLMの推論エンジンには、意味も自我もない。やっていることは、山に降った雨が、近くの言葉を拾い集めて流れ下るだけの作業だ。
社内AIゲートウェイを支える、ロケット打ち上げ
LLMの学習モデルを開発する工程でも、RAGデータベース(ベクトルDB)というAIゲートウェイを開発する仕上げでも「エンベディング」という処理が要る。
言葉という人工衛星を載せたロケットを、多次元の情報空間へ大量に打ち上げる処理だ。いくつかの実装はすでに公開されており、使い手自身が選択し、調整することもできる。
DL型AIは星座を、LLMは山脈を作る
打ち上げられたロケットは、”ミートボール”と”ハンバーグ”と”ハンバーガー”という人工衛星を、近い座標に並べて配置する。”キムチ”や”寿司”とは、だいぶ距離がある。”タクシー”や”ハンドバッグ”となると、さらに遠い。
DL型AIでは、この大量の人工衛星が、星座や天の川のような統計的な意味を形作った。LLMの場合、言葉の人工衛星は山脈を形作る。
雨が山を流れ、川にたどり着くとき
プロンプトは、この山脈に降る一粒の雨だ。山肌を流れながら、近くにある言葉を拾い集めていく。そうして川にたどり着いたとき、拾い集められた言葉たちが、推論結果として出力される。
世界はAIを全知全能の神のように恐れる。だが、その核にある推論エンジンという仕組みは、このように無機質な「オートリリックマシン」なのである。