AIの正体は、オートリリックマシンである——エンベディングと山脈のメタファー

多次元空間に言葉の衛星を打ち上げるエンベディング処理から、LLMという山脈へプロンプトの雨が流れ着くまでを描く…

Ren Kato

LLMの推論エンジンには、意味も自我もない。やっていることは、山に降った雨が、近くの言葉を拾い集めて流れ下るだけの作業だ。

社内AIゲートウェイを支える、ロケット打ち上げ

LLMの学習モデルを開発する工程でも、RAGデータベース(ベクトルDB)というAIゲートウェイを開発する仕上げでも「エンベディング」という処理が要る。

言葉という人工衛星を載せたロケットを、多次元の情報空間へ大量に打ち上げる処理だ。いくつかの実装はすでに公開されており、使い手自身が選択し、調整することもできる。

DL型AIは星座を、LLMは山脈を作る

打ち上げられたロケットは、”ミートボール”と”ハンバーグ”と”ハンバーガー”という人工衛星を、近い座標に並べて配置する。”キムチ”や”寿司”とは、だいぶ距離がある。”タクシー”や”ハンドバッグ”となると、さらに遠い。

DL型AIでは、この大量の人工衛星が、星座や天の川のような統計的な意味を形作った。LLMの場合、言葉の人工衛星は山脈を形作る。

雨が山を流れ、川にたどり着くとき

プロンプトは、この山脈に降る一粒の雨だ。山肌を流れながら、近くにある言葉を拾い集めていく。そうして川にたどり着いたとき、拾い集められた言葉たちが、推論結果として出力される。

世界はAIを全知全能の神のように恐れる。だが、その核にある推論エンジンという仕組みは、このように無機質な「オートリリックマシン」なのである。


この覚書は、執筆中の書籍の構想メモです。論証の全体は、書籍の中で展開します。

NOTE 一覧へ | トップへ