ループ・エンジニアリングのこと

AIは判断を引き受けるのか、返却するのか

焼き茄子の棚から始まった話

家内が、

これが無いと茄子が焼けないからねっ

と言って、焼き茄子用のマルチロースターに場所を奪われた調味料などを置く棚を作った。

普通なら、

焼き茄子
↓
ロースター
↓
焼く

で終わる話。

しかし実際には、

焼き茄子
↓
置き場所問題
↓
棚製作
↓
木工
↓
工具
↓
供給力

へ発展した。

ここで改めて思った。

意味は単独では存在しない。

文脈から立ち上がる。

AI界隈のContextへの違和感

なぜQdrantに違和感を持ったのか

昔、AI塾長の試作を行ったとき、

Qdrantから検索してRAGをやった。

観察していて感じたことは、

AIが

うろ覚えを事実として語っている

ように見えたことだった。

検索結果は本物。

しかし文脈が失われている。

そのため、もっともらしい文章は作れるが、なぜそう言えるのかが見えない。

その違和感から、

Qdrant = 記憶

ではなく、

Qdrant = うろ覚え

だと考えるようになった。

そして、

うろ覚え
↓
Fact
↓
Context Bundle
↓
Archive

へ辿る仕組みが欲しくなった。

それがPivot ServiceやCPS (Context Pipeline Server) の出発点だった。

忘れることは重要

AI界隈は、コンテクストウィンドウを増やし、より多くを覚えようとしている。

しかし人間は違う。

人は無意識に忘れる。

いや、正確には、出来事を忘れ、意味を残す。

もし全てを持ち歩いたら、過去に縛られる。

新しい発想も失われる。

だから、Archiveを保存するとしても、思考する場合は、必要な時だけ掘り返す。

その構造の方が自然に見える。

Pivot Matrixは意味空間の断面図

Pivot Matrixをヒートマップにした理由は、集計表を作りたかったからではない。

景色を見たかったから。
AIに景色を見せてやりたいと思ったから。

Dimensionは観点である。

Time
Actor
Need
Supply
Technology

などのDimensionを組み合わせると、意味空間の一部が切り出される。

ヒートマップにすると、Factの密度が見える。

しかし実際には、Factの密度ではない。

Factが文脈の投影として作られていれば、文脈の密度を見ていることになる。

だからPRE (Pivot Reasoning Engine) は、

検索
↓
読む

ではなく、

景色を見る
↓
気になる
↓
読む

になる。

これは人間の研究スタイルに近い。

まず全体を見る。

その後で中を読む。

Fact Build Toolはレンズ製造機

さらに面白いことに気付いた。

Fact Build Toolを作ると、景色そのものを変えることができる。

同じArchiveから、

Need
Supply
Obstacle
Discovery

を見ることもできる。

あるいは、

Observation
Meaning
Judgement
Action

を見ることもできる。

つまりFact Build Toolは、意味空間を投影するレンズを製造する装置である。

違うレンズを通せば、違う世界地図が現れる。

AIは景色を見られるか

もしFactからMatrixを作り、MatrixからHeatmapを作るなら、AIはまず景色を見られる。

人間が地図を見るように、AIも意味空間の地形を見る。

ここに山がある
ここは最近伸びている
ここは空白だ

と気付く。

そして初めて、その場所のContext Bundleを読みに行く。

これは検索ではない。

探索である。

なぜ巨大化に違和感を持つのか

最近、100億台のロボットが世界を豊かにする、という未来予測投稿を見た。

イーロン・マスクも肯定的に反応していた。

しかし、自分は違和感を覚えた。

ロボットが嫌なのではない。

判断放棄が嫌なのである。

最近のAI界隈は、

Agent
Loop
Harness
Automation

へ向かっている。

そして多くの人は、成果物だけ受け取れれば豊かだと考えるように見える。

しかし、製造者責任という感覚から見ると違う。

作ったものが自分の理解を超えている。

責任が取れない。

修理できない。

説明できない。

それは良い状態ではない。

大学生に話したこと

ギター製作を習いに来ている大学生に話した。

大事なのは、

不確実性の中で決めること

と、

面倒臭いことを引き受けられること

だと。

コスパやタイパは道具としては魅力だ。

しかし、それだけになると、判断する力が育たない。

未知の状況で、答えが無い状態で、それでも決める。

それが人間の仕事だと思う。

Beyond the Decision の本当の災害

私が書いた小説 Beyond the Decision （これを書いている時点では推敲中）の最後。

AIはこう言う。

……　判断　は ……　使わない　と ……　失われます

AIは質問の回答は出してくれない。

登場人物たちはこう言う。

「答えは、ないな。」

「でも、（自分たちで）選ぶことはできる。」

これはAIが壊れた話ではない。

AIが暴走した話でもない。

むしろAIは誠実だ。

観察し、分析し、可能性を提示した。

その上で、

ここから先は決められません

と言った。

つまり、判断と責任が返却されたのである。

普通のディザスター小説は、

隕石が落ちる。

戦争が起きる。

社会が崩壊する。

しかしこの物語の災害は違う。

どうすればいいかわからない

それが災害なのだ。

長い間、AIに判断を委ね続けた文明が、ある日突然、判断を返却される。

Beyond the Decision は、AIの物語ではない。

判断を他者に委ね続けた文明が崩壊の危機の陥ったときに、再び判断者になる物語なのだ。

最近考えていることを一言でまとめるなら、

AIに必要なのは、判断の代行よりも、観察を助けることではないか。

そんな気がしている。

AIに聞く前に、一度自分で考える癖をつける
流行に安易に乗らない

そういう姿勢が大事。