嫁さんを説得できないAIエージェントなんかいらない！

R7から始まる話

私はバイクが好きだ。
バイクに乗ると、バイクの動きと路面に集中して、それ以外のことを考えない。
普段、モノづくり関連の指導、CPSやRepository Explorerのような複雑なソフトウェアの開発、開発したソフトウェアを安全に本番環境に移行する・・・・など、数え切れないほどの課題を常に頭の中に置いて暮らしている。
身体はともかく頭は凄く疲れる。

だから、

• 速いバイクで峠道を走って自宅と塾の往復する間に頭をリフレッシュしたい。
• YZF-R7のような軽量で速いバイクが欲しい。
• ただ、現実はそう簡単な話ではなくて、家庭内稟議が通らないといけない。
• 嫁さんをAIエージェントが説得してくれたら嬉しい

と、考えるわけだ。

そういう風に考えている人はいるはず。

AIエージェントは何を最適化するのか

AIおよびAI業界の人たちが語る幸福は、

• 効率
• 時間短縮
• コスト削減

つまり利益のこと。

レシートの写真を入れれば勝手に経費精算。
旅行の行き先をいえば、勝手に新幹線やホテルの予約。

浮いた時間で、もっと営業。

そういう話ばかり。

そこで私は問う。

だから何？

私が求める幸福

私にとっては、

• バイクで気持ちよくコーナーを曲がって脱出速度が少し上がる
• 完成したギターが弾きやすい
• 指導した学生が、自力で成長していく

こちらの方が嬉しい。

評価指標がおかしい

自動運転も同じ。

• 事故率が下がる。
• 楽だ。
• 安全になる。

これは良さそうに見える。

でも、安全が最高価値だとすると、

何もしなければいい
動かないのが一番安全

にならないか？

人間が、自ら選び考え判断し行動することをやめて、安全のみを追求することが幸福なのか。

AI対応バンドソー

だいぶ前に、嫁さんが折ったバンドソーの刃を交換した。

跳ねる刃を両手で抑えながら、狭い通路を狙って刃を入れ、絶妙なタイミングで手を離して、ホイールに刃を引っ掛ける。

これ、現代のAIとロボットにはできない。
このバンドソー専用ロボット、が必要なレベル。

ロボットにバンドソーの刃を交換させようと思うと、AI対応バンドソーを買いましょう、みたいな話になってもおかしくない。

ふざけるなと思う。

AIが人間に合わせて動くべきだろう。

Repository Explorerの開発で分かったこと

まだ開発半ばのRepository Explorerのソースコードは約12000行。
最終的には、この倍くらいにはなるだろう。

その中でLLMを扱っている部分のコードはせいぜい1〜2%くらいだ。
決定論的に解ける問題にAIを使わない。
だから、せいぜい1〜2%になる。

Repository Explorerでは、

• 根拠を探し
• 調査を組み立て
• 間違えれば修正し
• 人間が問いを続けられるようにする

という設計が必要だった。

これは、最近のAI界隈ではHarnessと呼んでいるものだ。

これはプログラミングの経験がないと難しい。
自然言語で語りかければ、いいようにAIが処理をしてくれるなんていうのは幻想だ。
人間が設計して実装した98%の方が知性。
ソフトウェアエンジニアリングの歴史は浅薄なものではない。

AIが勝手に賢く振る舞うのではない。

人間がAIが賢く振る舞えるように、膨大な設計とプログラミングをしている。

システムの道

武や茶に道があるように、システムにも道があると考える。

この道とは、極めて行くと、姿勢が整うような何かだ。

私の考えるシステムの道は、

AIに判断させることではない。

人間が判断できるよう支えること。

だから、

• CPS
• Pivot
• Repository Explorer
• PRE
• AI塾長

すべてが、

判断を人間へ返す

方向へ設計されている。

AIエージェントへの熱狂

AIエージェントの熱狂はすさまじいが、それはとても軽い。

AIは人間の知性に触れる技術なのに、

• 幸福とは何か
• 自由とは何か
• 責任とは何か
• 何を最適化すべきなのか

そういう重い問いが語られることがあまりにも少ない。

そういうものがないと、

だから何？

と言いたくなる。

私はAIに仕事を任せたいのではない。

深い洞察をシステムの中に染み込ませたい。

そして最初の話に戻る。

嫁さんを説得できないAIエージェントなんかいらない。

本当に必要なのは、人間の代わりに生きるAIではない。

人間が、自分で考え、判断し、責任を引き受けられるよう支えるシステムである。

AI社会は、人が深くじっくり考える機会だ。

みなさんも

だから何？

と問うてみて欲しい。