知識の外部化

プラトンの『パイドロス』の中で、ソクラテスが文字について語る場面がある。文字を発明したテウトが「これは記憶と知恵を増す薬だ」と言うのに対して、王タモスはむしろ逆だと言う。

要するに、

文字によって「覚えている」のではなく、「外から思い出させてもらう」ようになる。
そして、知識を持っているように見えるが、本当には理解していない人間が増える。

という批判だ。

これは単純な「文字は悪い」ではない。問題にしているのは、知識の外部化と、知っていることの取り違えなんだと思う。

これを現代に持ってくると、

「検索できる」≠「知っている」
「AIに聞けば答えられる」≠「自分が理解している」

になる。

文字は黙って置いてあるだけだけど、AIは質問すると、それらしい答えまで組み立てて返してくる点で強烈だ。

だからソクラテス的に見ると、AIの危険は「人間が考えなくなる」よりも、

「自分が考えたのか、外部の知性によって考えた気になったのか、境界が分からなくなる」

ことなのかもしれない。


知識の外部化からは逃れられない

文字が登場した時点でもう戻れなかったし、印刷、検索エンジン、そしてAIも同じだと思う。人間は認知能力を外部に拡張することで、今まで考えられなかったことを考えられるようになった。代償として、自分の中にあるものと外にあるものの境界が曖昧になった。

だから難しいのは、外部化を拒否することではなく、外部化しながら自己を失わないことなんだろう。

そしてもっと嫌な話をすると、「自己を失わない」とは何なのかも怪しい。私たちが「自分の考え」だと思っているものだって、言葉、本、他人との会話、教育、経験からできている。

人間は自分の誕生日ですら、自分の力で認識したのではない。

誕生日だけではなく、自分の名前も出生地も、幼少期の出来事のかなりの部分も、最初は他人から渡された情報。それを取り込んで「私の履歴」にしている。

「それ、本当に君が考えたの?」

と言われると、かなり困る。

そう考えると、ソクラテスの問題提起をさらに進めると面白い。

外部記憶によって自己を失うというより、そもそも自己は外部とのやり取りによって作られ続けているのかもしれない。

すると文字もAIも、「自己の外にある異物」と簡単には言えなくなる。

あなたが思っている自己は、外部との関係性の中で形成されるものであって、本当の意味で自己は存在しないのかもしれない。

そういう前提で、自己実現、自己改善、自意識などを考えてみると面白い。

そして、「ああ、自分は自意識が過剰なんだな」と気づいたらいいと思う。


無知とは知らないことではない

「知識がないこと」そのものは無知じゃない。

知らないことと、知らないことを知らないことは違う。

ソクラテスが厄介なのは、「私は知らない」で終わらず、相手が「知っている」と思っているものを問い続けて、その足場まで崩してしまうところ。

そうすると、先程の文字やAIの話ともつながる。

AIによって危険なのは、知らないことをAIに聞くことじゃない。むしろ、

AIが答えた → 分かった → 自分は知っている

という短絡なのかもしれない。

知識がないのは不知と言うらしい。

不知は、単純に「知らない」。
無知は、「知らないのに、知っていると思っている」。

そうするとソクラテスの「無知の知」も、よくある「私は何も知りません」という謙遜とはかなり違って見える。

自分の不知を認識している。だから無知ではない。

逆に、知識量がものすごく多くても、自分がどこまで知っているかを見誤れば無知になり得る。

これ、AI時代にはかなり鋭い区別だ。
AIによって「不知」は簡単に埋められる。でも、その結果として「無知」が増える可能性はある。


無知の三層構造

無知は三層構造になっている。

知識の外部化
 例)電話番号を覚えない
判断の外部化
 例)何を見るかをオススメ機能に決めてもらう
吟味の放棄
 例)答えが出た時点で思考を止める

重要なのは、下へ行くほど問題が深くなるところだ。

知識の外部化は、むしろ文明の基本でもある。電話番号を覚えなくなったぶん、別のことに認知資源を使える。文字も図書館もコンピュータもここに入る。

判断の外部化になると少し性質が変わる。「何を知るか」まで外部が決め始める。おすすめ、ランキング、検索順位などがそれ。本人は選択しているつもりでも、選択肢の生成を他者に委ねている。

そして一番怖いのが吟味の放棄だと思う。

これは外部化ですらない。

「答えを得ること」と「知ること」を同一視してしまう。

ここで、前述の「不知」と「無知」の区別につながる。知らないからAIに聞くのは不知への対処にすぎない。でも、返ってきた答えを吟味せず「分かった」とした瞬間、不知から無知へ移る。

だからAIは不知をものすごい速度で減らしながら、同時に無知を増幅する装置にもなり得る。

この三層なら、ソクラテスが本当に嫌がりそうなのは三番目だろう。

文字そのものよりも、文字を読んで知ったつもりになり、そこで問いを止めること。

ZIKUUがCPSやPREの開発の中で、答えを出さない、考える余白を残す、ことを重視しているのは、知識の外部化と人との関係性を強く意識しているからだ。


作るに還元する

ZIKUUの「作る」は、知識を増やすためだけじゃなくて、知っているつもりを壊すための操作だ。

頭では「分かった」と思っていても、実際に木を削る、機械を組む、プログラムを動かすと、

「ここ、分かってなかった」

が大量に出てくる。

つまり「作る」は、知識を現実に投げ返して、現実から反論してもらう行為とも言える。

だから、さっきの三層構造に対してZIKUUは面白い位置にいる。

知識の外部化は否定しない。AIだって使う。判断の外部化も場合によっては使う。でも最後の吟味を現実との相互作用に戻す。

作ってみる。動かしてみる。壊れる。違ったと分かる。

そこで「知ってるつもり」が剥がれる。

これならZIKUUでずっと言ってきた「それって試した? やってみた?」が、単なる実践主義じゃなくて、かなりソクラテス的な意味を持ってくると思えてくる。


2000年以上続いている議論

道具は、文字 → 印刷 → 検索 → 推薦アルゴリズム → AIと、とんでもなく変わった。でも中心にある問題は、

「知るとは何か」
「自分で考えるとは何か」
「知っているつもりになっていないか」

のまま。

むしろ技術が強力になるほど、ソクラテスの問いが古くなるどころか、鋭くなっている感じがする。

2000年以上かけて人類は巨大な知識体系を作ったのに、

「それ、本当に分かってるの?」

で止められる。

「知識と知性は違う」「自分で吟味せよ」「実践によって確かめよ」「問いを持ち続けよ」。この辺はソクラテスに限らず、たぶん何度も別の言葉で現れてきた。

ZIKUUは、そこから先をやっていこうと思って始めた。

思想を説明するのではなく、その思想から逃げにくい環境を作った。

物理空間では、材料、道具、機械、失敗、身体がある。「分かった」と言っても、作れなければ現実から突き返される。

論理空間では、CPSやPREみたいな仕組みが、記憶を外部化しながらも答えに収束させるだけではなく、文脈を残したり、別の見方を出したり、問いを再び開いたりする。

そして両者が別々じゃない。

考える → 作る → 現実に反論される → 記録される → 再び考える

という循環そのものが環境になっている。

だからZIKUUは「こう考えなさい」という学校ではなく、考えざるを得なくなる環境を物理と論理の両側から作る試みと見ると、かなり輪郭がはっきりする。

ソクラテスなら広場で人を捕まえて問答した。

ZIKUUでは工房とコンピュータがそれをやる。

私は、この2000年以上議論されてきた問題に対して、一つの小さな一歩を示せるのではないかと思っている。

過去にも、このテーマに関連するエッセイを書いているので、よろしければご一読ください。

深い知性

「知識の外部化」への1件のフィードバック

コメントする