はじめに
何度も、見てきた。
新しい政策が発表される。
説明は丁寧で、言葉は柔らかい。
数字が並び、グラフが示され、未来への希望が語られる。
そこに露骨な悪意はない。
むしろ善意が強調される。
効率の向上、安全の確保、公平な分配。
どれも否定しがたい目標だ。
だが質疑応答が始まると、空気が少し変わる。
質問が投げかけられる。
それは制度の副作用についてだ。
誤判定の可能性についてだ。
取り返しのつかなさについてだ。
答えは明晰で、落ち着いているが、わずかにずれる。
話題は実績に移り、比較対象が変わり、論点は抽象化される。
具体的な不安は、より大きな目的の中に消えていく。
その瞬間、身体が反応する。
「あ、またか。」
怒りではない。
落胆に近い。
そして、少しの畏れ。
設計という安心
政策の言葉は、いつも整っている。
目的は明確で、手段は整理され、成果指標は数値で示される。
設計は安心を与えるが、社会は複雑だ。
利害は絡み合い、未来は不確実だ。
人は設計を求める。
設計を示せと言う。
制度を設計し、仕組みを設計し、行動を設計する。
だが設計には前提がある。
世界は理解可能であり、変数は把握でき、人は一定の法則に従う、という前提だ。
しかし実際には、世界は十分には理解されていない。
変数は把握しきれていない。
人は、法則よりも感情や関係の中で動く。
それでも設計は進む。
理解できていない世界を、把握できていない変数でモデル化し、人を一定の法則に従わせようとする。
ここに、微かな暴力が生まれる。
設計は安心を与える。
しかし安心は、ときに麻酔になる。
理解できていない世界でAIを使う
私たちは、世界を十分に理解していない。
社会は多層で、因果は後から気づき、変数は常に増え続ける。
それでも、設計は進む。
そこに、AIが加わる。
「AIを使って云々」。
そんな言葉が並ぶ。
AIは理解を補助する道具として導入される。
データを集め、傾向を抽出し、予測を提示する。
問題は、理解できたつもりになることだ。
モデルは現実の写像ではない。
データは現実の断片にすぎない。
予測は可能性の一つにすぎない。
だが数値は強い。
確率が示されると、人は安心する。
「参考にする」は、やがて「従う」に変わる。
理解の補助が、統制の根拠へと変わる。
理解できていない世界の上に、理解できたつもりの設計が積み上がる。
予測可能という言葉は、科学的に聞こえる。
しかし科学の態度は本来、予測が外れうることを前提にする。
不確実性を抱えたまま進むことが、科学の姿勢だ。
予測可能だと確信する態度は、むしろその反対側にある。
そこに畏れはない。
責任を負えない力
縦割りと前例主義に支えられた官僚機構は、決して理想的ではない。
なるべく速く制度改革をすべきだと思っている。
だが、動きが遅く、判断が分散され、急激な変化を嫌うことで、抑制が働く場合もある。
しかし政治家は違う。
方向を決め、結果を求められるから速度を上げ、制度の枠を動かす。
そこで「理解できたつもり」の知性が力を持つとき、影響は一気に広がる。
AIがその拡張装置となるから。
政策は高速化され、判断は自動化され、監視は網羅的になる。
被害は局所にとどまらない。
アルゴリズムが判断した。
専門家が推奨した。
国際的にも導入されている。
力は集中し、責任は薄く広がる。
この非対称が、私には危うく見える。
挫折を知らない知性
知性そのものが問題なのではない。
だが、挫折を経ていない知性は、どこか軽く浅い。
挫折とは、努力しても届かない経験であり、自分の前提が崩れる経験であり、理解が不完全であると身体で知ることだ。
挫折は、人を慎重にし、断言を控えさせる。
力を持つことにためらいを生む。
しかし、勝ち続けてきた知性は違う。
正解を出し続け、評価され続け、枠内で最適化し続ける。
やがて世界も同じように扱うようになる。
社会は設計できる。
人は管理できる。
そこにAIが加わると、確信はさらに強化される。
だが社会には例外がたくさんある。
人はモデルの内側に収まらない。
フランケンシュタインが武器を持つとき
フランケンシュタインは怪物の物語ではない。
知性と責任が切り離されたときの物語だ。
いま私たちは怪物を作っているのではない。
畏れを欠いた知性に、武器を持たせようとしている。
武器とは、AIであり、制度であり、公権力であり、国境を越える影響力である。
誰も自分を怪物だとは思っていない。
むしろ善意に満ちている。
だからこそ、私は思う。
何度も、見てきた。
有名大卒の人たちによる、整った設計、明晰な論理そして、わずかな論点の移動。
その瞬間、身体が反応する。
「あ、またか。」
私が恐れているのは、、怪物ではない。
理解できていないことを、理解できたつもりで扱う態度だ。
情緒の薄いフランケンシュタインが武器を持ち、自信満々にそれを振り回す姿。
醜く憐れな姿だ。
知性を磨くことが必要
点数や偏差値のような、評価しやすい指標の土俵で勝ち抜いてきた人たち。
努力もしただろうし、頭の回転も速いのだろう。
でも、身体を通さない知性は狭く浅い。
私はそういう人を何度も見てきた。
第一線で働く機会が多かったから、有名大学卒の秀才くんや天才くんと働く機会が多かった。
省庁とのパイプがあり、学閥があり、卒業生のネットワークがある。
そういう人たちが、責任感が薄いまま、思考が浅いまま、公金を引っ張ってきて事業をはじめ、駄目ならまた次の事業。
散々、公金を使って大学で勉強させてもらったのに、特権意識があるのかどうかわからないが、更に公金を使って、遊びのように事業をする。
そして、周りの人たちは、その軽い責任に振り回される。
そういう人が、政治家になる。
フランケンシュタイン政治家？
身体を通して身につけた知性なのか。
情緒が豊かか。
これは人を見るときの判断基準になると思う。
