判断を外の構造で支えるということ

先日、ZIKUU Pressからの小説出版について紹介しましたが、さらに何冊かの小説の公開を検討しています。
それと同時に進行している、26巻の基礎教科書があり、そこから一般向け（中高生向け）に編集し直したものも、いずれKindleで出版する準備を進めています。

今日、一般向け基礎教科書16巻の原稿が揃いました。
校正が終わり次第、公開に進みます。

基礎教科書には第0巻がある

その中に第0巻を置いている。

そこでは、人間が考え判断する上でもっとも大切なことと位置づけている、学習と適応について書いている。

AIがユーザーの入力に適応して、あたかも学習をしたかのような振る舞いをするという論文を見て、これは入れておかないといけないと考えたのが、この第0巻。

学習と適応

学習

内部の重み付けのパラメーターが変わって内部構造が変化し、その後はその結果が継続する

適応

内部構造が変化せずに、応答だけが変わる

人間も、特に新しいことを学んだわけではないのに、場所や状況が変わると判断が変わることがある。
これがAIの適応に似ている。
でも、似ているだけで、実は違う。

人間の学習と適応

人間の場合は、入力が変わると、それを処理する関数まで変わってしまう。
つまり学習なしで適応するということがない。
そして、学習したという自覚もない。

一般に、学習には長い時間が必要だが、適応は瞬間的に行われます。これは生存のための仕組みで、危険なものを避ける、といった判断を速く行え（適応）、それを継続できる（学習）仕組みなのだ。

この、人間の仕様は、よくよく考えるととても危ない。

入力するだけで、学習してしまい、それを自覚しないということは、判断基準や価値観を外部から変更可能ということになります。自分で考えて決めたと思っていても、外部から注入された価値観や思想だったということがあるわけだ。

だから、これはしっかり書いておかないといけないと思い、第1巻の前に置いた。

ZIKUUの基本的な構造

AI論文を読む前から、この人間の仕様が気になっていたので、ZIKUUの設計に落としてきた。

「私の考え」は私の考えじゃないという場合がある。むしろ多い。
外部から価値観や思想を注入して判断が歪むのが人間の仕様。

だから、人の判断を外部の構造で支える設計が良い。
これがZIKUUの基本設計になっている。

冒頭の図はその全体像で、

• 基礎教科書や小説
  物の見方を考えさせる
• AI塾長やKAGURAなどのAI関連システム
  判断を代替するのでも正解を教えるのでもなく、判断のための情報を提供する
• モノづくり
  物理法則に背けない

考えてるつもり・知ってるつもり、では走れない設計になっている。

変化に強い人、流れにのまれない人、自立できる人。
そういう人が育つには、良い環境になったと自負している。