『AIという名の鏡』の表紙を左に90度倒すと、松山しげきの描いた『Narcissus Stares into the Water #01』が目に飛び込んでくる。水面に映る自分の姿の美しさに魅入り、最後には命を落とすのがナルキッソスだけれど、本書の核心は、タイトルが示す通り「AIは鏡である」という比喩にある。
AIは人間と同じように理解し、判断し、未来を構想する存在ではない。そうではなくて人間が残してきた言語・行動・制度・偏見・価値観の痕跡の一部を再構成し、私たちに映し返す技術にすぎない、というのがヴァローの指摘で、でもそれでいながらAIによって人間が自分自身を忘れてしまうことが十分にあるというのが彼女による私たちへの警句だ。
警句はヴァローが参照する「テクノモラル」という概念を使うと想像しやすくなる。「テクノモラル（の変化）」とは、テクノロジーが人間の価値観によって方向づけられること（たとえばAIアラインメントというやつ）であり、そのテクノロジーが人間の価値観を再形成していく過程を指す。つまり重要なのは「何が本当に善か/正しいか」ではなく、「人間が何を善と考え、何を正しいと考えるか」とそれがどう変わるかであり、それがテクノロジーに反映されるとまた人間へと跳ね返ってくるという点だ。彼女は徳倫理学者だから善と正しさを取り上げるが、私はAIコンパニオンとしての利用も想定して楽しさや快も加えたい。
この意味では、AIは単なる道具ではなく、人間の判断基準・責任感・自己理解を変容させる人工的な環境でもある。AIは人間のように理解しているわけではない。しかしそれは人間社会を映し返し、人間の価値観や自律性までをも変えていく力をもつ。私も同意するところだ。当たり前のことだけど、AIをどう使うかは、最終的に、人間がどのような未来を望むかという問いに接続している。だから個人でもどうなりたいのかをある程度想像してから使ったほうが良い。
本書は専門用語をそこまで用いずに幅広い視点と多くの具体例を用いて人間と計算機（AI）の関係を描写しているし、技術の記述やAI企業のビジネスも適量で読みやすい。またAIへの依存を「自律性」の問題として扱う視点は生成AIを日常的に使い始めた学生に切実に響くようにも感じた。私はAIを扱った本は多数読んでいるが、このテーマをヒューマニティの視点で捉えるには良書である。
とはいえいささか規範的な議論であるとの点は付記しておきたい。AI利用にあたって「私たちの主体性や自律性が失われないように注意しよう」という言葉の力がどれだけ有効なのだろうか（たぶんそれほど有効ではないでしょ）というのが、すでにスマホ+ソーシャルメディアでかなりの程度自律性の喪失は進んだと考えている私が思うことでもあるからだ。
今年も「コンピュータと人間」という大学の授業で、ちょうどアークテクチャ、アフォーダンス、ドーパミン、アテンション・エコノミー、フィルターバブル、デジタル・ウェルビーイング、コンヴィヴィアリティ、思考の自転車、動画のモダリティ特性などの言葉とともに聴講者たちがなぜ毎日7時間スマホを使い、その半分ほどの時間をTikTok and/or YouTubeに費やすのかを解説しおえたところだ（ついに最も長い時間使っているアプリでTikTokが1位になった）。
アテンション・エコノミーとフィルターバブルくらいは中学時代に知っていて欲しいのだけど、2割以上の出席者が知っている言葉はゼロで、「やっと自分がスマホ+ソーシャルメディアにこれだけの時間を吸い取られているのかがわかりました。習慣というのは考えないで済むということなのですね」という感想が並ぶ。そしてそれらの感想が彼らの行動を変えるには至らないことも私は知っている。だから著者のヴァローには専門ではないにしても社会実装に向けてのアイディアがもうちょっと具体的に書かれていても良かったという注文をつけておく。
私の授業にまつわるこの風景はもう5年以上続く見慣れたもので、すでに二十歳を迎えた学生のスマホ歴だけが徐々に伸びている（今年は小学校高学年以前から利用を開始して10年以上という学生も2割に）。
むろんAIの場合はソーシャルメディアを見てるだけというのとは異なり、まずはこちらから働きかけるのが基本だし、そのダウンサイドリスクは10年前のソーシャルメディアよりも重く見られているようだから、なんらかの規制などは早めに講じられるようにも思う。けれども技術革新の速度も速く社会的な導入機運も高いので、広告モデルが主流になる前にかなり迅速なルール作りが進まないとAIも私たちの自律性なんてものは（少なくともある程度は）難なく奪っていく可能性は高いというのが、少なくもと今の時点での、私の考えである。
