AIに何かを書かせると、返ってくる文章はたいてい整っている。
ただ、間違ってはいないのに、大事なところが抜けている——そんな違和感が残ることがある。
私たちがAIをどこまで使い、どこから先は使わないかを決めているのは、この違和感が理由です。
AIが読んでいるのは、言葉になった部分だけ
AIは大量の文章を学習している、と言われる。
その通りなのだが、正確に言えば、学習しているのは誰かが言語化できた部分だけだ。
人の経験は、外に出るまでに二度落ちている。
まず、経験のうち言葉にできた部分だけが残る。
次に、そのうち人に伝える価値があると本人が判断したものだけが公開される。
AIが読んでいるのは、二度落ちた後の残りの側になる。
旅行を考えると分かりやすいと思う。
特に、あてのない海外の旅行。
行き先も乗り物も食事も、その場で判断を求められる。
通じない言葉で聞いて、乗る電車を間違えて、その場で調べ直す。
目的地の方を変えてしまうこともある。
帰ってきて人に話すのは、そのうちのごく一部でしかない。
外れたものを立て直していた時間の大半は、言葉にならないまま残る。
それでも、人の幅を広げているのは、たいていそちら側だ。
AIが読んでいるのは、その旅行記の方だけになる。
欠けているのに、欠けて見えない
AIには限界がある、という話は誰でもする。
厄介なのは、その限界が出力の見た目に出ないことだと思う。
旅行について語らせれば、AIは語れてしまう。
大量の旅行記を読んでいるからだ。
文章は流暢で、構成も整っていて、読んでいる側に欠落は見えない。
表層しか持っていない相手が、表層だけで滑らかに話せてしまう。
人が判断を誤るのは、相手が知らないと分かるときではなく、知っているように見えるときだ。
これは、重さのあるものを渡したときに一番はっきり出る。
仕事の材料であれば、返ってきた答えは後から数字と突き合わせて戻れる。
人が経験してきたことを渡した場合、突き合わせる外部の材料がない。
だから、表層だけで組み立てられた答えが、そのまま「理解されたもの」として着地してしまう。
だから、判断の手前までを渡している
こう書くと、AIを避けている会社に見えるかもしれない。
実際は逆で、私たちは手前の工程をかなりAIに寄せている。
材料を集める。抜けを洗い出す。取りうる選択肢を並べる。
大量のデータを整理して、比較できる形にする。
この辺りは人がやるより速いし、量が出る。
人間が材料集めに時間を使っていると、肝心の選ぶところで体力が残らない。
判断の質を上げるために手前を渡している、という順序になる。
選ぶところは、人間が持つ
戦略とプランニング。具体的な企画。クリエイティブを作ること。
そして、出てきたものから選ぶこと。
ここはAIに任せていない。
理由は、能力の話ではなく由来の話だからだと思う。
「AIには企画ができない」という書き方はしたくない。
それは数年で覆るかもしれない。
覆らないのは、経験していない主体の出力は表層である、という方だ。
何を選ぶかは、過去に何を外して、そこからどう立て直してきたかで決まる。
その積み重ねを持たない相手に、この工程は置けない。
どこまでを渡して、どこから先を持つか。
この線は業種でも会社でも変わるので、外から一般論では引けません。
私たちがクライアントの現場に入っているのは、そこが実際に業務を見ないと決められないからです。