タフな思考2026年4月11日 | |
もう考えなくてもよいのかAI時代では、人はもう考える必要はないのか。 たとえば、スープメーカー（スープを作る機械）があれば自分でスープを作る必要はないが、レシピは考える必要がある。むしろ、スープを作る工程が短縮されることで、さまざまなスープのアイデアを試すことができる。スープメーカーにはレシピや材料が必要だが、それは「アイデアが必要」といってもよい。アイデアをスープにするのがスープメーカーである。 言語生成AI（ここでは大規模言語モデル、LLMのこと）は「アイデアメーカー」のようなものである。ただし、スープメーカー同様、アイデアメーカーにもアイデアは必要である。入れるものと出てくるものが同じタイプのもののように見えるところが、このAIの特殊なところである。簡単な自然言語による入力から、拡大された自然言語による出力が得られ、一人の人間が持つよりも広い知識や知見を披露するように見えるのだから、もう人間は考えなくてもよいのではないか、と思うのも無理はない。 昔から、コンピュータに関して「ゴミを入れたらゴミが出る」（Garbage in, garbage out）と言われている。ただ、自分のアイデアがゴミかどうかを判別するのはそう簡単ではない。現在の発達したAIの出力がゴミかどうかを判別するのも簡単ではない。実際のところ、専門的ナレッジチャットボットとかでもないかぎり、ゴミを入れてゴミを得る例が多いのではないか。そうでないと汎用性がないことになる。だから、考えなくてよいどころか、むしろ入れるものについてよく考える必要がある。 それにも関わらず、困った事態がある。AIが考える気力を奪うのである。スープメーカーがスープを調理する気力を奪ったところで、新しいスープのアイデアを考える意欲を奪いはしない。それどころか促進させるだろう。一方、AIは、それを駆動する当のもの（入力）の質を上げるための気力を奪うのである。スープメーカーのせいで知らず不味いスープばかり食べることになったら本末転倒だが、AIでは実際にそういうことになりうる。だから、AIが高度に高速に「考える」ことができるからこそ、それを活用するために人にはよりいっそうAIに負けない「タフな思考」が求められるのである。 認知的負荷人間の思考には速い思考と遅い思考があると言われている。直感的な浅い思考と、論理的な深い思考である。速い思考は、頭に負荷がかからず、時間もかからないが、間違った推論をしやすい。いわゆる認知的バイアスにハマりやすい。自分が知りもしないことを知っていると思い込み、早計に結論を出してしまう。綿密にツッコミを入れるとボロが出る。これは集団的知性とも関係している。誰かが知っている（ように思える）という事態を、自分が知っている（説明できる）という事態と混同するのである。ソクラテスの問答術が人々を突いたのはその点であった。 そもそもなぜそうなるのか。人はあまり考えたくないのである。脳がエネルギーを食うからである。特に注意というのは脳のリソースを食う。この事態を認知的負荷（cognitive load）が高いという。人は認知的負荷を避けたい。誰かに任せたい。だが安心もしたい。だから非意識的に知ったかぶりをするのだろう。 認知的オフロード最近、認知的オフロード（cognitive offloading）というものが問題になっている。言語生成AIが思考をある程度受け持ってくれるように見えるので、ユーザーが認知的負荷をAIに預けてしまうのである。考えることをサボってしまう。 最近のアプリはCPUだけでなくGPU（グラフィックの処理を行うもの）も計算に使うことがある。ただ、CPUとGPUでは仕組みが異なるので、メインの処理を行うCPUからすると、処理の一部をGPUに外注する格好になる。これをオフロード（offloading）という。業務を外注するのと同じで、オフロードの実行開始・終了の負荷があるため常にそれがよいとは限らないが、その負荷が相対的に小さいなら、オフロードによってある種の処理をCPUよりも高速に行わせることができる。 CPUにとってオフロードは処理の分担にすぎないが、人間の場合は事情が異なる。認知的オフロードは、認知的負荷をオフロードしてしまう。考えるのをやめてしまう。エネルギーは食わない。楽はできる。だが、人間は思考によって処理を行うだけでなく、その過程で意識的な学習の材料集めや学習そのもの、それに非意識的な神経系に対するコーディングまで行っているものと考えられる。AIとの処理の分担であっても、ただの分担では済まないものがある（これは他人任せの場合と同じ問題だが）。これでは考えるための「筋力」が衰えてしまう。これを認知的萎縮（cognitive atrophy）と呼ぶ人もいる。 今に始まった話だろうか。おそらく人類は20万年前から、集団全体でお互いに認知的オフロードをしあってきたものと思われる（ペンギンやアリの行軍を思い起こすと、人類以前からかもしれない）。古代ギリシアにおいては、知的活動としてはまだ対話が主なものであった。ソクラテスは著作を残していないし、プラトンの著作は専ら対話編である。ヘレニズム時代のアレクサンドリアに大図書館が生まれるころには、学者にとって知識とは書物に書かれたもので、それ以上のものではなかった。その結果、多くの首を傾げたくなるような「知識」が事実として長く信じられた。フランシス・ベーコンが「知は力なり」と言ったとき、それは本で得られる知識ではなく、実験で得られる知見のことであった。頭だけで考えられたデカルトの衝突理論は滑稽だった。ガリレオやホイヘンスの物理学は、実験と思考の洗練された統合だった。ショーペンハウエルは「読書は自分で考えることの代替である」と主張した。結局、この問題は二千年以上続いているのである。 デジタルの課題インターネットが流行り始めた90年代末から00年代初頭、「すぐネット検索に頼るやつはバカになる」などと言われていたが、自分の頭を使わないどころかいまだに検索すらもしてみない人々を見るに、その主張自体があまり自分の頭を使った推論のようには思われない。確かに、検索に頼れる状況になって記憶力は落ちていると思われるが、そもそも忘れるようなものはそう重要なものではないとも考えられるし（仕事でよく使う知識はさすがに自然と記憶される）、昔の職場を振り返ると、優れたベテラン技術者のほうがネット検索をうまく活用していたように思う。ネット検索と「思考力」低下に相関があるかどうかは疑わしい。 昨今問題になっているのは、ネット検索そのものというより、ネットの効用が広く認識されることによりネットが商業的・政治的・自己承認的な宣伝の場と化していることであろう。大量の情報が溢れているだけでなく、その裏に質の低い思考（速い思考）や怪しげな意図があり、批判的態度なくしては容易には対峙できない状況にある。しかもSNSがその濁流を激しくしており、感情的な発露や見栄やら嘘やら妄想やらと、仏教的には三毒の激流にしか見えない渦があちこちにあって、人が容易に触れてはいけないもののように見える。この状況においては、「ネット依存はバカになる」と言われても仕方がない（因果関係が逆ではないかとは思うが）。 そもそもこの状況は、非常に認知的負荷が高い。「速い思考」でしか見ていられないところがあり、そこに愚かさが愚かさを生み続ける余地がある。 ネット利用、特に子供の頃から動画サイトばかり見ていることが、「思考力」低下の原因であるなどとまことしやかに言われるが、テレビばかり見ていた連中に言われる筋合いはない。昨今問題になっている認知力の低下の問題は、単に外で遊んでばかりとか、本を読んでばかりとか、テレビを見てばかり、ゲームをしてばかり、動画を見てばかり、SNSを見てばかりなせいでバカになっているという話とは質が異なる。これらの話題は世代論のふりをして出てくるが、それはいつものことであって、世代は関係ない。 この場合、スマホが特に問題なのである。ポケベルやPHS、国産携帯電話の時代では、個人間の限られた関係性の中で、ある程度ゆっくりとした情報流通だった。パソコン通信やインターネットは主にパソコンのものだったし、通信自体も低速だった。スマホの登場により、個人がいつでもインターネットに「直結」するようになった。メッセージアプリであれ、SNSであれ、スマホ向けに送られたメッセージは、話しかけられたのと同様の反応が期待され、気づかないことは無視することに近い感覚である。時間も場所も限定されない。ユーザーは常に「来るかもしれない通知」に（非意識的に）注意を向けざるを得ないから、うっすらと認知リソースを消費させられる。「標的が現れたらやられる前に即座に撃つ」といったゲームをしている状況のように、知らずこの「メッセージ対応ゲーム」に最適化するように自分自身をコーディングしてしまっている。スマホがただあるだけで気になって問題が起こるし、なければないで気になって問題が起こる。 そしてくたびれる。くたびれるから「報酬」を望んでスマホに手を伸ばす。頭を使いたくないから、速い思考でネットを「ザッピング」する。望んだ「報酬」（満足）は得られず、常にその期待だけが得られる。もちろんテレビでも同じことが起こるが、ネットは情報が実質的に尽きない（ように見える）のがさらに問題である。依存したくてしているわけではない。悪循環に捕らわれているのである。バカになっているのではない。認知リソースの問題である。頭が忙しいのである。どんな高性能なCPUでも、タスクが大量にあると愚鈍になる。 これは若い世代だけの問題ではない。特に2020年のコロナ禍以降、遠隔業務が正当化され、メールやチャットベースのコミュニケーションが主体になっている。Web会議も普通になり、従来では距離や時間の制限で実施できなかった会議も気楽にできるようになってしまった。会議の録画・録音も文字起こしも要約も簡単にできるようになった。時間はない上にスピードも増している中、座っているだけで間断なく断片的な文字情報が大量に押し寄せてくるという状況で、さらにAIがそれこそ世界中から（文章の長さも言語の違いすらもモノともせず）たくさんの新しい情報を持ってきてくれる。こんな状況にあって、頭がおかしくならないほうがおかしいのである。 AIの課題言語生成AIは当初、ネット検索の代わりとして便利だった。ゴミ溜めから宝石の原石の欠片を探すような状況になっている昨今のネットの状況において、欲しいものを即座に得られるというのは本当に助かる。 ユーザー体験（UX）としてみた場合、ネット検索のそれはもはや最悪である。ある食物のカロリーを知りたいだけなのに、見つかる記事が「はたしてこれのカロリーはどのくらいなのか？ よい食べ合わせとは？ダイエット中に最適な食べ方とは？ では、一緒に見ていきましょう！（長い目次と長い前置き…）」という感じだったり、全然関係ないし興味もない宣伝を見せられたりする（そこにすら辿り着けないこともある）。AIだったら、「カロリー教えて」と聞けば、カロリーを教えてくれる。単純だ。AIはここではネット検索のフィルターとして働いている。ただ、学習した時点で学習したことしか知らない。最近のAIアシスタントはたいていネット検索もできるので、それこそ本当にネット検索フィルターである。サイト側からすると「サイトを直接見てもらえなくなる」などの不満はあろうが、そもそも何を見るか（見ないか）はユーザー側で決めたいことである。 最近はさらに、AIがネット情報を集めてレポートを書いてくれたりする。知りたいことの基礎知識を知るのにはよいし、仮説をざっくり検証してもらうのにも使える。そうやって調査したものからインフォグラフィックを生成したり、なんなら動画やプレゼン資料を作ってくれたりもする。 当初は誤り（ハルシネーション）も少なくなかったが、最近のモデルではそれも少なくなってきている。AIにも速い思考と遅い思考があり、速い思考（浅い思考）では誤りがあったり、与えられた文章の文脈の取り違えがあったりするが（これはこれで高度な間違いだが）、遅い思考（深い思考）のほうでは間違いも少ない。それでも誤りがないわけではないので、確認は必要であるが、そうも言ってられない事情がある。 AIを使うのはなぜかといえば、便利だからである。便利というのは、認知的負荷は軽くなるし、仕事の速度も上がるという点においてである。当然、ライバル（同僚や競合他社）だって使っているだろう。ならばこちらもAIを使わざるを得ない。速度を得るためにそうしなければならない。あまり厳密に確認などしていられない。それではせっかくの速度が削がれてしまうし、その間にライバルはもっと遠くに行ってしまうだろう。それに最近は間違いも少なくなってきて、AIが信用に値する「人物」になってきているから、そんなに疑いの目を向ける必要もない。とにかく、AIを使ってじゃんじゃん仕事を進めるべきだ。ぐずぐずと文句を言うやつは、変化に乗り遅れている愚鈍なやつだ。…とまあ、かように、AIが（それを取り巻く状況が）認知的オフロードをしきりに誘うのである。 実際は、焦って浅慮でゴミを入れて、ゴミを出力することを繰り返して、忙しく正解の周りを大きく走り回っているだけかもしれない。「ゆっくり急げ」（festina lente）という。ゴミを入れないように、人間にも（いや人間にこそ）深い思考が必要であろう。 こんなことを言うと、技術楽観主義者たちからバカにされるであろう。実際、いまやAIのほうが大抵の人間よりも「賢い」のだ。もはや勉強など不要だし、人間が下手に考えるよりもAIに任せておけばよいのだ。ただ、彼らはAIを信用しているからこそ「勉強は不要、人間は不要」と言っているはずなのだが、当のAIにそれを聞くと「そんなわけはない」という。これは矛盾ではないか。 ともかく、賢いAIとうまく付き合うには勉強はなおさら必要だし、AIによる認知的オフロードへのお誘いや、人間の集団浅慮を避けるために、タフな思考が必要なのである。 タフな思考では、タフな思考とはどういうものになるだろうか。ここでいう「タフな思考」に必要な性質としては、AI利用における認知的オフロードの誘惑に耐えられる性質、AIの論理的思考に張り合える性質、AIの外にある方向性を定め調整する性質などが考えられる。 逆に、「タフでない思考」とはどういうものか。それは、AIを含めた「他人」まかせの思考である。思考が他人まかせだと、不合理な判断をすることになる可能性がある。その原因としては、コンテキスト（文脈）の共有が不十分であること、他人の思考の合理性が不十分であることが考えられる。 思考の合理性が不十分である原因としては、思考が浅いこと、思考が構造化されていないことが考えられる。思考が浅い原因は、認知リソースが不足していること、そのこと自体に気がついていないことが考えられる。また、思考が構造化されていないのは、単純にその方法を知らないことと、これまたそれ自体に気がついてないことが考えられる。「それ自体に気がつく」というのは、自分がどのような状況にあるかに気がつくということで、考えることについて考えること、認知の認知という意味で「メタ認知」という。 一方、コンテキストの共有が不十分というのは、どういう背景があって、どういう経緯で、どういう目的や目標があって、どういう意図で、どういう抽象度で考えているのか、といった情報の共有が不十分という意味である。言語生成AIについて、当初はプロンプトの入れ方が重要ということで「プロンプトエンジニアリング」ということが言われていたが、最近では情報の与え方というもっと広い意味で「コンテキストエンジニアリング」が重要と言われ始めている。コンテキストが狭ければ妥当な思考はできようもないし、広すぎても解釈を間違えたり単純にパンクしたりする。抽象度を間違えても見当違いな思考になる。適切で適度なコンテキストを切り分けてよそってやる必要がある。これは人間に対しても必要なことである。これを行うには、深い思考（そのための認知リソース）と構造化、メタ認知がいる。 そもそも思考を他人まかせにするのは、認知リソースが不足していること、他人にまかせてよいものとダメなものの区別がついていないことが原因として考えられる。後者はメタ認知の問題である。そして認知的オフロードの誘惑に耐えること、論理的思考を行うこと、方向性を定め調整することは、それぞれ認知リソース、構造化、メタ認知が対応する。要するに、この3つがタフな思考に必要なものである。 つまり、タフな思考とは、認知リソース、構造化、メタ認知の切り口で自分の思考をマネジメントしつつ、自分で考えるべきときと他人にまかせるべきときとを適切に見極め、他人にまかせるべきときには適切にコンテキストを調整し、相手が合理的に思考できないときでもこの3つの観点で援助する、というものになる。 参考文献
| |
| PENGUINITIS | |