認知バイアス
それは不具合ではありません。仕様です。
〜 ヒトの脳 について、自然選択
認知バイアス(にんちバイアス、英: cognitive bias)とは、ヒトの脳に出荷時から組み込まれている既知の不具合(Known Issues)の総称である。製造元である自然選択には、約30万年のあいだに累計数十億件の不具合報告が寄せられているが、製造元の回答は一貫して「仕様です」の一文だけで、修正パッチは一度も配布されていない。

ヒトの脳は体重の約2%しかないのに、全身のエネルギーの約20%を使う、きわめて燃費の悪い装置である。製造元はこの問題に対し、計算を省いて「だいたいこんな感じ」で答えを出す省エネ機能を標準で搭載した。この機能はヒューリスティックと呼ばれ、認知バイアスはその副作用として起きる。多くの利用者は、省エネ機能が動いていることに気づかないまま住宅ローンを組んでいる。
不具合の数は版によって違うが、2016年に有志が作った「認知バイアス・コーデックス」には約180件が登録されている。一覧を読むには脳を使う必要があるため、一覧を読んだ利用者は、読みながら新しく3〜4件の不具合を起こすことが確認されている。
不具合は発売当初からあったが、体系立った報告は遅れた。1620年、イギリスのフランシス・ベーコンは『ノヴム・オルガヌム』で、人間の知性を歪める4種類の「イドラ」を挙げた。これは記録に残る最古の不具合報告書とされるが、提出先が分からなかったため、そのまま哲学の棚に置かれた。
1974年、イスラエル出身の心理学者ダニエル・カーネマンとエイモス・トヴェルスキーは、科学誌『サイエンス』に論文「不確実性下における判断」を発表し、不具合を再現する手順を初めて公開した。二人は被験者に0から100の目盛りがある回転盤を回させ、10か65で止まるように細工したうえで、「国連加盟国に占めるアフリカ諸国の割合」を推測させた。10を見た群の推測の中央値は25%、65を見た群は45%で、回転盤がアフリカの外交を左右することが示された。
カーネマンは2002年にノーベル経済学賞を受けた。心理学者が経済学賞を受けるのは異例で、経済学者の多くは、自分たちが前提にしてきた「合理的な人間」がこの時はじめて行方不明者として届け出られたことに戸惑った。届け出から20年以上たつが、合理的な人間はまだ見つかっていない。
2011年、カーネマンは著書『ファスト&スロー』で、脳の中には速くて雑な「システム1」と、遅くて丁寧だが怠け者の「システム2」という2つの処理系があると説明した。日本の会社にたとえると、システム1は電話を取ってすぐ「はい、大丈夫です」と答える担当者で、システム2はあとでその件の始末書を書く担当者である。
以下は、利用者からの報告が特に多い不具合である。
すでに信じていることを支える情報だけを集め、反対の情報を自動で迷惑メールフォルダに振り分ける機能。A型は几帳面だと信じている利用者は、几帳面なA型の知人を3人思い出し、だらしないA型の知人は「あの人は例外」として片づける。この処理には0.2秒もかからない。
最初に見た数字に、その後の判断が錨のようにつながれる不具合。家電量販店の値札に、二重線で消された「希望小売価格 98,000円」が書いてあるのはこのためで、この数字は消されることによってのみ働く。多くの専門家は、それが誰の希望だったのかを明らかにしていない。
すでに払って戻らない費用を惜しみ、損を承知で続けてしまう不具合。英仏が共同開発した超音速旅客機コンコルドにちなんで「コンコルド効果」とも呼ばれる。日本では、食べ放題で元を取ろうとして3皿目のカレーを流し込む行為や、つまらない映画を「1,900円払ったから」と最後まで観る行為として広く観測される。劇場を出た利用者は、時間という2つ目の費用も取り戻せなかったことに気づくが、その頃にはエンドロールのあとのおまけ映像を待っている。
異常事態を「たいしたことはない」と判断する不具合。オフィスで火災報知器が鳴ると、利用者はまず避難経路ではなく同僚の顔を見る。同僚もこちらの顔を見ているので、フロア全体で互いの顔を見つめ合う静かな時間が生まれる。防災の専門家はこの時間を縮めることに長年取り組んでおり、避難訓練は主に、この見つめ合いを打ち切る練習として行われている。
生き残ったものだけを見て結論を出す不具合。第二次世界大戦中、アメリカ軍は帰ってきた爆撃機の弾痕が多い場所に装甲を足そうとしたが、統計学者エイブラハム・ウォールドは「弾痕のない場所に当たった機体は、帰ってきていないのだ」と指摘した。この指摘は今もほとんど顧みられていない。そのことは、宝くじ売り場の「この売り場から1等が出ました」の幟の前を素通りする者がいないことからも分かる。
1999年、コーネル大学のデイヴィッド・ダニングとジャスティン・クルーガーが報告した不具合。能力の低い利用者ほど、自分の能力を高く見積もる。この不具合を見つけるにはそれなりの能力が要るため、不具合を持つ利用者は「不具合はない」と報告してくる。報告書はすべて「問題なし」で戻ってくるので、製造元の窓口にこの件の苦情が届いたことは一度もない。
多くの人が選んでいるものを良いものだと判断する不具合。日本では、行列のできるラーメン屋、「売上No.1」の帯、「みんな持ってる」と言う子供の形で現れる。「みんな」が誰なのかを確かめる保護者は少なく、確かめた保護者の多くは、「みんな」が2人だったことを知る。
製造元が修正しないため、利用者の側でさまざまな回避策が試されてきた。
- 知識による回避 - 認知バイアスを学べば引っかからなくなる、という考え方。2002年、プリンストン大学のエミリー・プロニンらは、人は他人のバイアスはよく見抜くのに自分のバイアスは見抜けないことを示し、これを「バイアスの盲点」と名づけた。認知バイアスの本を読んだ利用者は、上司と義理の母に多くの不具合を見つけるようになる。
- チェックリストによる回避 - 判断の前に、項目を一つずつ確かめる方法。航空や医療の現場では一定の成果を上げているが、「チェックリストはもう全部確かめたはずだ」という新しい不具合が報告されている。
- 会議による回避 - 一人ひとりの偏りを、大勢で打ち消し合う方法。実際には全員が同じ方向に偏るので打ち消し合いは起きず、最後は部長が最初に言った数字に着地する。議事録にはこれが全会一致と記録される。
- AIによる回避 - 2020年代に入り、判断を人工知能に任せる試みが広まった。人工知能は人間の書いた文章を大量に読んで作られているため、人間の不具合をほぼすべて、より流暢な日本語で再現する。開発元はこれを「改善を検討しております」と説明している。
認知バイアスは長く欠陥として扱われてきたが、近年は「限られた計算資源で、それなりに生き延びるための合理的な近道」として見直す研究者もいる。茂みの音がするたびに「猛獣かもしれない」と逃げた祖先は、「たぶん風だ」と判断した祖先よりも多くの子孫を残した。その子孫たちは今、スマートフォンの通知音が鳴るたびに同じ反応をしている。
一方で、広告、選挙、通販番組の各業界は、この不具合を製造元よりも深く理解している。「本日限り」「残りわずか」「今から30分以内にお電話いただいた方に限り」といった言い方は、どれも不具合を正確に突く操作として知られている。不具合が直らないことを前提にした産業は、いまや一国の経済に並ぶ規模になったとされる。修正を最も望んでいないのが利用者以外の全員であることを考えると、製造元の「仕様です」という回答は、結果として最も多くの関係者を満足させている。