Russell Stuart著のHuman compatible: Artificial intelligence and the problem of controlを読んで想ったこと。

.

　知とはなんだろう。僕は、それを木に例えられると思う。 人の知の木には、様々なものが混在している。宇宙の摂理を解き明かす科学のような、人間の嗜好の外側に佇む客観性が保証された事実、他人と互いに排他的になり得る意見や育った文化によって培われた常識など。

　物理学、そして数学のベイズ推定に「観測」という概念がある。

　前者の観測とは、いわゆる量子力学に登場する。二重スリット問題と定義されるこの問題では、スリットが二つ空いた壁を用意し、その後ろにスクリーンを用意する。そして電子を二本のスリットに向かって発射し、スリットの後ろのスクリーンを見ると、そこには干渉縞が発生するというものだ。しかし、スリットを通り過ぎる瞬間に電子を観測すると、干渉縞でなく、スリットの様子が現れるのだ。つまり観測をもとに、電子のとりうる状態が変化する。これはミクロな世界の話である。

　後者の観測は、「信念の更新」を数学的に公式化する際に「証拠」という文脈で登場する。ミソとなるのは以下：観測者が元々ある信念を持っていたとき、新しい証拠を観測することでその信念が更新される。これはマクロな世界の話である。（明快な解説はこちら）

　我々の住むミクロにもマクロな世界にも、観測は影響を与えるようだ。おそらく「観測」が「知の木」をも更新するのだろう。これは当たり前といえば当たり前だけれど、木の成長を刻む時間軸として扱うことにする。

　学びを通して、個人はそれぞれ知という自分自身の木を少しずつ形成する。幹は太くなり、少しずつ枝分かれしては葉をつけ育っていく。

　そして今、あなたは物理的に垣根のない情報の観測を繰り返し、あなたの木はかつてない速度で更新されていく。そう、垣根のない情報とは「インターネット」という魔法によるものであり、ソーシャルメディアや主要な検索エンジンなど、巨大な数の利用者が集まる場所に集積している。そして、オフライン：オンラインで、観測が後者で起きる割合が増加していく一方であるように思える。

　スマートフォンやパソコンが持ち主への最適化を繰り返していくたびに、その木は当人の頭の中からその所在さえを変えていくことになりうる。あなたが保存したデータ、閲覧履歴等の足跡、プラットフォーム上でお気に入りやいいねと印をつけたサイトはあなたのものだけれど、住所はあなたの頭の外にある。つまり、最適化されたスマートフォンやパソコンに木の一部は集積されていく。そういう意味で今は人の知とは、それをそのまま覚えていることでなく、「情報の住所を知っていること」とすら言えるかもしれない。スマートフォンやパソコンをなくしたとき、体の一部がなくなったように思うのはそのためだろう。

　しかしあなたの木は、あなただけのものではない。足跡（閲覧履歴、キャッシュ、クッキーなども含む）を残してウェブを消費することで、その木の一部を受け取った「あちら側」、人とAIが一体となった「ある目的を達成する」集団叡智は、あなたが閲覧するデジタルな世界を「おすすめ」や「妥当性」で固めた中身と共に迅速に形作っていく。そうしてできたある意味で「自分の作り出したウェブ」に自らアクセスする速度が加速する様に、意欲刺激が働いている様に見える。

　SNSを含め、メディアのビジネスモデルは広告収入によるものが多い。利用者は「金銭的無料」の代償に自らのデータとクリックによる「興味」を提供する。そのデータを元に、「あちら側」は広告を打つ。

　データを集められれば集められるほど広告の精度は向上するため、より多くのデータを集める意欲刺激が湧く。文字よりも、そして画像よりも、動画のほうが情報量が多い。それらをアップロードすることは、より多くの情報量を提供するということである。より高い画質の写真が撮れるようになるということは、つまりそれだけ大量の情報を提供できるということになる。利用者とプラットホーム間でより多く強い結びつきが生まれる中「さらにアップロードする」「クリックする」という意欲刺激は増す。「あちら側」の「サービス向上のため」とは、「クリック率」「顧客への最適化」「結びつき」の最大化を指す。利用者と「あちら側」の間で、より密でより早い循環構造の構築に意欲刺激は増すばかり。

　時間が有限であるからこそ例えば、見出しに注意を引くようなタイトルをつけたり、印象的なサムネイルをつけたりする。つまり、こうした情報の宣伝方法は洗練され続けている。各メディアの激しい競争を考慮にいれれば、嘘や感傷的な表現で注意を引くことだって起きていると想像することも難しくない。その中にももちろん、ジャーナリズムや科学からきたありのままの事実を届ける正義（なぜなら情報とは時に、人命よりも大切になりうるし、いち早く多くの人に知ってもらわなければならないこともあり得るからだ）や、利他的な行動からきた善意的な情報も含まれるが。

　「あちら側」は名門大学を出て、優秀な人材が集まったエリート集団だ。「あなたの注意を引き、結びつきを最大化する」という目的は利用者が簡単には気づけない水準で達成されうる(後々、一例を該当書より引用する）

　そうして形成した木は（ゆえに信条、知見、嗜好も）かつてない速度と精度で更新され続けているように思える。

　インターネットが「魅力的でたまらない」「目線が行ってしまう」ということは、それだけ最適化がうまく行っている証拠であると考えることもできる。

　この行き着く先は、フィルターバブル（自分の消費しているコンテンツが正当化され続ける世界）である。他の人と同じ単語をグーグルを用いて検索しても、もちろん異なる検索結果に当たることになる。「おすすめ」を提示するというアルゴリズムから、自分の趣味嗜好がより予測しやすい中で提供されたデジタルな空間には、より多くの結びつきが生まれる。

　普段私たちが遊んでいる火種で薄々明らかになっているもの、の種明かしとして、ソーシャルメディアにおけるコンテンツ選びアルゴリズムを考えてください。アルゴリズムはさほど知的でなくとも、何十億という人に直接影響するため、全世界に影響する立場にあります。典型的にこうしたアルゴリズムは、クリック率ー利用者が提供されたアイテムをクリックする確率ーを最大化するように設計されています。解決策は単純に、利用者がクリックしそうなアイテムを提供することでしょうね？違います。解決策は利用者の好みを変えること、そうすれば利用者はもっと予測可能になります。より予測可能な利用者は、クリックしそうなアイテムを食わせられ、もっと多くの収入を作ります。より極端な政治的な見方をもった人は、より予想しやすく、どのアイテムをクリックするか、もっと予測可能です（おそらく記事の分類に、もっと頑な中立派の人がクリックしそうなものもあるでしょうが、そのカテゴリーが何によってできているか想像するの簡単ではありません）。どんな合理的な実物に対しても、アルゴリズムはどうやってとりまく環境の状態を修正するかを学習しますーこのときは、状態は利用者の精神を指しますーそうしてアルゴリズムの報酬を最大化するために。その結果は、極右政党の再起、世界の民主主義を支える社会的接触の消失、そして可能性としてはEUとNATOの終わりを含みます。何行かのコードそのものには悪くはない、たとえそれが何人かの人間から手を借りていたとしても。

Russell, Stuart. Human Compatible (pp. 8-9). Penguin Publishing Group. Kindle Edition.

　果たしてでは、一刻毎に浮かび上がる「インターネット上の知の観察範囲となり得る」情報量と、「自身の知を象徴した木の」情報量は、どれほど同じだろうか。もし、前者と後者の比率をとったら、それは地球とリンゴほどの比率になってしまうかもしれない（それでは効かないことも十分ありえる）。それくらい、世界は広い。しかしその事実は、一見して嘘であるかのようにも見える。

　自分の見る世界は世の中を「本当に」ありのままに見た姿ではなく、今や「お勧め」でくり抜いたバブルであるほうが近しい。それが重篤化すれば、地球は平たい、環境問題は起きていないとなりうる。そこまで極端でなくても、例えば「妊娠中絶」などの言葉の解釈ですら、信条の異なる立場の人には変わってしまうこともありえる。

　その一方で書店で物理的な本を買っても、本屋さんはその情報を元に、あなた一人のためだけに置いてある本を変更したりしない。

　互いに排他的な意見が現れるようなトピックが社会にあっても、「嗜好が違う人」「反対の意見を指示する人」がこの星に暮らしている、という事実はおかしくない。そして他人がいるという事実は、「あなたが自分の木を愛でるように、あなたが他の木を同じくらい愛でる人がいる」ということの紛れもない証明ではないのか。

　それぞれの木とその人個人も深く結びついている。いま各々の木の違いや生まれもったものも含め、この有りやうを多様性とも呼べる「かもしれない」。その境界線がどこにあるのかはどうあっても、お互いは切っても切れない関係にあるし、またどちらかを切り取りたいという人もいないだろう。

　多様性は良とされる。各々の木は集まって一つ大きな森を作る。あるいは、各々の木が幹となる部分を共有していて、枝先が異なる場合もある。多種多様な木が織りなす森も、地にしっかりと根を張り空に枝を一杯に広げる木も美しい。四季を通して花を咲かせ、緑緑と茂り、がらりと変わった彩を魅せては葉を枯らしては枝を残して地に積もる。それが他の木にも養分となり、また枝先に芽吹きをもたらす。そうして少しずつ循環を繰り返しては、森も木も大きく育っていく。

　「お互いを理解しあう」にはつながっていた幹を探り、枝分かれした木の枝先や葉をお互いに認めあう必要がある。それぞれのリアリティーが枝分かれしていけばいくほどに、分かち合った根元までを辿る作業に時間がかかるのは、当然のことかもしれない。そしてそれは、自分からは決して成長の軌跡に足を踏み入れ、枝先を辿っていく必要があるのかもしれない。そうすれば、好き、嫌いという感性が生じたとしても、理解は生まれるかもしれないから。異なる木でも、一本の木は根から枝まで、きっとしっかりと構築されているのだから。

　だから他人と意思疎通を交わしたとき、多くの「自分にはわからない」「不確かさ」「好きじゃない」が残って、当たり前なのである。一方で「フィルターバブル」中でのみ、観測を繰り返し続けることも可能である。そして観測を無限に思えるまで繰り返すことすら完全に可能なほど、情報の海はその境界線を見せないかもしれない。

　これに対抗するために、完全とは言えないものの、技術的な対応策はいくつかあるはずだ。検索エンジンの使用（競争上の観点から消費者の「あちら側」の独占を防ぐ）、プライベートブラウジングの使用（履歴やクッキーの足跡を残さない、おすすめデジタル空間の作成の妨害）やSNSやニュースからの適度な離脱（速度に意欲刺激が働いた偏った情報からの離脱）、主体的ファクトチェック（ウェブサイトを活用する方法もある、フェイクニュース対策。例:snope.com）、文脈の加算（フェイクニュース対策）、政治的嗜好を明示したメディアの消費（政治的に反対側の意見への接触、例:alide.com）、など。

　同時に意識的な案も、いくつか列挙できるのではないか。「自分は見ている世界は自分が作り上げたもの」というメタ認知や、また入り込んだ分だけ長く厄介で、根気の必要な「コミュニケーション」なくして相互理解は得られくなっていくという認知、反対側のスペクトラムにいる立場の認知、正確な語彙の把握、疑わしきは罰せずという心構え、否定的な情報のほうが肯定的な情報よりも目をひき、注意を集めるという認知を持つこと、など。

　もちろん、もっとできることはあるのだろうけれど。悔しいけれど僕も、全てを認知し切れていないの一人。もしかしたら、認知し切れないことが普通のことなのかもしれないけれど。わからない。

　それでも十人十色、諸行無常とあって、それぞれ、違っていて当たり前である。多様性を尊重していく中でも、何が良いか否か、なんていうことは流動的なものかもしれない。時代や環境が変われば価値観や倫理観も変わっていく。それでも、相互理解、そして「共存」は欠かせないものではなかろうか。

　最後まで読んでくださり、有り難うございます。