未翻訳ブックレビュー

世界の本への窓 by 植田かもめ

民主主義とか独裁とかってアルゴリズムが違うだけでしょ?という話

Spin Dictators: The Changing Face of Tyranny in the 21st Century

 

新潮社「Foresight」での連載「未翻訳本から読む世界」が更新されている。

www.fsight.jp

 

今月は2022年4月に発売された『Spin Dictators』という本を紹介した。ロシアのプーチン大統領をはじめとする21世紀の独裁者たちを、世論の印象操作を行う専門家である「スピン・ドクター」をもじって「スピン・ディクテーター」と定義して分析する本である。

このブログには簡単なスピンオフ話を書こうと思っていたけれど、ちょうど同時期に読んだ成田悠輔の「22世紀の民主主義」についての感想を書き始めたら止まらなくなって、連載本編より長くなってしまった。以下、5000字近くある。ざっくり言うと、独裁がよいか民主主義がよいかって、将来は大した論点にならず、もっと重要な論点がありそうだ、という話である。では、どうぞ。

21世紀は民主主義国ほど経済成長が停滞している

 まず、『Spin Dictators』についてもう少し紹介する。21世紀の独裁者たちは、旧来の独裁者が恐怖によって国民を支配していたのと異なり、経済成長と国民からの人気を背景に表面的には民主主義の体裁を維持しながら、より巧妙に権力を維持しているというのが同書の主張だ。

世界の指導者のスピーチを「暴力や軍事力への言及があるか」および「経済成長や公共サービス改善への言及があるか」の2軸で統計的に分析した同書の研究によると、プーチン(ただしウクライナ侵攻前)や、その他の「スピン・ディクテーター」たちは、実は暴力への言及が少なく、後者に言及する割合が高い。金正恩やシリアのアサドといった従来型の恐怖支配独裁者よりも、むしろ米国のオバマ元大統領といった民主主義国家のリーダーに近似しているという。

同書は、スピン・ディクテーターたちが擬態する民主主義の「ふり」にだまされず、リベラルな民主主義国家が対抗するにはどうすればよいかを説く。

さて、詳細は連載に書いたので省くけれど、ここでひとつ疑問も沸く。もし、ある独裁体制が、高い経済成長を実現していて、選挙を通じて国民の支持も得ていて、完全ではないけれどそこそこ言論の自由も認めているならば、一体何が問題なんだろう。

岩明均のマンガ『寄生獣』に、広川という市長が登場する。彼は人の脳を乗っ取るモンスターであるパラサイトの協力者なのだけど、普段はその素性を隠して、頭脳明晰・品行方正な市町としてバリバリ業務を行っている。

ネタバレになるが、程なくして彼は自衛隊に殺される。でも、そんなに有能な市長なんだったら、もしかして、彼になるべく長く市長を続けてもらった方がよかったのではないだろうか。

スピン・ディクテーターについても同じ事が言える。正体が独裁者だとしても、経済や公共サービスのパフォーマンスが高いならば、批判しようとしても歯切れの悪いものになってしまうのだ。

で、ここからは成田悠輔の『22世紀の民主主義』の話に移る。同書を読むと「今世紀に入ってからの20年強の経済を見ると、民主主義的な国ほど、経済成長が低迷しつづけている」というデータが紹介されている。実績として、21世紀になってから民主主義は独裁に負けているのだ。

無意識化・自動化する政策決定

ここで、成田の同書が掲げる構想を乱暴に要約しておく。正確な理解であるかどうかは保証しないので、興味ある方は同書を読んでもらいたい。

成田は、民主主義とはつまるところ「データの変換」であり、「みんなの民意を表す何らかのデータを入力し、何らかの社会的意思決定を出力する何らかのルール・装置」であると説く。したがって民主主義のデザインに必要なものは(1)入力される民意データ、(2)出力される社会的意思決定、(3)データから意思決定を計算するルール・アルゴリズムの3点だ。

そして、ここからが面白いのだけど、入力される民意データについて、選挙という単一のデータソースに依存するのはもう止めにして、あらゆるセンシングデータや生体感知データを半意識的または無意識の民意データとして使うべきと説く。そのデータから、我々自身も気付いていないような暗黙の欲求や目的を民意として抽出する。そして、その民意の実現のためにどのような政策を実行するかを評価し決定するのは、政治家でも官僚でも市民でもなく、入力データを処理するアルゴリズム群だ。単一のデータに依存し過ぎないように各アルゴリズム群の評価結果を加重平均して、最終的な出力結果として政策が決定する。

これらの一連のプロセスは、人の介在が無くとも、自動・高速・並列でぶん回せる。ECサイトが商品のレコメンドから購入処理まで自動化されているように。有権者は「あらゆる論点にみんなが意見を持つという無理ゲーな建前」から解放されて、(意識的な)意思決定をする必要が無くなる。民主主義の自動化である。成田はこれを「無意識データ民主主義」と呼ぶ。

民主主義も独裁もアルゴリズムの違いに過ぎない?

さて、ここまででもかなり遠い目線の話をしているように聞こえるかもしれないが、この話を前提としてちょっと考えてみよう。

上記のような「データを用いた自動意思決定」の仕組みがもし実現するとしたら、民主主義と独裁の違いって、アルゴリズムの重み付けの違いでしか無くなるのではないだろうか。

政治的な意思決定のプロセスを、入力-アルゴリズム-出力という3つのレベルに分けるとしたら、おそく、民主主義国家だろうが独裁国家だろうが、入力レベルでやる事は変わらなくなりそうだ。どちらの場合でも、会議や街角での発言データや生体感知データといった民意データを収集するだろう。というか、中国はそれにかなり近い事を既に実現している。

そうすると、違いが出るのは、そこから先のアルゴリズムと出力だけではないだろうか。思いっきり単純化すると、アルゴリズムがA,B,C・・と複数存在するときに、それらを加重平均して、カッコ付きの「最適化」を図るならば、それは民主主義と呼ばれる。そして、独裁者が望むアルゴリズムAに100%の比率を全振りするならば、それは独裁制と呼ばれる。

で、そう考えると、「データを用いた自動意思決定」という政治プロセスは、底が抜けた議論をしているような気もしてくる。自動意思決定プロセスで使うアルゴリズムを、誰が決定して、どうやって人々を従わせるのだろうか。

話をいったん近視的な目線に戻すと、先日実施された参院選の選挙特番を見ていたら、連合に加盟している大小様々な労働組合や、日本医師会、全国郵便局長会など、ゴリゴリの政治支持団体を取材していた。彼らは、例えば「データ民主主義」で使うアルゴリズム群と加重平均の割合が公開されたら、自分たちの利益を最大化するようアルゴリズムと加重平均の計算割合の訂正を要求するのではないだろうか。アルゴリズムBを高く評価しろ、いやCの評価割合を上げろ、という政治闘争である。それって、今の選挙を通じた政治闘争と、実は大して変わらないのではないだろうか。利害が対立してもめた場合、採用するアルゴリズムを最終的にどうやって決めるのだろう。じゃあ、それを選挙で決めましょう!という、本末転倒で間抜けな未来がちょっとだけチラつく。。

データを神に。そして、神とは「下請け業者」である

さて、じゃあ成田が主張するような「データを用いた自動意思決定」とか「データ民主主義」の実現は難しいのだろうか。そうは全く思わない。

なぜか。まずは、ミもフタもないけれど、みんな楽になるからだ。市民も、官僚も、未来にもまだ存在しているなら政治家も、政治的な意思決定に割く工数を削減できる。シンプルだけど強力なインセンティブだ。

あとは、自分で自分にツッコミを入れると、前段で書いたような「アルゴリズムをどう決めるかをめぐって、集団同士の利害対立が起こる」という発想自体が、実は現状を前提にし過ぎた妄想なのかもしれない。

現状の機械学習やAIを用いたアルゴリズムは、中途半端な精度だ。けれど、人間がもう勝負を挑もうとも思わないほど精度が向上すれば、アルゴリズムが決めた利益分配に異議を申し立てようとする政治団体なんてものは消滅しているのかもしれない。十分に精度の高いアルゴリズムが下した決定を否定する事は、現代の文明において自動車の利用を否定したり、冷蔵庫やエアコンの利用を否定するのと同じくらい、感覚的に「有り得ない」事と見なされるようになるのかもしれない。

ここから、意図的に話をさらに飛躍させたい。データとアルゴリズムによる意思決定をほとんど誰も否定せず、人間が自ら意思決定の責任を負わなくなったとき、それはデータが「神」となる事を意味する。

もともと人間は、中世ぐらいまで、意思決定を宗教上の神にアウトソースして、丸投げしてきた。自分で物事を判断するなんて事はしないで、神の判断基準に任せて意思決定をする。神とは、どんな意思決定の責任も人間にかわって引き受けてくれる、究極の下請け業者だ。

一方、この数百年ぐらいの期間、人間は意思決定を神に外注するのをやめて、人間自身が行うように内製化してきた。人間中心主義の誕生であり、近代民主主義も資本主義もそのサブコンテンツである。

けれど、人間はもう意思決定に自分たちの工数を割く余裕も、その必要も無いのかもしれない。再び、アウトソーシングの時代だ。今度の委託先は、どんな責任も負ってくれるかわりに自分からは何もしてくれない、沈黙した神ではない。エビデンスを基に、私たち自身が気付いていない行動を提案してくれる、データとアルゴリズムという神である。

なお、上に述べたような歴史的変遷は私個人の見解ではなく、ユヴァル・ノア・ハラリが『ホモ・デウス』で展開している議論の焼き直し(または曲解)である。ハラリは、データが神となる時代を、民主主義とも独裁主義とも呼ばず、単に「データ主義」(Dataism)と呼んでいる。

「最適化」しかできないのがデータとアルゴリズムの弱点

さて、最後にちょっとだけ違う観点で補足。

たとえ政治的な意思決定や利害調整がデータとアルゴリズムを用いて行われるとしても、個人が、アルゴリズムが出す「最適な」判断から外れた行動をとる自由は担保されるべきだと思う。

一体、何を言っているか。上でしてきた話と矛盾するように聞こえるかもしれないが、例えば喫煙があらゆるデータとあらゆるアルゴリズムとあらゆるエビデンスから個人の健康と幸福にとってマイナスだと証明されても、他人に迷惑をかけなければその行動をとる自由は保証されるべき、という話をしている。

これは「愚行権」などの名称で従来から議論されてきた話だ。けれども、データとアルゴリズムは、その論点に新たな文脈を加える。

データとアルゴリズムの(少なくとも現時点の)弱点は何か。それは「最適化」しかできない事だ。グーグル検索で全く関係なさそうなキーワードを何個も入れると、デフォルトでは、相関関係がありそうなキーワードだけにしぼって検索結果を表示してくる。これが最適化の世界である。

でも、どうやら人間は、何のためだか知らないが、最適化からは外れた思考や行動をする動物のように見える。成田悠輔のプロフィールを読むと「専門は、データ・アルゴリズム・ポエムを使ったビジネスと公共政策の想像とデザイン」とある。この「ポエム」というのが、最適化できない人間の価値を象徴させているシンボルなのだろうと推測する。

ただし、この「ポエム」を守ろうとする戦いって、かなり分が悪そうにも思える。それは、自動車や冷蔵庫やエアコンの存在を否定する人と同じように見なされるかもしれない。または、オルダス・ハクスレーの「すばらしい新世界」で、あらゆる課題が解決されて幸福が実現した世界を脱出しようとする野人ジョンの抵抗と同じなのかもしれない。

「でも、僕は不都合が好きなんです」

「われわれは違うね」と統制官。「われわれは、なんでも楽にやるほうが好きだ」

「でも僕は、楽なんかしたくない。神がほしい、詩がほしい、本物の危険がほしい、自由がほしい、善がほしい。罪がほしい」

「つまりきみは」とムスタファ・モンドが言う。「不幸になる権利を要求しているんだね」

「ええ、それでいいですよ」と野人が喧嘩腰で言った。「僕は不幸になる権利を要求する」

(中略)

ムスタファ・モンドは肩をすくめた。「では、ご自由に」

ーーーオルダス・ハクスレー すばらしい新世界〔大森望・訳〕

幸福か、自由か。

これは、民主主義か独裁かよりも実は重要な論点ではないかと思える。データとアルゴリズムの世界では、民主主義だろうが独裁だろうが、「幸福」の方がおそらく目的関数になりやすいからである。

 

 

参考情報 - 自分が今まで書いたり寄稿したもので関連しそうなもの