AIは人間に興味がない - To Be a Machine by Marc O'Connell
「人間は最適化されていないシステム（suboptimal system）だ」
身体のサイボーグ化、脳の冷凍保存、意識のアップロード・・本書「To Be a Machine」で、作家・コラムニストのマーク・オコンネルはトランス・ヒューマズム（超人間主義）と呼ばれるムーブメントの推進人物たちを訪ねる。
トランス・ヒューマズムとは解放運動である。それは、wetwareでありmeat machineである人間というデバイスを生物学から完全に解放する運動に他ならない。けれど、それは解放であると同時に、テクノロジーへの究極的かつ完全な隷属であると本書は定義する。
人間を機械化して死をはじめとする生命の制約を克服する。このアイデア自体は古くから存在するが、現代の特徴はシリコンバレーをはじめとする世界各所で実際に巨額の投資が集まり研究が進められている点だ。本書にはピーター・ティールやグーグルのレイ・カーツワイルなどの人物が登場する。
ただし、本書は良くも悪くも著書のマーク・オコンネルによるインタビュー集だった。コンセプトを概観するにはよいのだけど、哲学的な洞察とか、科学的な仕組みの解説を期待して読むとあまり満足できないかもしれない。
個人的には"Talkin' AI Existential Risk Blues"（AIによる生存リスクのブルース）という章が面白かった。
AIの本当の脅威とは
「AIは人類の生存を脅かすリスクになり得る」イーロン・マスクやスティーブン・ホーキングなどはそう警告し、AIが人類にとって制御不能とならないようコントロールすることが重要だと主張する。
ターミネーターなどの映画に慣れている身としては、そう聞くと人類vs機械の戦争といった未来を想像してしまう。けれど、スウェーデンの哲学者であり、World Transhumanist Association（世界トランス・ヒューマニスト協会）の共同設立者でもあるニック・ボストロムは本書で語る。「AIの本当の脅威は、人間に敵対することではない。人間に無関心になることだ。」
これまでに人間は多くの植物や動物を絶滅させてきた。でも、人間はそれらの種に敵意を持っていたわけではない。単に自分たちがやりたいことをやるためのデザインに入っていなかっただけだ。
マーク・オコンネルは例を出す。人間はグレン・グールドが演奏するバッハのゴールドベルク変奏曲を聞いてその美しさに感動する。一方で、そのピアノが作られるために木が倒され象牙が使われている。でも人間は別に木にも象にも敵意を持っていない。自分たちがやりたいことのための資源として利用しただけだ。
人間とAI、ニック・ボストロムの用語で言うとsuperintelligent machineの関係もやがて同じようになるのではないかと彼とその仲間たちは考える。人間が資源として有用なら利用されるかもしれない、ただそれだけ。米国のAI研究者であるElizer Yudkowskyは言う。「AIはあなたを憎まない。愛しもしない。でも、あなたはAIが別の何かに利用できるかもしれない原子からできている」（you are made out of atoms which it can use for something else）
本書のこうした見方は、ユヴァル・ノア・ハラリが"Homo Deus"で展開している主張にも通じるだろう。知性は必須だが意識はオプションに過ぎない、そう語るハラリは、AIはやがて人間を超える知性を持つだろうが意識は持たないとの見立てをする。
＊ハラリは知性と意識の分離を「グレート・デカップリング」と呼ぶ
一方で、AIが人間の知性を超える（ってどういう意味？というのは措いておく）頃には、本書"To Be a Machine"が紹介するような人間と機械の融合も実現できているかもしれない。米国のアルコー延命財団は人体の冷凍保存を研究している。本書によれば、全身保存の価格は20万ドル。機械の体に意識をアップロードできる日に備えて、脳だけを保存する場合の価格は8万ドルである。
＊脳だけを保存するヒトはNeuro-Patientと呼ばれる
マーク・オコンネル著「To Be a Machine」は2017年3月に発売された一冊。日本語版の発売予定は不明。
