飛行機は羽ばたかなくても飛べる - AIと知性について

noteで寄稿している連載↑にて取り上げたAI研究者インタビュー集"Architects of Intelligence"についてのスピンオフ記事。

同書に収録されたDeepMind社のデミス・ハサビスのインタビューが面白かったので発言を抄訳しておく。人工知能研究も、本質は他の学問と同じなんだ、という話。

目次

知性の定義

AIは人間をそっくり真似しなくてもいい

科学の王道

知性の定義

さて本書は、"Architects of Intelligence"というタイトルが示す通り、知性を設計して開発するAI研究者たち総勢23人のインタビュー集だ。

では、そもそも知性の定義とは？UCバークレーのコンピュータ科学教授で、世界の1300を超える大学で教科書として使われている"Artificial Intelligence: A Modern Approach"の著者であるスチュアート・J・ラッセルは、以下のように定義する。

ある存在は、正しい行動を行う、つまり、その行動が目的を達成できると考えられる場合において、知性があると言える

"An entity is intelligent to the extent that it does the right thing, meaning that its actions are expected to achieve its objectives."

これは人間にも機械にも当てはまるとラッセルは語るが、十分に抽象化されているようで、なんだか底が抜けた定義のようにも聞こえる。正しいって何？目的って何？

一方で、定義の問題を棚上げして、AlphaGoの開発者として知られるDeepMind社のデミス・ハサビスのインタビューを読むと、「知性とは何かをモデル化することが、人工知能の開発」なんじゃないかと思える。

AIは人間をそっくり真似しなくてもいい

認知神経科学の博士号を持つ人口知能研究者であるハサビスは「コンピュータ科学と神経科学の両方について同等の訓練を受けた」と自らの経歴を語る。そして、機械学習の一種である「強化学習」（ざっくり言うと、トライアンドエラーを繰り返して、最も"報酬"が高くなるような行動を取ること）に注目する。

脳はこうした仕組み（訳注：強化学習の仕組み）で動作しています。そして、脳は、我々が知る汎用的な知性の唯一の例です。だから私は神経科学がとても重要だと考えています。

"The brain works along these principles, and the brain is our only example of general intelligence, which is why we take neuroscience very seriously here."

人工知能を開発するために、神経科学に着目する。そんなハサビスだけど、一方で、人間の脳が行なっている処理をそのまんま再現することには懐疑的だ。人間の脳全体をコンピュータシミュレーションすることを目標とした"Blue Brain Project"に対して、次のように感想を語る。

そのプロジェクトは、脳の皮質を文字通りリバースエンジニアリングしようとするものです。脳科学的には面白いかもしれませんが、AI開発の最も効率的なやり方とは思えません。扱う情報のレベルが低層過ぎるのです。

"he’s literally trying to reverse-engineer cortical columns. It may be interesting neuroscience but, in my view, that is not the most efficient path towards building AI because it’s too low-level."

DeepMind社は、脳をシステムとして理解することに関心があります。脳が実装しているアルゴリズムであり、機能であり、用いている表現に着目しています。

"What we’re interested in at DeepMind is a systems-level understanding of the brain and the algorithms the brain implements, the capabilities it has, the functions it has, and the representations it uses."

これだけだとまだ何を言っているのか分かりにくいかもしれない。本書の編者でインタビュアーのマーティン・フォードは、鳥と飛行機の例を持ち出して話を進める。

（マーティン・フォード）飛行機は翼を羽ばたかせないというアナロジーがありますよね。飛行機は飛べるけれど、鳥がしていることをそのまま真似しているわけではない。

"MARTIN FORD: You often hear the analogy that airplanes don’t flap their wings. Airplanes achieve flight, but don’t precisely mimic what birds do."

（デミス・ハサビス）それはとても良い例です。DeepMind社で我々がやろうとしていることは、鳥を見て航空力学を理解し、航空力学の原理を抽象化して、翼を固定した飛行機を作り上げることなのです。

"DEMIS HASSABIS: That’s a great example. At DeepMind, we’re trying to understand aerodynamics by looking at birds, and then abstracting the principles of aerodynamics and building a fixed-wing plane."

鳥は進化の過程で翼を動かして飛ぶことを身につけたけれど、飛行機は、翼を動かさなくても飛べる。同じように、人間の脳は進化の過程で知性を身につけたけれど、人工知能は、人間をそのまま真似しなくても作れるはず。ハサビスは続けて次のように語る。

やるべきことは、自然を観察して、目指す事象と関係のないものを取り除いて抽象化することです。目指す事象とは、飛行機の場合は飛ぶことであり、私たちの場合は、知性です。

"What you’ve got to do is look at nature, and then try and abstract away the things that are not important for the phenomenon you’re after in that case, flying and in our case, intelligence."

科学の王道

現実をそのまま真似するのではなく、そこに存在する原理を抽出して、モデル化する。これって実は、物理学など科学の王道だ。なんとなく、人工知能研究というのは他の学問と比べて異質な分野だと思っていたけれど、ハサビスのインタビューを読んで、混沌とした現実から原則や原理を抽出してモデル化するという点では他の学問と同じなんだと思えるようになった。