Photo by Shutterstock
渡辺由佳里 Yukari Watanabe Scott
エッセイスト、洋書レビュアー、翻訳家、マーケティング・ストラテジー会社共同経営者
兵庫県生まれ。多くの職を体験し、東京で外資系医療用装具会社勤務後、香港を経て1995年よりアメリカに移住。2001年に小説『ノーティアーズ』で小説新潮長篇新人賞受賞。翌年『神たちの誤算』（共に新潮社刊）を発表。『ジャンル別 洋書ベスト500』（コスモピア）、『トランプがはじめた21世紀の南北戦争』（晶文社）など著書多数。翻訳書には糸井重里氏監修の『グレイトフル・デッドにマーケティングを学ぶ』（日経ビジネス人文庫）、レベッカ・ソルニット著『それを、真の名で呼ぶならば』（岩波書店）など。最新刊は『ベストセラーで読み解く現代アメリカ』（亜紀書房）。
連載：ニューズウィーク日本版
洋書を紹介するブログ『洋書ファンクラブ』主催者。
「稀有な天才と膨大な富のコンビネーション」は一般人の未来を置き去りにするか
読んだ本をすぐに忘れてまた買ってしまうことがあるので、その予防として記録用に使っている読書家向けソーシャルメディア「Goodreads」によると、私は2023年に英語の本を300冊ほど読んだらしい。1章で見捨てた本や、ざっとチェックしただけの本もあるので、最初から最後まで読んだのは200冊くらいだろう。
読んだことすら覚えていない本が多いなかで、好き嫌いは別として、印象深かった本にウォルター・アイザックソン（Walter Isaacson）著の『Elon Musk』（文藝春秋から『イーロン・マスク』として邦訳版も刊行された）と、ベンジャミン・ラバトゥット（Benjamín Labatut）著の『The Maniac』がある。映画では『オッペンハイマー』が最も記憶に残っている。
2023年を振り返り、新年を迎えるにあたってこの３つの作品を思いついたのは、稀有な天才と膨大な富のコンビネーションが、一般人の私たちを置き去りにして勝手に決めてしまう未来に不安を覚えているからかもしれない。
イーロン・マスクの伝記で知った人物像は、これまでメディアで見聞きしてきた彼のイメージとそう違わなかった。マスクは自分自身がアスペルガー症候群だと自称しているが、著者のアイザックソンはそれだけではないことを匂わせている。マスクの感情の揺れは大きく、社員のウェルビーイングには否定的で、追い詰められた緊急事態の緊迫感の中で仕事をすることを好む。自分とは異なる意見は排除し、失敗は許さない。自分の求めていることを早急に実現するためなら、安全のための法律やステップを無視する…。絶対に上司にしたくないタイプだが、スティーブ・ジョブズもそうだったように、不可能を可能にし、世界を変えるのはこういった（ときには他人に迷惑な）天才なのかもしれず、私たちはついそういった天才の欠陥を安易に受け入れ、時には神聖化までしてしまう。
でも、それでいいのだろうか？
たとえばマスクが重視しているhumanity（ヒューマニティ）には、同情、共感、慈悲といった人間性（humanity)のニュアンスはない。彼にとっては、個々の人間よりも「人類」が種として生き延びることが重要なのだ。テスラやスペースXについてもそうだが、彼が子供の頃から読んできたSF作品が考え方に影響を与えている。マスクの愛読書の例にアイザック・アシモフの『銀河帝国の興亡』（『The Foundation Series』、ファウンデーションシリーズ）、Robot Series（ロボットをテーマにした短編と長編小説）、ロバート・ハインラインの『月は無慈悲な夜の女王』（The Moon Is a Harsh Mistress）、ダグラス・アダムスの『銀河ヒッチハイク・ガイド』（The Hitchhiker’s Guide to the Galaxy）などがあるが、これらを読んだことがある人は「なるほど」と思うことだろう。
スペースXとテスラがそれらの競合と根本的に異なるのは、ヒューマニティの定義ではないかと伝記を読みながら思った。
「超越した達成のためには少々の犠牲は仕方がない」……本当に？
ベンジャミン・ラバトゥットの『The Maniac』はマンハッタン計画に関わった著名な科学者のジョン・フォン・ノイマン（John von Neumann）を題材にした、まるでノンフィクションのようなフィクションである。映画『オッペンハイマー』には登場しておらず、歴史に詳しい視聴者の中からは「なぜノイマンのことが描かれていないのか？」という疑問の声も上がっていた。というのも、「原爆の父」と呼ばれるオッペンハイマーは後に原爆の開発を後悔して水爆の開発に反対して公職から追放されたのだが、ノイマンは水爆の開発に積極的であり続けたからだ。陸軍長官のヘンリー・スティムソンによって拒否されたが、原爆投下のターゲットに京都を選んだのもノイマンだった。
「オーストリア＝ハンガリー帝国」時代のブダペストで生まれたジョン・フォン・ノイマンは、原子爆弾やコンピュータ開発への関与で有名だが、それだけではなく数学、物理学、工学、計算機械学、経済学、ゲーム理論、気象学、心理学、政治学など多岐にわたる分野で非常に重要な研究と発明を行ったことで知られる。特に1932年に刊行した『量子力学の数学的基礎』（Mathematical Foundations of Quantum Mechanics）は、量子力学で扱う物理量や状態といった概念の基礎を作ったものであり、その後の研究に大きな影響を与えた。
『The Maniac』の根底にあるのは、世界を変えるような天才の発想と狂気との間の微妙な境界である。この境界の曖昧さの恐ろしさが、後半に現在のAIに繋がっていくところがこの本のユニークなところだ。多くの人から「20世紀で最も優れた頭脳の持ち主」と評価されたフォン・ノイマンを描くだけでなく、囲碁名人として韓国で国民的英雄だった李世乭とAlphaGoの囲碁対決のエピソードも描き、AIによる予期できない未来への疑問をほのめかしている。
映画『オッペンハイマー』は原爆の父オッペンハイマーが題材だということだからなのか、日本での公開が遅れていたようだが、約半年経ってようやく公開されることになったと聞いた。自分で観て判断してほしいので、内容についてはここでは詳しく触れないことにする。
これらの作品に共通しているのは「超天才」と「これまでにないものを考えて作り出す（時には狂気に近い）情熱」だ。一般の私たちにはとうてい理解できない頭脳を持つ超天才たちが、彼らにしか理解できない思考回路で「成し遂げるべきこと」を決め、それを押し通してしまう。
今は亡きスティーブ・ジョブズもそうだったが、私たちはイーロン・マスクのように多くの「不可能」を「可能」に変えた天才を安易に神聖視してしまうところがある。たとえその人たちの言動による被害者が数え切れないほど存在しても、「天才のやることだから」とか「超越した達成のためには少々の犠牲は仕方がない」と弁護してしまいがちだ。だが、その「達成」が「原爆」の場合にはどうなのか？
多くのアメリカ人は原爆投下を「戦争を終わらせるためには仕方がなかった」と今でも信じているが、その開発に関わったことを最終的に後悔した人物の映画ですら日本では公開が困難だった。立場が異なれば、「許されること」と「許されないこと」が大きく異なる。自分自身の限られた知識や体験の範囲でしか想像できないのは、世界に共通する人間の性（さが）とも言える。誰も皆、固有の視点でしか世界を見ることができない。それは、AIを開発する人についても言えることだ。
マスクの言う「テスラ車は安全」と「AIは核爆弾より危険」、どちらが正しい？
AIもイーロン・マスクとジョン・フォン・ノイマンに共通するテーマであり、2023年の大きなテーマでもあった。約一年前の22年11月に公開されて大きな話題になったChatGPTを開発したのは非営利団体OpenAIである。そのCEOサム・アルトマンが23年11月17日、取締役会によって突然解任されるという「お家騒動」があった。その後OpenAIの従業員の95％がアルトマンが復帰しなければ退職して、彼を含む全員が（OpenAIの株を49％保有する）マイクロソフトに移籍するという意思表示をしたこともあり、アルトマン解任に関わった取締役たちが去り、アルトマンが復帰するという展開になった（23年12月現在の状況）。
よく知られているようにマスクもOpen AIの創始者のひとりだった。その後、彼はOpenAIを去ったのだが、今回の騒動の主要人物たちをよく知る立場にある。騒動発生から約2週間後、マスクはNew York Timesの「DealBook Summit」に登壇してジャーナリストのアンドリュー・ロス・ソーキンからの質問に答えた。
その時マスクは、OpenAIは「オープンソース」であることを意図して作られたもので、命名したのは自分だと語り、もともと非営利でオープンソースだったものがどんなわけで超営利主義かつ超クローズになってしまったのか、「それって合法なの？」と冗談交じりに批判した。というのも「正直なところOpenAIについては少々危機感を持っている。なぜかというと、OpenAIを立ち上げた理由というのが、当時AI分野で優れた才能を持つ人材の3分の2を有し、事実上無限の資金とコンピュータ技術を持っていたGoogleとDeepMindに対する対抗勢力を作るためだったから」であり、「他に対抗できる勢力は存在しなかった。一極集中の世界だったのだ（※）」と立ち上げの事情を語った。
※元発言は以下の通り。
The whole arc of OpenAI, frankly is a little troubling, because the reason for starting OpenAI was to create a counterweight to Google and DeepMind, which at the time had two-thirds of all AI talent and basically infinite money and compute. And there was no counterweight. It was a unipolar world
伝記『イーロン・マスク』にはマスクが「ヒューマニティの未来」を案じていることについて言及があるが、マスクは環境問題と同様にAIはヒューマニティの存続を脅かすと信じている。
だが、AIの危険性を語るマスクがテスラの高度運転支援システム「オートパイロット」を過信してきたのは多くの人が知る事実なので、その矛盾には苦笑せざるを得ない。
テスラのオートパイロットはAIのアルゴリズムを使っている。このオートパイロットが原因とみられるテスラ車の衝突事故は(2023年10月時点で判明しているものでは)736件報告されており、17人が死亡している。だが、マスク自身は、「（テスラの）オートパイロットのモデルは、人間のドライバーが運転している車よりも安全だ（Autopilot mode are safer than those piloted solely by human drivers）」と発言し、米道路交通安全局（あるいはバイデン政権が）がテスラを不公平に扱っていると数々の場で不満を語ってきた。
しかし、私の身近で目撃する現実では、ユーザーがテスラのオートパイロットをかなり悪用している。居眠りしている者もいれば、高速道路を時速120kmで走りながら読書に没頭している者もいる。
道路交通安全局は、オートパイロットのシステム使用中にドライバーが注意を払っているかどうかに焦点をあてて2021年に調査を開始し、その結果を受けてテスラは米国内で200万台を超えるリコール（無償修理）を行うと届け出たことが2023年12月13日に明らかになった。このリコールはオートパイロットの「誤った使用方法」の防止機能を追加するものだ。
先述の「DealBook Summit」対談の時点でマスクは既にテスラのリコールの方針は決めていたはずなので、AIの規制に関して「身体への危険、公共への危険の可能性があるものについてはそれが何にせよ規制がある。だから自動車は厳しく規制されているし、通信も厳しく規制されているし、ロケットや航空機も厳しく規制されている（There’s regulation around anything which is a physical danger, a danger to the public. So cars are heavily regulated, communications are heavily regulated, rockets and aircraft are heavily）」と規制を受け入れた発言をしているのもうなずける。
だが、「私の見解では、AIは核爆弾よりも危険であり、私たちは核爆弾を規制している（のだから、AIを規制するのは当然である）（In my view, AI is more dangerous than nuclear bombs and we regulate nuclear bombs）」というマスクの強調には背筋が寒くなった。あれほどテスラを規制することに抗ってきた人物がこう言うのだから、私たちが想像できる以上にAIは危険なのではないか。
Googleの元CEOのラリー・ペイジと仲違いになった理由についてマスクは、
「ラリー・ペイジと僕は以前には親友で、彼の家に泊まって夜更けまでAIの安全性について話したものだ。けれども、ラリーがAIの安全性について気にかけていないことが明白になった（Larry Paige and I used to be very close friends, and I would stay at his house, and I would talk to Larry into the late hours of the night about AI safety. And it became apparent to me that Larry did not care about AI safety）」
「僕がイリヤ（OpenAI の共同創始者で今回のサム・アルトマン解任劇の中心的人物と言われるイリヤ・スツケバー。AI開発の慎重派）を共同創始者として加わらせてからは、もう僕と友達でいることをやめてしまった（Larry refused to be friends with me after I recruited Ilya）」
と、AIの安全性についての見解の違いであることを示唆した。
原爆を作ってしまった人類のエネルギーを、私たちは止められるか
OpenAIのお家騒動の原因や詳細について、情報が二転三転したこともあり現時点では不明瞭な点もあるが、e/acc （イー・アック、Effective Accelerationism、効果的加速主義)支持者と、E.A（Effective Altruism、効果的利他主義）支持者との対立であることが推察されている。
ニューヨーク・タイムズ紙などの記事によると、e/acc支持者は、AIやそれに関連する新しい技術は可能な限り迅速に進歩させるべきであり、革新を阻むいかなることにも反対している（12月21日には朝日新聞GLOBE＋で日本語の解説記事も掲載された）。OpenAIがサンフランシスコで開発者向けに開催したイベントの後、ナイトクラブで開催されたe/acc支持者のイベントでは「Accelerate or Die（「加速せよ、さもなくば死のみ」あるいは「命がけで加速せよ」という意味）」というスローガンが掲げられていたというが、加速を妨害したり、阻止したりすることに強く反対するのがこのグループである。支持者には著名 VCであるAndreessen Horowitz（a16z）のマーク・アンドリーセンや、Y Combinator のゲイリー・タンCEO などがいて、サム・アルトマンは彼らから支持されている。
一方、アルトマン解任の中核になったOpenAI取締役たちはE.A派だ。E.A派はe/accより以前から存在しているグループで、AIの安全性に懸念を懐き、AIを管理せずにいると人類を滅亡させる可能性があると考えている。
e/acc派の意見を読んでいると、映画『オッペンハイマー』で原爆開発に関わった科学者たちの熱狂を連想してしまう。また、「可能なことは（それがどんな結果をもたらそうと）やり遂げなければならない」というこの発想は、水爆開発を推進し続けたジョン・フォン・ノイマンとまったく同じだ。
たとえ現時点で私たちの想像範囲内でのAIが無害（私はそう思わないが）だとしても、e/accを支持するのは原爆や水爆の開発に関わった科学者たちを支持するのとそう変わらないような気がしてならない。
たったひとつの組織でも、意見を一致させることができないというのが現実である。原爆開発を率いた張本人のオッペンハイマーでさえ、開発し続ける危険性を説得できずに公職を追われたのだから、危険になった時に誰が止められるだろう。しかも、世界全体規模になったら、収集がつかなくなることは容易に想像できる。
いったん何かを創造したら、創造者はその創造物をコントロールできなくなる。19世紀初頭にメアリー・シェリーが『フランケンシュタイン』で書いたように、オッペンハイマーにとっての原爆がそうだったように、AIが創造者の想像範囲を超える破壊力を持つ可能性は否定できない。
それでも推進派のe/accのパワーを抑えるのは不可能に近いだろう。歴史を振り返っても「これまでになかったものを作り上げる」という挑戦の興奮にいったん取り憑かれたら、それをストップすることができないのが人間の性（さが）である。そして、法はAIの発達のスピードに追いつくことができない。
もっと絶望的なのは、AI（とヒューマニティ）の未来を決めるのが、（必ずしもバランスが取れた知識、倫理観、判断力を持つとはいえない）特定の分野における天才たちと巨額の富だということだ。
天才に関して言えば、オッペンハイマーについてはともかく、本で知ったイーロン・マスクとジョン・フォン・ノイマンについては、この「自分とは異なる他人の視点で世界を見てみようとする努力」はまったくなかった。どちらも自分を超える頭脳やアイディアはないという確信があるので、他人の視点は不要だと思っている。だが、「自分を超える頭脳はない」という自信たっぷりの天才たちが万能ではないことは、彼らの意見が一致しないことからも明白である。そして天才であっても必ず失敗はする。
そして、彼らの失敗のつけを払うのは本人たちではない。
AIのもたらす未来に不安、だけど非力な私たちにできること
私のようにAIのもたらす未来に不安を覚えていても非力な私たちは何をすればいいのだろう。
AIを拒絶するつもりはない。すでに日常生活に入り込んでいるAIを避けて生きていくことは不可能だし、積極的に仕事で活用しているサービスもある。私の夫はAI関連の会社にも出資している。
関わらずには生きられないものだから、せめて使う時には「マインドフル」でいたい、と私たち夫婦は話し合っている。与えられたものに何の疑問も抱かず従順に受け入れてしまうことだけは避けようと。
自分でコントロールできないことが増えていく世界において、ビジネスでもプライベートでもカウンターバランスを取ることが重要になっていく。アルゴリズムによってすぐ目につく場所に出てくる情報やビジュアルをそのまま受け止めて拡散に手を貸すのではなく、まず懐疑的に受け止めること。簡単なリアクションをする前に、自ら一歩踏み出して、その正体を見極めようとすること。少し回り道をして、アルゴリズムが与えたものとは異なるものを探しに行くこと。ノンストップで情報を与えてくるデジタルの世界を離れて自然や人間と接触する時間をたっぷり取ること。ノイズがない静かな環境で自分の考えと向き合うこと……。それらの努力を続けるか否かで、その人の感覚や発想、クリエイティビティに大きな差が生じていくことだろう。
それは、筋肉を鍛えることにも似ている。鍛えていないと筋肉はすぐに衰えるので、そのつもりになっても、いきなり高度な運動はできない。私たちの感覚や発想、クリエイティビティも同様である。AIが暴走する世界で独自の発想やクリエイティビティを持つためには、安易に手に入るものをあえて無視し、リアルな世界との接触を増やし、あえて面倒なことをしながら自分の感覚を鍛えていくことが必要不可欠だと私は思っている。