編集者の菅付雅信氏がWIRED.jpでの連載に大幅な加筆修正を施した新著『動物と機械から離れて AIが変える世界と人間の未来』（新潮社）が出版された。
この本は平たく言えば、世界中のメディアが煽る「AIの進化によって人間の仕事がどんどん奪われる」、「そして2045年にはAIが人間の知能を超えるシンギュラリティ（技術的特異点）が訪れ、人類社会のありようが一変する」という未来予測について、これまでの主要な議論を総ざらいしつつ、アメリカ・中国・ロシア・韓国、そして日本にまたがる総勢51人の研究者・起業家・学者らに「実際のところ、実現しそうですか？」「そうした世界で人間の労働観、幸福観はどう変わるんですか？」と直球で質問する取材を敢行した、まさしく決定版といえる1冊となっている。
「これまでの主要な議論」として紹介される書籍は、第二次世界大戦後すぐに発表された、AI論の古典的名著であるノーバート・ウィーナー『サイバネティックス』（1948）、『人間機械論』（1950）にはじまり、シンギュラリティ論ブームの火付け役となったレイ・カーツワイル『ポスト・ヒューマン誕生 コンピュータが人類の知性を超えるとき』（2007）、『サピエンス全史』（2014）とともに日本でも話題になったユヴァル・ノア・ハラリ『ホモ・デウス テクノロジーとサピエンスの未来』（2016）などなど、このテーマに興味がある人ならば誰もが一度はタイトルを耳にしたことがある（でも難解or大著ばかりで大抵まだ読めていない）ものばかり。
それらの概要をたった1冊で網羅できるというだけでも「コスパ抜群」なわけだが、もちろん本書には菅付氏が導き出した結論も記されている。漠然と不安になる、あるいは少しワクワクするような「2020年代以降の未来（をあなたはどう過ごすか）」について、このインタビューを読みながら思いを馳せてほしい。
聞き手：米田智彦・神保勇揮 構成：平田提 文・写真：神保勇揮
菅付雅信(すがつけ・まさのぶ)
編集者／株式会社グーテンベルクオーケストラ代表取締役
1964年宮崎県生まれ。『月刊カドカワ』『カット』『エスクァイア 日本版』編集部を経て独立。『コンポジット』『インビテーション』『エココロ』の編集長を務め、出版物の編集から内外クライアントのプランニングやコンサルティングを手がける。著書に『はじめての編集』『中身化する社会』『物欲なき世界』等がある。アートブック出版社ユナイテッドヴァガボンズの代表も務める。下北沢B&Bで「編集スパルタ塾」を主宰。
AIの本を120冊読み、51人にインタビューした
―― 読後の率直な感想として「こんなにコスパのいい本はないぞ」と思ったんです。この20年ぐらいの「AIが社会をどう変えるか」とか「未来はどうなるのか」っていうような国内外の有名本の解説があらかた入っていて、なおかつそうした論者や研究者、起業家、学者の最新インタビューもてんこ盛り。「まずはこれ1冊読めばOK」という出来に仕上がっていると感じました。
菅付：ありがとうございます。最高の褒め言葉ですね。紹介しきれなかったものも含めて、このために120冊読んだんです。AIに関する本を、会社のみんなで手分けして、ヒーヒー言いながら。
AIについての本は大きく分けると3種類しかないんです。「楽観主義」、「ディストピア・懐疑型」、「ややディストピア寄り」の3種類。本を書くうえで強く思ったのは、とにかくいろんな立場や意見が違う人にいっぱい会いたいということ。シンギュラリティを信じている人だけとか、中国・深センで「中国の未来は明るい」と思っている人だけじゃなくて。それで総勢51人にインタビューをしました。
なぜかというと、僕は日本の東京に生きていて、最先端を行くアメリカでも中国でも、あるいはロシアでもないわけだから、ある種、中立的な立場なんだと信じたいんです。日本人である筆者の自分が、各国の動きもちゃんと勉強し、実際に会いに行って、どこかの考えにかぶれることもなく、なるべく中立的に書きたいと思って。それは日本人とか東京にいる人間のアドバンテージじゃないかと思ったんです。
―― 本の前書きで菅付さんの奥さまのご家族の会話にAIが出てきたという話に、ぐっと引き込まれました。AIが一般化している驚きと面白さを感じられて。
菅付：妻の実家で食事をしていた時、お茶の間でAIの話になったんですよ。うちの妻は半導体に関わる仕事をしているんです。妻の兄もずっと日系大手メーカーに勤めているので、みんな仕事が電機系なんですね。
義理の兄の奥さんと娘二人も来ていて、娘の一人がAIを積極活用するコンサル会社に就職するらしい。妹の方は大学に入ったところで、これからAIがどんどん活用されるから、逆に人文系が重要じゃないかと彼女は彼女なりに考えていて。人文系の科目を多く取るようにしたそうです。電機系のメーカーでもAIを使って工場の人員削減をしているとか。みんなで渋茶をすすりながらAIの話をする時代になったんだな、と。
AIによる仕事の代替で多くの人間が暇になるのは確実
―― メディアでは「AIがあなたの仕事を奪う」を筆頭に、やや悲観寄りというか扇情的に最新テクノロジーを扱うことが多いように思いますが、この本では賛否両方の意見を紹介しています。中でもビル・ゲイツやイーロン・マスクはディストピアを掲げているのが面白かったですね。一方でGoogleの未来学者レイ・カーツワイルを筆頭に、多くの楽観論者は「AIは重労働から人間を解放し、ベーシック・インカムが導入され、余暇を楽しむ時間が増える。今度はその余白の時間をどう使うかとなるから、働くことと遊ぶことがガラリと変わっていく」と話しています。
菅付：仕事の代替、英語でいうジョブ・リプレイスメントは、日本よりアメリカなどですごく言われていて、2020年の大統領選で一つの争点になっているぐらいなんです。民主党の大統領候補のアンドリュー・ヤンは、仕事の代替をテーマにどう政治が取り組むか、を公約に掲げている。アメリカはクビを切ったりするのがすごくドライというか、簡単じゃないですか。日本よりも深刻な問題。それこそ工場にロボットが入ったら、日本よりスパッと切っちゃいますからね。
仕事の代替に関しては、残念ながら結構進むとは思うんです。調べれば調べるほど、人に会えば会うほど、そう感じました。いろいろな異論・反論はあれども、今回話を聞いたほぼ全員に共通するのは「多くの人間が暇になる」ということ。それは、機械やAIがいろいろなことをやってくれるから。特に、今まで一番難しいと言われていたデスクワークの領域にかなり機械が入ってくるから、これからの社会構造は大きく変わると思う。100年後に税理士や弁護士という職業はなくなるか、すごく少なくて済むようになる。
―― 企業のデスクワークや会計処理などにAIを使用した場合、脱税や粉飾決算に代表されるような「悪いこと」はやりにくくなっていきますよね。そうしたことを理由に、AIの導入・浸透が予想よりも遥かに遅れたりはしないんでしょうか。
菅付：つまり、AIのほうがより倫理的な高次元の判断をすることに、企業やいろんな人がストップを掛けるということ？ それはすごくあり得ることだし、実際に今中国で起きていることですね。中国共産党にとって都合のいいことにはAIをどんどん使っているんだけど、都合の悪いことは一切やらせない。
それに、誰がプログラミングしているのか、誰がアルゴリズムを支配しているかは大きな問題です。GoogleだったらGoogleの経営陣がある種のレコメンデーションの判断を考えている。例えば「ナチス」とGoogleで検索をかけると、ナチスやヒトラーを批判するサイトだけじゃなく肯定的に論じるサイトも表示される。ヘイトスピーチ関連でも同様です。仮にナチスやヘイトスピーチ肯定が「多くの人が望んでいること」であったとしても、それを上位に表示していいのか、という話です。
―― 非常に倫理的な問題ですね。
菅付：もちろん実際はGoogleなりの倫理観があって、子どもが見るべきでないものにはフィルターを掛けて、アルゴリズムの設定をしているんだけど。でもAIに関して、企業単位でも、先程の中国共産党のような管理側の統制は起こり得ないことじゃないでしょう。
機械は意識を持つのか？
―― 人工知能が人間の知能を超える技術的特異点、シンギュラリティが起こるとされているのが2045年ですよね。果たしてAIが意識・人格を持つかという話もありますが、菅付さんはどう思われますか。
菅付：計算機のスピードはもちろん上がる一方だけれど、それが人間の脳を超えた知能になるかというと、これはまた別の話なんです。コンピュータとかAIが意識を持てるかという議論も、ある人は「持てる」と言うし、ある人は「持てない」と言って解決はしていない。でも大体において、「意識は持てないだろう」というのが今の通説ですね。
ですが取材したアメリカ人の多くは、そうは思っていない。アメリカの西海岸の人たち、レイ・カーツワイル一派、カーツワイルと一緒に仕事をしている人たちはシンギュラリティが来ると信じている。彼が創設に携わった、シリコンバレーにあるシンギュラリティ大学CEOのロブ・ネイルという人をこの本でインタビューしているんだけど、機械の計算能力が上がったら機械的意識（メカニカル・コンシャス）を持つことができるという話をしていて。でも、それは意識とは違うんですよね。
―― 人間の意識とはまた違うものなんですね。
菅付：意識を持つには自律性の問題が出てきます。自律性というのはここからここまでは私であなたはあなた、と捉えられるということ。これは動物だろうが昆虫だろうが持っているんですが、AIがそれを持てるかというとすごく難しくて。
というのは、ほとんどのAIはクラウド・コンピューティングなんです。クラウドだから、あの計算能力が出せているんですよね。一個の個体ではないから、クラウド・コンピューティングであるAIに「私」というフレーム、もっと言っちゃうと限界を与えるのはすごく難しいんじゃないかと言われている。
ものすごく高度なAI、一つの人格を作ろうという研究もあるんだけど、現状でそれをやろうと思ったらコンピュータの大きさが六本木ヒルズの森タワーよりでかくなっちゃう（笑）。だから、今は実現性が低いだろうと言われているんです。100年後にはずっと小さくなっているとは言っているんだけど。
シンギュラリティ学派を除くともう一つ、人間の脳をシミュレーションして人工知能をそれに近付けようしている人たちがいます。先述したカーツワイルたちの「計算機としてのAI」とは全然やり方が違うんですけど、脳はすごく複雑で、まだよく分かっていなことが多いんです。脳の一部の機能を少しずつどんどんコンピュータに移し替えることを本当にやっている人もいるんですけど、それがある程度終わるであろうというのが、100年後です。
―― その時には僕らは生きていないですね（笑）。
菅付：そうです。計算機学派は、「計算のスピードを上げるだけなら簡単だから、2045年ぐらいにシンギュラリティが来て知能を超える」と言っているんだけど「私」や意識の問題が解決できていないから、それはすごく難しいんじゃないかなと思うんです。
AIは「分かる」ことが分からない？
―― 菅付さんの本は、「人間と動物やロボットはどう違うのか」と人類に問い掛けているのかなとも思いました。
菅付：そうですね。コンピュータには何かが「分かる」あるいは「分かっていない」ということが説明できるのか？という話がよく出るんです。現状は、分かっているということも、分かっていないということも、どちらも分かっていないんですよ。「こう入力されたら、こう出力する」というだけで、一切の解釈は存在していないんです。例えば「ABCD」と入力したら「DEFG」と出力すると決まっているアルゴリズムがあるだけの話。自由に解釈するとか、もしくは誤解するとか、とんでもなくイメージが飛躍することは現状では無いんです。
人間は普段のコミュニケーションの中で、相手のことをすごく誤解しているわけです。どこまでが許される誤解で、どこまでが許されない誤解なのかの線引きは人と人との関係性の中でも変わるし、一定ではない。親子だったらいいけど、上司と部下だったらダメとか。こうした人間のコミュニケーションの曖昧さ、複雑さ、臨機応変さをコンピュータが身に付けるのは極めて難しいだろうとほとんどの学者は言っていますね。
―― たとえ1人であっても「他者」という情報すべてを理解するのは人間にも無理ですもんね。
菅付：そうなんです。これはいろいろな脳科学者や認知科学の人たちがやっているんですが、初めて会う人がばーっといろいろな話をして、その人が出て行った後に「あの人が言っていた意味はどういうことでしょうか」とレポートさせると、ほとんどみんな分かっていなかったりするわけです（笑）。でも、大きくは間違っていない。人間も100％は分かっていないことが多いし、すごく誤解しているんだけど、そんなに困らないということなんです。
あなたは脳に電極を刺せますか？
―― この本では、コンピュータやAIの進化の話だけでなく、人間側の脳に電極を刺すといった進化の方向性についても触れられていますね。
菅付：何度も出てくるカーツワイルが東京で講演に行った時の質疑応答で「あなたは将来、脳に電極を刺せますか？」という日本人の質問に「もちろん！（Of course！）」と答えていて「すげえな、こいつ」と思いました（笑）。
あとは東大工学部の渡邉正峰さんは、脳科学系の見地からAIの研究をやっているんですけど、彼は将来自分の脳を切断してコンピュータにつなげるつもりなんです。もう公言している。
―― 人間がコンピュータあるいはネットと直接接続するという、まさに『攻殻機動隊』な状況が訪れたとき、「自分」の存在はどうなるんですかね。
菅付：それを答えるのはすごく難しいと思う。つまり「私」というのには限界があって、どうしようもない限界があるからこそ、ここまでが「私」だと規定できるわけですよね。ほかとつながっていないから「私」なんだけど、ほかとつながったら「私」になるのかというと、たぶんならないと思う。
―― AI、サイボーグ、ロボティクス、アンドロイドについてはSF小説や、手塚治虫などのマンガ、映画『ターミネーター』など、エンターテインメントの中で多数描かれてきました。古くはAIBOとか、最近はPepperとか「人間と共存するAI」のまま行くような気もするんです。あと『her［世界でひとつの彼女］』という映画はAIに恋しちゃう展開でしたが、ああいう分野こそ、ロボットやAIが役に立つのかなというのが楽観的な見方です、僕は。
菅付：『her』は、かなり現実性の高いSFですし、もう実際に『her』みたいな世界が起きていますよね。バーチャルアイドルもそうだし、Chatbotもどんどん高度化している。だから、ああいう疑似恋愛とか、もしくはあまり人と付き合っていないんだけど、パソコンとかネットでアバターとやりとりしているだけで割と心が満たされていく状態はかなり現実的じゃないですかね。
―― それは古い世代から言うと、いいことなのかなと思ったりもしますけれどね。
菅付：難しいことですが、現実世界の複雑さや理不尽さに耐えられる人になった方がいいとは思うんですよね。電源一つでブチッと切れてしまうような世界の中に生きていくよりは、現実はもっと多様で理不尽で複雑じゃないですか。それに適応して、ときに抗って生きていけることが人間力として僕は正しいと思うんです。そういう複雑で理不尽で訳が分からず痛かったり寒かったり暑かったりするような現実と、ちゃんと向き合っていくことはすごく大事なことだと思います。
人間にしかできない領域は「抽象化」と「上位概念への飛躍」
―― 筆で描くような絵画作品もAIが作れちゃう時代になっているじゃないですか。一昔前は「クリエイティブなことはAIにはできない」なんてことも言われていましたが、この辺りに関してはどう思われますか。
菅付：AIはルーチンワークならできるんですよ。例えば誰かの写真をパシャっと撮ってきて、「これをアンディ・ウォーホル調に仕上げて」と言えば、それはできる。Googleが前に発表したように、フェルメールの絵をいっぱいディープ・ラーニングさせて、高性能なインクジェットプリンターでキャンバス地にフェルメールっぽい絵をプリントさせることはできる。それと同じように、ルーティンでひな型があって「A」を「Aダッシュ」にするようなことはできちゃう。でも、「A」をいきなり「Z」にするようなことはできない。
―― その領域は、まだ人間が仕事をする意味があるということですね。
菅付：そうですね。でも、「クリエイティブ領域の単純労働」もいっぱいあるじゃないですか。
――いっぱいありますね（笑）。編集者ならテープ起こしとか、プレスリリースを基にしたニュース記事を書いたりとか。
菅付：例えば、ブルームバーグでは、Twitterサイズの、140字前後の経済情報はAIが書いているんです。ただ、もちろん一応最後に人間がチェックしてアップはしているんですが、かなり簡単なチェックで大丈夫なものにはなっている。日本でも日経新聞が2017年から実験的に企業の決算発表記事をAIが書いていますが、プロが見てもほとんど違和感を覚えないものになっています。
でもAIに詩の翻訳はできるかという話があって、今のところは全然できていない。詩の翻訳というのは直訳じゃないから、詩人が言わんとするイメージを共有できないと、良い詩の翻訳にならないわけじゃないですか。
―― そこですよね、人間がつけ込む隙というか。情感の領域とでもいうものでしょうか。
菅付：そうですね。AIがすごく不得意な二つの領域があって、一つは抽象化ですね。抽象的なものを捉えてそれを理解し、かつ抽象的なものを自分で表現する、これは非常に難しい。
もう一つは、物事の上位概念を考えること。何かあった時に、それを直に受け取って対応するのではなく「いや、これって相手が言わんとすることは、実はそこじゃなくてこういうことだよね」みたいなことを返してあげるとか。
例えば誰かと誰かが争っている時、原因として両者が挙げている「お金の問題」は単に口実に過ぎなくて、本当は「あいつが気に食わないから」っていう感情的な問題が原因であることも多いじゃないですか。それはAIにはすごく難しい。抽象化と上位概念への飛躍は人間の得意技で、動物もまったくできないし、AIもまったくできないわけです。この2つの能力を鍛えることが、これからの21世紀の人間が仕事をしていく上ですごく重要なポイントではないかと僕は思いますね。
AIが仕事を奪う時代に、人間は何をして生きればいいのか
―― 今回の本で一番重要だと思ったのは、11章の「シンギュラリティは来ないが、ケインズの予言は当たる」、つまり意識を持った汎用型AIの到来はまだ難しいが、確実に人間の仕事は奪われるというお話です。菅付さんのお話を聞いていても、最先端テクノロジーのエンジニア、クリエイター、抽象的・人文科学的なことを考えられる人たちは2020年代がすごく楽しいだろうなと思います。でも、大半はこの三つには属さない人たちです。じゃあこの人たちはどうすればいいんだろう、ということが大きな疑問として残りました。今年話題になった本の『ケーキの切れない非行少年たち』は、簡単な足し算・引き算や短い文章の復唱すらできない子が結構な数いて、同時にそうした子が少なくない数の犯罪者になってしまっており、一刻も早い支援体制の拡充が必要だという内容が記されています。やはりそういう子たちの多くはこの三つには入れないだろうし、どうすればいいんだろう、と。
菅付：それは大問題で、僕の中でも明確な答えはないんです。ユヴァル・ノア・ハラリが『ホモ・デウス』で予言したのは、AIを扱える側の超エリートと簡単なルーティンをAIに代替されて、仕事がまったくなくなっちゃう人に二分すること。
AIに代替されてしまいそうな人たちがどうすべきか、といろんな人たちにその話をしても、それに関しては答えが出ないことが多かった。アメリカの西海岸の人たちは本当に能天気だから「一生趣味に生きればいいんだよ。ベーシック・インカムができて食うには困らないだろうし」と本気で言うわけです。
でも、そんなわけにはいかないだろうと思うんですよ、僕も。「あなたは18歳から80歳まで、趣味で生きて下さい」と言われても「そんな、死ぬまで趣味だけやれと言われても」となりますよね。それって選択肢ではなくて命令だと思うんです。
―― 僕や、菅付さんもそうだと思うんですけど、遊びと仕事の境界線をなるべくなくして自分に興味のあることを仕事にしようと思ったり、仕事の中に遊びを入れようと思ったりして生きてきたじゃないですか。仕事があることによって生きるためのお金を得てもいますが、何よりも仕事を通して社会と接続できる、誰かから必要とされることが生きる糧になっていますよね。
菅付：そうですね。
―― 社会性を帯びて、公共になっていくと、認知されるということもある。でも一人でずっと趣味をやっていると、社会と接続することがなくなってきますよね。AIを使う側とAIに使われる側という、ものすごい格差社会になっていくことも想定されると思いますが、それは西海岸の人みたいに全面的に楽観的に考えられないのは日本人だからかなと思ったりもするんですよね。やっぱり仕事が好きだから。
菅付：仕事の代替がある程度進むということはほぼ間違いないんだけど、新しい仕事もいろいろできるはずだと僕は信じているんですよね。例えば、僕らが今やっている職業はほとんど100年前にはないんですよね。ましてや、ウェブ関係の仕事なんて。
―― ないですね。僕が高校生の頃にもなかったですもん（笑）。
菅付：ほとんど100年前にはない仕事を僕らはやっていて、これからの20年後、30年後も今ない仕事がいっぱい誕生しているはずなんですよ。それにある程度の人は移行するだろうし、そうなった方がいい。
ただ、一つ言えるのは、それでもいろいろな領域で機械と人との競争は終わらないわけです。それはウェブの仕事をしようが出版の仕事をしようが、イベントの仕事をしようが農業の仕事をしようが、今まで以上にいろんな領域に機械がどんどん入ってくるから。サービス業がそうじゃないですか。例えば、マッサージを完全に機械だけでやろうという動きもあります。調理の現場では野菜を切ったり洗ったりは完全に機械でできちゃうようになってきています。AIや機械ができないところは何かを考えながら職業選択したり、職業をつくっていったりするのがこれからすごく重要になってくると思うんですよね。
―― それが奥さんのお兄さんの娘さんとか、その世代の考えにつながってくるわけですね。
菅付：そうですね。先程の上位概念、言い換えると、寄り道して考えられるかということが大事だと思います。人間はすごく寄り道して考えていて、それによって目先の物事だけじゃない、「業界、あるいはこの国全体の人にとってはどうなのか」「今とは違うジャンルに解決策のヒントがあるんじゃないか」というような感じで、上のレイヤーに1回行って考えることができるんですよ。
上のレイヤーに寄り道して考えるトレーニングをしていければ大丈夫だけど、それをやっていない人は同じレイヤーから動けなくなっちゃう。レイヤーが固定されちゃって単純なルーティンになると機械が入ってきてしまう。
―― その寄り道とかトレーニングって、例えばさっきの料理の例なら、具体的に何になるんでしょうね。自分で手を動かしてタマネギを切って、なんでこんなに涙が出るのにやらなきゃいけないんだと感じながらも、タマネギの切り方で味が変わることが分かるみたいなことが、往々にしてあるじゃないですか。AI全盛の時代が来たら「ボタン1個押せば済むしそれでいいじゃん」って話になるかもしれないですが、下積み的な時期にルーティンワークを一切やらずに済むようになったら、いつそれに類する経験を積めばいいのかというか。
菅付：その場合は、料理はある程度機械でもできるけど、最終的に味を決めるのは誰がするんだという話じゃないでしょうか。ロボットがあらゆる人間の作った料理の味見をして「これは地中海風で最高の料理だ」と判断できるかと言えば、たぶん難しいでしょう。
人間のコミュニケーションは、その時の複雑な関係性で良し悪しを決めているから、夏の暑い夜には塩っぽいものを食べたいと思うし、真冬ならあまり欲しくないと思ったりする。いろんな関係性でものをおいしく感じたり、感じなかったりするから、そういったフィジカルと結び付いた感情をAIが持ちようがないという点に、人間のチャンスがある気がしています。
そこは人間の優れたところで、フィジカルな体があって、その時のいろんな環境とか関係性の中で思うこと、変わっていくことがあって、そこで人間はいろいろな判断をしているわけじゃないですか。そして、目の前にいる人とか周りにいる人との関係性で「自分が食べたいのはこっちなんだけど、みんなが食べたがっているあっちを食べよう」という判断になったりする。自分だけでいろいろなことを決めているわけじゃない。複雑な関係性とか環境のネットワークの中で判断していくのは、人間にしかできないことでしょう。
―― ありがとうございます。最後に改めて、この本を書き終えて思ったことはありますか。
菅付：AIによって仕事の代替が進むことは、ほぼ間違いない。でも、人間がやるべきことはいっぱいあるし、新しい仕事もいっぱいできる。そういう中で、人間よりも賢いかもしれない存在がどんどん発展する中で、自分なりの賢さを培っていけるかということに、ある程度言葉を費やしたつもりです。
もしシンギュラリティが訪れたらもっとバラ色の世界になるのか、もっとディストピアになるのか。僕はある程度はバラ色で、ある程度はディストピアになるんだと思うんです。あとは自分たち、個々の選択次第なんですよね。
『動物と機械から離れて』刊行記念トークイベント