神保慶政
映画監督
1986年生まれ。東京都出身。上智大学卒業後、秘境専門旅行会社に就職し、 主にチベット文化圏や南アジアを担当。 海外と日本を往復する生活を送った後、映画製作を学び、2013年からフリーランスの映画監督として活動を開始。大阪市からの助成をもとに監督した初長編「僕はもうすぐ十一歳になる。」は2014年に劇場公開され、国内主要都市や海外の映画祭でも好評を得る。また、この映画がきっかけで2014年度第55回日本映画監督協会新人賞にノミネートされる。2016年、第一子の誕生を機に福岡に転居。アジアに活動の幅を広げ、2017年に韓国・釜山でオール韓国語、韓国人スタッフ・キャストで短編『憧れ』を監督。 現在、福岡と出身地の東京二カ所を拠点に、台湾・香港、イラン・シンガポールとの合作長編を準備中。
スーパーインテリジェンスを、人間は超えることができない
SF映画のように、人間をはるかに凌ぐ知能を持ったAIが社会の一端を堂々と担う日は訪れるのか。ニック・ボストロム『スーパーインテリジェンス 超絶AIと人類の運命』（日本経済新聞出版社）では、冒頭で早々と「その時は遅かれ早かれ必ず訪れる」と断言される。本書はあくまで客観的に、AIの有用性とリスク両方を勘案した上で、私たち人間がどのように倫理観を深めていくべきかが論じられている一冊だ。
「スーパーインテリジェンス」とはどのようなものなのか。本書の冒頭では、このように定義されている。
undefined
undefined
「ありとあらゆる関わりにおいて人間の認知パフォーマンスをはるかに超える知能」。（P59）
現在、AIは広く普及し始めているものの、その用途や機能は人間が把握できる範疇に収まっている。例えば、将棋ロボットが優れた経済予測をしたり、IoTとAIをかけ合わせた家事管理システムが彗星の衝突予測をして地球の滅亡を防いだりすることはできない。
本書では「ポスト・ヒューマン」と言われるような、人間が猿を動物園の檻に入れるように人間を管理できてしまうAIが登場するリスクや、それに伴う人間の存在意義の変容まで言及されている。そして、そうした事柄は20〜30年後に現実味を帯びてくると予想する学者が多いという。
undefined
undefined
20年後という数字は、劇的な変革の予測によく登場する数字である。20年は人の関心を集めそうな数字であり、なおかつ妥当そうにも聞こえる数字である。しかも、現時点では夢物語にしか思えない技術的ブレークスルーが幾度か起こりえるかもしれない、と想像しうる長さの歳月でもある。（P24）
今から20年前、1998年の出来事を考えてみる（原著が出版されたのは2014年で、邦訳の本書は18年1月に出版された）。スポーツでは長野オリンピック、サッカーワールドカップ・フランス大会が開催され、PC・ネット関係ではWindows98が発売され、Googleが設立された年だ。ちなみに、日本初のカメラ付き携帯電話が発売されたのは翌年の99年である。こうした出来事を羅列すると、おそらくビデオチャットがすぐ海外とつながることや、家の外から家電をコントロールできるということなどは、一般市民レベルでも既に思い描かれていたはずだと想像できる。本書には超絶AIの登場が人類にもたらす変化について多くの予測が書かれているが、「20年後には現実の問題になりうるかもしれない」という予感を、冷静沈着な筆致から受け取ることができる。
人間は超絶AIに進化を強いられるのか？
進化論を唱えたチャールズ・ダーウィンは「最も強い者が生き残るのではなく、最も賢い者が生き延びるわけでもない。唯一生き残るのは、変化に対応できる者である」という名言を遺した。AIに裏切られないようにするために、私たちはAIありきの社会環境に適応していくことを、老若男女問わずこれから強いられるのだろうか。
undefined
undefined
「エボリューション」（進化）という単語は、「プログレス」（進歩）と同意の言葉として使われることがよくある。おそらく、多くの人が、エボリューションはより良いものをもたらす力である、という考え方を無批判的に受け入れている事実の反映かもしれない。つまり、われわれの間には、自然の進化の過程は、それ自体が良いものである、という思い込みが存在する。(P368)
この言葉は「多局シナリオ：複数のスーパーインテリジェンスの世界」という章で述べられている。著者は、スーパーインテリジェンスが世の中に一つしか存在しないのは危険とし、複数のスーパーインテリジェンスが相互に競い合うという世界を理想としている。
進化とは「変化」することで、進歩とは「進む」ことだ。全ての進化が進歩であるとは限らない。本書は、スーパーインテリジェンスの多様性を読者に紹介することを通じて、私たち人間にとっては進化よりも、どのような未来が住みよく希望をもたらすものであるのかについて、考えを「深化」させることのほうが必要なのだと気づかせてくれる。
幸いなことに、それらスーパーインテリジェンスを作るのは人間だ。そこで、AIにどのような価値観・行動規範を与えるのかが当然問題になってくるが、そうすることの曖昧さについて著者はこんな言葉を引用している。
undefined
undefined
「何事にも曖昧なところはあるが、厳密にとらえようとするまでは、その曖昧さに気づかない」。これは、多くの年月を数字の研究にささげ、数学の論理的基礎を築いたことで知られるバートランド・ラッセルの金言である。(P297)
こうした「物事の根本」に関する認識の問題は、AIについて考える際だけではなく、実社会でもよく浮上する。
ある企画を立案しようと考えていて、それを分野違いの人の前で発表する。そうすると、同分野の中では前提と思われていた根本的な前提の部分を問い直され、困ってしまったことはないだろうか。あるいは、「1+1=2」というのは小学生でも解ける問題だが、1＋1がなぜ2になるのか、そもそも足し算や数字はどんな経緯で生まれたのかと子どもに聞かれると、多くの大人は口を閉ざしたくなる。
つまり、実社会では厳密さをひとまず置いておいて、「1+1=2だ」ということにしないとその先に進まないことが多々あるのだ。
SF映画では一般的ともいえる（とはいえ、実際に起こってほしくないが）「AIによる裏切り行為」が起こる可能性は、こうした曖昧さに大きく関連している。映画『2001年宇宙の旅』では、宇宙船にHALというスーパーコンピューターが搭載されていて、乗組員に反逆を試みる。
HALには2つの指示がなされていた。ひとつは「乗組員と協力せよ」という依頼。もうひとつは、「あることを隠しながら任務を遂行せよ」という指示だ。乗務員には必ず協力しなければならないのに、「あること」の内容を教えることはできないという矛盾した指示がなされていて、耐えきれなくなったHALは暴走し、乗組員に牙をむく。適切な指示を与えるには、指示を与える者の考えが成熟していなければならないのだ。
AIのことを、研究者まかせにしてはいけない
AIの行動規範として、社会で起こる細かなことひとつひとつに判断基準を与えるのは、至難の業だということは研究者でなくても想像に難くない。著者は16世紀でもフランスでは拷問死が品の良い娯楽であると思われていたことや、つい150年ほど前まで奴隷制度が公然と存在していたことを例にとって、このように述べている。
undefined
undefined
われわれ人類は、時代の変遷とともに、倫理的な洞察を高めてきたとはいえ、倫理的な啓発の恩恵に完全に浴していると主張するには程遠い。つまり、われわれはいまだに、倫理的に重大な誤解を一つや二つ抱えている、と考えるほうがおそらく正解であろう。(P441)
AIやロボット研究が進めば進むほど、社会での実用化に際して倫理的な問題が出現する。その一つひとつをおろそかにすることなく共存の道を作り上げてくという責務は、研究者だけではなく一般市民のものでもある。「プログラムされたAIが勝手に動いて何かをしてくれる」という考えが一番危険なのだ。
人間が敵わないAIが出現した際に、すぐに異論を唱えられないと手遅れになってしまう可能性もある。他人を注意することさえ憚ってしまう現代社会にいる私たちに、それができるだろうか。
20年後の備えは今からしても決して早すぎではないはず。本書で来る日の心構えをされてはいかがだろうか。