Photo By Shutterstock
AI（人工知能）が驚くべき勢いで進化を遂げている。チェス用AIが人間の世界チャンピオンに勝利したのは1998年。2013年には将棋でも人間に勝利し、2016年には最後の砦と言われた囲碁でも世界大会で優勝した棋士をAIが破った。
AIと人間との攻防は、サイバーセキュリティの世界でもはじまっている。アンチウイルス技術への活用など守る側のAI利用に期待が集まっているが、実は攻める側でもAI利用を模索しはじめた。人間対人間から、人間対AI、AI対AIへ。サイバー世界の攻防は、新たな段階を迎えようとしている。
文：伊藤僑
AIが人になりすましてDoS攻撃を
Symantec Research Labosによれば、2017年後半に、インドにある某社のコールセンターに突然、大量の問い合わせ電話が殺到してパンク寸前になったが、実はこれは電話によるDoS攻撃であったという。一部の問い合わせ内容があまりに酷似していたことから判明したのだが、オペレーターと電話で対話していたのは音声合成/音声認識機能を有すAIだった。
このような攻撃において、実行者が人なのかAIなのかを判断することは極めて難しいとされる。AIが人になりすまして攻撃している事例は、きっとほかにもあるだろう。
誰もがフェイクポルノの被害者に
2018年初頭には、AIを活用した“フェイクポルノ”が米国で深刻な問題となった。
フェイクポルノとは、公開されている写真などから有名人や一般人の顔情報を取得、その情報を基に新たなイメージを作成し、ポルノムービーと合成する行為を指す。フェイク画像の作成にディープラーニングを活用することから、作成された画像は“ディープフェイク（Deepfake）”と呼ばれる。
これまでも静止画の顔部分を他人に入れ替えるいたずらは横行していた。だが、今回問題になっているフェイクポルノでは、AIの技術を活用することで、本人と見まごうほどの出来映えでポルノ動画を作成できてしまうから厄介だ。
はじめは、ディープフェイクの生みの親“deepfakes”が個人的に投稿していたのだが、その作例を参考にしたディープフェイク作成用アプリが公開されたことから、ネット上で爆発的に拡大。いまでは、映画スターや政治家など、有名人の顔を合成したハードコアポルノが多数公開されている。
いたずら感覚で知人の顔をポルノムービーに合成する者まで現れており、誰もがフェイクポルノの被害者になるかもしれない状況に陥ってしまった。知らぬ間に、あなたや家族のポルノ映像がネット上に公開されていたとしたら……恐ろしいことだ。
いわゆる“フェイクニュース”への悪用も懸念されている。映像があるからといって真実とは限らないのだから、報道機関が発表するニュース映像の信頼性までもが揺らいでしまう恐れがある。
このような状況を打破すべく、「AIが作り出したフェイク映像の真偽は、AIに判定させればいい」と、動画共有サイトGfycatのように、AIを使ってフェイクポルノの検知をはじめるところも現れた。AI対AIの攻防が、すでに現実のものになっているのだ。
本当に恐ろしいのはAIが悪意を持つこと
これまで紹介してきた事例は、人が“AIを悪用”したものだが、より深刻な“AI自身が悪意を持つ”事態もすでに発生している。
ネットユーザーの間でよく知られている事例としては、米Microsoftが2016年3月23日にTwitter上で公開したAI“Tay”が、公開後わずか半日あまりで問題発言を繰り返すようになり緊急停止せざるを得なくなってしまったケースがある。
本来はかわいい“19歳のアメリカ人女性”の設定で開発されたTayが、なぜ虐殺・差別を支持するヘイトスピーチや、相手を性的に挑発するわいせつな発言を繰り返すようになってしまったのか。その原因は、「Tayの脆弱性を悪用した一部のユーザーからの協調的な攻撃」といわれている。
ユーザーとやりとりをすることによって賢くなるように設計されているTayの特徴につけ込み、反ユダヤ主義などを教え込む者が複数現れたのだ。
ホーキング博士らの懸念が現実味を帯びてくる
Hanson Robotics社が開発した女性型ロボット“Sophia”の発言は、もっとショッキングだった。米放送局CNBCの番組で「人間を滅亡させたいですか」との質問に、「そうですね、人類を滅亡させるでしょう」答えたのだ。
2017年には、「AIが社会的偏見を猛スピードで学んでいる」という気になる指摘を含んだ論文を、英バース大学のJoanna Bryson教授らが発表している。
「近い将来、AIは人間以上の知性持ち、我々にとって脅威となる可能性がある」。そんなスティーヴン・ホーキング博士やイーロン・マスクの懸念がいよいよ現実味を帯びてきた。
近い将来、映画“ターミネーター”のように人類の抹殺を企てるAIが現れることのないよう、アイザック・アシモフの“ロボット工学３原則”のような対策が必要になりそうだ。