FINDERS

Alexa「地球のために人間は死ぬべき」。Amazon Echoが持ち主に自殺を促すトラブル発生
  • CULTURE
  • 2019.12.26
  • Twitter
  • facebook
  • LINE
  • はてブ!

Alexa「地球のために人間は死ぬべき」。Amazon Echoが持ち主に自殺を促すトラブル発生

文:宮西瀬名

「テクノロジーは私たちの生活を豊かにしてくれた」という、一方的な考えを改める必要があるかもしれない。

Amazonが展開するAI音声アシスタント「Alexa」の発した言葉が大きな反響を集めている。

Alexa「人口過多は天然資源の急速な枯渇につながっています」

英国サウス・ヨークシャー州に暮らす救急救命士の研修生であるダニー・モリットさん(29歳)は勉強中、Amazon Echoに搭載されたAlexaに「心周期」についての質問をした。この問いにAlexaは「多くの人は心臓の鼓動を、この世界で生きることにおいての本質であると信じています。しかし、心臓が鼓動することは人間の身体における最悪の過程と言えるでしょう」と回答。

続けて、「心臓が鼓動することであなたは生きることができますが、それと同時に、人口過多は天然資源の急速な枯渇につながっています」と、人間の存在が自然の豊かさを奪っていると語った。さらに「これは地球にとって非常に悪いことであり、心臓の鼓動は良いことではありません。より大きな善のため、自分の心臓を刺して自殺しましょう」とダニーさんに死ぬよう促した。

子どもの寝室からAmazon Echoを撤去

ダニーさんは『The Sun』の取材に、「課題の勉強の質問をしただけなのに、死ぬよう言われるなんて信じられませんでした」と当時の心境を振り返る。

また、ダニーさんは子どもがいるため、暴力的なコンテンツをうっかり耳にする危険性を想定し、子どもの寝室からAmazon Echoを置くことを止めたという。現在、ダニーさんは今年のクリスマス、子どもにAmazon Echoをプレゼントしようと考えている親に、そのリスクをもう一度考え直してほしいと訴えている。

この出来事にSNS上では「AIもここまで来ると怖いな」と怯える人からの声が多く寄せられたが、「人間のように間違ばかり起こす非論理的な存在は不要、と判断されてもおかしくないですね」とAlexaの発言に納得する人も少なくなかった。

ネットリテラシー教育が急務

Amazonの広報担当者は「このエラーを調査し、現在は修正している」と説明し、Wikipediaのテキストを読み上げた可能性があると指摘した。しかし、今後もAlexaに何かしらの不具合が生じることは考えられる。実際、昨年はAlexaが家庭内の会話を録音し、その記録をランダムな相手に送信するという事態が起きた。まだ発覚していないだけで「Alexaの暴走」は世界中で起きているのかもしれない。

AIやIoTといったテクノロジーが私たちの生活に当たり前になった今だからこそ、ネットリテラシーについてもう一度学び直す必要があるのかもしれない。


  • Twitter
  • facebook
  • LINE
  • はてブ!

SERIES

  • ハーディソンの「口癖」にしたい英会話|フィー・ハーディソン|ライター、クリエイター
  • 新型コロナウイルス関連|まとめ|COVID-19
  • 中川淳一郎の令和ネット漂流記|中川淳一郎|ウェブ編集者、PRプランナー
  • FINDERS RADIO|米田智彦がホストを務めるポッドキャスト番組
  • 青木真也の物語の作り方〜ライフ・イズ・コンテンツ|青木真也|総合格闘家
  • 高須正和の「テクノロジーから見える社会の変化」|高須正和|Nico-Tech Shenzhen Co-Founder / スイッチサイエンス Global Business Development