発言の80%以上で「白」「黒」などと発言
今回のトラブルについて、米国カーネギーメロン大学のコンピューター科学者たちは、チェスに関する発言がヘイトスピーチと勘違いし、AIを混乱させたのではないかと推測している。
実際、この動画の80％以上の発言で、「黒（black）」「白（white）」「攻撃（attack）」「脅威（threat）」といった言葉を使用していることがわかった。アントニオさんもチェスの話しかしていないが、「白対黒（black vs. white）」といった表現が停止された原因ではないかと考えているという。同研究所のアシカー・R・クダブクシュ氏も「YouTubeがどのツールを使用しているかわからないが、人種差別的な言葉を検出するためにAIを使っている場合、今後同じような事例が発生する可能性がある」と述べている。
また、アントニオさんの仮説を明らかにするため、クダブクシュ氏と研究員のルーパク・サルカール氏は、ヘイトスピーチを検出するように設計された2つの最先端のAIソフトウェアを使ってテストを実施。
チェス分野で人気の5つのYouTubeチャンネルから取得した68万以上の発言を、AIソフトウェアで調べたところ、コメントの82％がフィルターによってフラグが立てられたが、明らかな人種差別的な言葉や悪意のある表現が含まれていなかったとのこと。
研究者たちは現在、今後このような誤認識を避けるため、SNSのアルゴリズムにチェス言語を組み込むべきだと提案している。
使うシーンやニュアンスによって変わる人間の言葉を、今後どこまでAIが正確に分析できるようになるのか。進化が楽しみでもありつつも、少し複雑な気持ちを抱かされた。