知性ある頭のいい人もQアノンに…「荒唐無稽な陰謀論」はなぜ拡散が続くのか？

フェイスブックはあまりに巨大になりすぎた

――最近、日本のフェイスブックは、Watchという人気動画を見られるサービスを始めました。ただ内容を見ると、微妙に性的であるとか、政治的ニュースが多くて驚きます。

【ウーリー】フェイスブックはもっと自主規制をすべきだと思います。政府による規制もあって当然だと思いますが、具体的な対策を打ち出すことができるのか、いささか懸念があります。フェイスブックはあまりにも巨大になりすぎましたから。

資金が潤沢にあり、有害コンテンツ対策用の洗練されたAIや機械学習（MachineLearning）を使えるフェイスブックでさえ、すべての物事を拾い切れていない。規模が大きすぎるために、多くの物事を取りこぼしています。

モンスターをつくってしまい、コントロールする方法がわからない。フランケンシュタインと同じです。

――フェイスブックのCEOのザッカーバーグは、これからの10年でAIが有害コンテンツを排除するようになると述べています。しかし、AIのアルゴリズムをつくるのは人間ですから、既存の人間社会の偏見が反映されてしまう恐れもある。

【ウーリー】まさにそのとおりです。いかなるAI、アルゴリズムも人間の意図、人間の信条、人間の価値観でつくられます。機械学習でさえも、そのアルゴリズムは人間の意図でつくられている。

これはヘイトスピーチであるとか、これは悪意がある、これは面白い――そうやって人間が日々タグ付けする過程から機械が学習するわけですから。だから「AIが問題の救世主になる」というザッカーバーグの主張は問題が多い。

この問題に対処するのに、人は正しいシステムを構築するという前提に立っているからです。彼の主張の本質は「この問題は重大すぎて人間だけの手には負えない。フェイスブックは有害コンテンツを監視・削除するコンテンツモデレーターを十分に雇うことができないから、AIの助けを借りなければならない」ということだと思います。

AIが解決策になると簡単に言ってのけることに、私は非常に懐疑的です。ザッカーバーグが述べる多くのことは、私の耳には空虚に聞こえます。この問題には、生身の人間と機械の両方が大量にかかわる必要があるだろうというのが私の見方です。

我々が取り掛かろうとしている問題は、たんにテクニカルなものではなく、ソーシャルなものでもあるからです。その二つを組み合わせて対処しつづけないといけないでしょう。