インフォカリプス ~ 情報の終焉は始まっているのか

コラム
この記事は約8分で読めます。
「インフォカリプス(情報の終焉)」とは、あらゆる情報が信用できなくなってしまう未来を表現した言葉です。アメリカの学者が考案しました。(アポカリプス(世界の終焉)+インフォメーション)
最近みなさんも、X(旧Twitter)などのSNSを利用していると「この情報おかしいのでは?」「こんなことを信じている人がいるのか・・」と感じることが多くなってきているのではないでしょうか。 各種報道を見る限りでは、活動家や愉快犯による偽情報の拡散・ねつ造だけではなく、国家による世論誘導にも利用されている例が確認されたという発表もあります。
SNSでの偽情報の信ぴょう性をあげるために、「ディープフェイク技術」も多用されるようになりました。 2019年に「Deepfake(ディープフェイク)とは?:解説とその影響」というコラムを執筆しましたが、残念ながらその中に書いたことが現実になってきています。
偽情報の蔓延が当たり前の状況になってきつつある今、インターネットにあるすべての情報が正しくない(情報の終焉)という認識になってしまうことも、あながち否定できません。
本稿では、
  • どのような偽情報、騒ぎがあったか
  • なぜ、偽情報を信じてしまうのか、それが蔓延してしまうのか
  • 偽情報をなくしていく取り組み
についてご紹介します。

どのような偽情報、騒ぎがあったか

いくつかご紹介します。

1.偽ゼレンスキー大統領の降伏呼びかけ動画

ディープフェイクを利用した政治的な扇動の動きについて、近年で最も衝撃的だったのは、ゼレンスキー大統領の降伏呼びかけ動画でした。 当時はかなりの騒ぎになり、Meta社では該当の動画を削除することに。 ディープフェイク自体の出来があまりできがよくなかったため、騒ぎになっただけで大きな動きにはなりませんでしたが、もしクオリティが高い偽動画がSNSで拡散してしまい、信じる人が増えていたとしたら、とんでもないことになっていた可能性は否定できません。

2.米銀行取り付け騒ぎ

2023年3月に起こった、米シリコンバレー銀行の取り付け騒ぎ。 偽情報とは少し違うかもしれませんが、誤った情報がものすごいスピードで拡散された結果起こった出来事です。 日本経済新聞の記事がわかりやすいため、ここでは詳しく書きませんが、
  • シリコンバレー銀行が安定化のため資金強化を行った
  • 資金強化はこの先経営難が起こるためだと勘違いされ、SNSに投稿された
  • 顧客の企業が銀行の行く末を懸念しはじめ、SNSで拡散。騒動になる
  • 一斉にシリコンバレー銀行から引出しを実施
  • 48時間たたず破綻
シリコンバレー銀行が経営難になるという憶測がSNSで拡散された結果、取り付け騒ぎが起こり結果48時間たたずに経営破綻してしまうということに。 なお、銀行が破綻するかもしれないというネガティブ情報の拡散に関しては、2割が悪意のあるアカウントによるものだったと推定されています。
ちなみに、1973年、日本の豊川信用金庫取り付け騒ぎはうわさが広がるまで1週間だったそう。 また結果として経営破綻はしませんでした。

3.間違った医療情報

これは実際にSNSでよく目にするのではないでしょうか。 ワクチンや命に係わる病気について、民間治療を推奨したり標準治療はよくないということを訴えるなどしている方がいらっしゃいます。 さらに良くないのが、それを、発言力の高い方(政治家やタレントさんなど)が拡散してしまったり、場合によっては公の場で発言するということも起こっています。 主義主張はいろいろですので、何が正しい・正しくない、ということはここでは書きませんが、命にかかわる病気の治療に関して、間違った情報を信じてしまうことで病気が放置状態となり、命を落としている方も出てきていると、がん専門医の方が発信されています。

どのように偽情報が蔓延していっているのか

エコーチャンバー現象

エコーチャンバー現象は、SNSで発生します。
SNSでは発言した内容と似た価値観や興味関心を持っている人とつながることが多いのは感覚的にわかっていただけるかと思います。同じ趣味や主義主張の人をフォローしたりされたりしますよね。
そうすると、自分と異なる主義主張や興味関心の人の発言を目にする機会が減っていってしまいます。
結果として、「自分がフォローした人」や「SNSのシステムで類似とされた」発言、すなわち目ざわりの良い情報だけが周りにあふれるようになり、自分の意見がいろんな人からこだまのように返ってきて、間違っていても正しいものとしての認識が強化されていってしまう、という現象です。 自分と異なった意見が聞こえてこなくなってしまうのです。
お恥ずかしながら、筆者にも経験があります。
SNSでは情報の拡散スピードの問題や、コミュニケーションをとるために物理的距離が関係ないという特徴もあり、かなり少数な意見でも人が集まりエコーチャンバー現象によって正当認識が強化されていく傾向があります。
そして少数の間違った情報でも、影響力のある方がそれを拡散したら、、、ご想像の通り大きなコミュニティに信用されうる情報になっていきます。

検索エンジンのノイズと恣意的なサイトへの誘導

検索エンジンで検索される情報も、汚染がはじまっています。
検索エンジン自体がおかしなことをやっているわけではありませんが、過度なSEO対策によって、検索されるべき情報が上位表示されない状況が発生してきています。
たとえば、弊社の製品を検索する際につかわれる「動画サイト システム」というキーワードでGoogle検索を実施してみます。
するとどうでしょうか。1ページ目に表示されるサイトは「動画サイトシステム比較」「動画サイトシステムのおすすめ」で埋め尽くされています。
※広告はのぞきます
弊社の競合さんのシステムも含め、動画サイトシステム自体は検索結果として表示されません
「動画サイトシステム比較」を行っているサイトを見てみると、恣意的に特定の製品に誘導しようとしているものなどが見られます。
誤った情報を拡散するためにこのようなことをやっている、とまでは言えませんが、得たい情報が得にくくなっている状況になってきていることがわかります。
ここでは上記のような例をあげましたが、偽情報を拡散させるために上記のような事をやっている場合もあります。 間違っている医療情報がGoogle検索で上位表示されてしまっており、問題になったことも過去にありました。
この問題は各所で指摘され始めています。

偽情報をなくす取り組み

上記のように、偽情報は社会に悪影響を与え、利益を損なわせます。 場合によっては人の命にもかかわります。
偽情報をなくすため、SNS運営社や動画投稿サイトではすでに様々な取り組みがはじまっています。

ディープフェイク検出AI

動画などのディープフェイクを検出するAIが開発されてきています。 精度の高いディープフェイクを作成するAIとのいたちごっこになっている面もあるようですが、偽物を判別するために必要な取り組みです。

YouTubeでは間違ったがん治療の紹介動画を削除

がん治療に関しては、民間医療ビジネスのために間違った情報を流す方が多いようです。 YouTubeへの動画投稿も多分に漏れず、間違った治療情報があふれてしまっており、視聴者の生命にかかわるケースも出てきているはずです。
そういった背景があり、
YouTubeが、「有害または効果がないと証明されたがん治療」を宣伝するコンテンツや、視聴者が専門的な治療を受けることを思いとどまらせるようなコンテンツを削除すると発表しました。

X(旧Twitter)のコミュニティノート

Xでは、承認されたユーザーが他人のツイートに補足情報を追加できるようになりました。 コミュニティノート、という機能です。 間違っている内容や情報が不足している発言に対して、コミュニティノート執筆が許可されたユーザーが詳細なコメントをつけることができるようになっています。 以下、コミュニティノートの例です。

終わりに

今回は弊社の事業には直接的に関係のない記事を書きました。
インターネットを利用した偽情報の発信と蔓延は、インターネットそのものの良さを消してしまうほどの問題であるため、我々のようなインターネットでのサービス事業者だけではなく、利用者の立場からもしっかりと認識して考えていかなければならない問題です。
少し余談になりますが、最近は「他人が面白いと評価した映画しか見ない」というSNS投稿をよく見かけるようになりました。 主観を持とうとしない、ということの表れの一つではないだろうかと感じています。
他者の考えをそのまま受け入れることはとても楽です。今の流行でいえば効率的でコスパがいいのかもしれません。
しかしそれだけでは様々な視点を持つことができません。嘘を嘘と思えなくなります。
時にはコスパを無視して自分で体験し自分の考えをもち、異なった考えの人と議論をすることも大事で、それによって自分の主観・価値観、うそを見抜く力が培われるのではないでしょうか。
たしかに、とても膨大になった情報を精査しながら考えることは、かなり面倒になってきています。それは否定できません。 ただそれに流され、自分で見聞きし考えて「自分の結論」を出さないことは危険なのではないでしょうか。
偽情報に踊らされないためには、仕組みとしての防止策も必要ですが、いろいろな視点を持って考える力をつける、ということも大事なように思います。