水谷　一種の「数値」の魔力ですね。アテンション・エコノミーは、最初は新聞から始まったと言われています。タブロイド紙の問題やテレビも視聴率競争の問題は常にありました。

そうすると、いわゆるオールドメディアが中心になっていた時代のアテンション・エコノミーと今のアテンション・エコノミーは、どう違うのか。馬籠さんはどう思いますか

馬籠　今はネット上に面白いものが多過ぎると思っています（笑）。例えば10代、20代の方々って毎日かなりの時間を、インターネットに費やしているわけですよね。

面白いことが多すぎるのが、時間の奪い合いの最たる要因なのかなと思っています。なので、メディア自体が衰退しているということではなく、競争相手がものすごく増えてきたということですよね。先ほどタイパの話が出ましたが、それはやはり面白いコンテンツが目白押しになっているという話なのかなと思っています。

ですから考える時間が、だんだん少なくなっているのではないか。そうなると、今見たものにそのまま意識が持っていかれて、影響を受けやすくなってくるのではないかと思うんです。ですから、情報的健康といった概念が大事になるのかなと思います。

水谷　本質的なご指摘だと思います。学生と話していると、ソーシャルメディアで「時間が溶ける」と言うんです。うまく現状を表しているなと。

要するに溶けるということは、気づいたら数時間経っているとか、日が暮れているみたいなことですよね。まさに、自分で自分の時間や興味関心をコントロールできていないのではと思います。単にコンテンツの問題ではなく、ソーシャルメディアがそれをいかに「見せる」かをデザインすることで私たちは時間を「溶かしている」。そういう「構造」を持っているという話かと。

馬籠　きっとそうですよね。すごく優秀な人たちが自分のアプリやメディアにユーザーに関心を持ってもらおうとしているので、ユーザーサイドでコントロールはなかなか難しい状態になってきているんだろうなと思います。

水谷　いまお話しした「構造」の話と関わるプラットフォームのデザインの話に移りたいと思います。アルゴリズムやユーザーインターフェースそのもののデザインはプラットフォーム側に握られています。ソーシャルメディアでは、そうしたデザインの力が大きく働きます。

僕はこれを情報環境形成力という言い方をしているのですが、一方で、この情報環境形成力は、良い方向にもいろいろと使えると思っています。まさにヤフーニュースのコメント欄の多様化モデルの話などがそうだと思いま す。プラットフォームのデザインの点で、LINEヤフーが取り組まれていることをお話しいただきたいと思います。

今子　プラットフォーマーの社会的責任ということになるかもしれませんが、ヤフーニュースでは、以前から健全な情報空間を目指してサービスを運営しています。

今ご紹介いただいた「コメント多様化モデル」は、AIを活用して、コメント一覧の上位に似た内容のコメントばかりが並ばないようにして、ヤフコメの内容の多様性を確保する、という仕組みです。特定の意見が増幅される「エコーチェンバー現象」の軽減効果も期待できるのではないかと考え導入しました。また、付け加えると、2024年に「コメント添削モデル」の提供を開始しました。コメントの閲覧者が不快と感じる可能性のある表現に対して、投稿を完了する前にAIが表現の見直しを提案するというものです。

ガイドライン違反かどうかがグレーでも、他のユーザーを不快と感じさせる可能性のある投稿は、大量に投稿されたりすると場が荒れてしまいます。そのような投稿を検知した場合に「コメント添削モデル」のAIが発動し、表現をハイライトして、「ご確認ください」と見直しを促し、冷静になって考える時間を持ってもらいます。これにより場の健全化につながったという結果が出ています。コメント添削モデルの導入前の4週間平均と導入後の4週間を比べると、不快と感じる可能性のあるコメントの投稿は24%ほど減少したことが確認できました。

ソーシャルメディア時代では、じっくり考えるよりも、「システム1」と言われるせっかちに答えを出す脳の働きが強くなってしまうことがあるようなので、AIが見直しを求めて考える時間を与えることもまた、解決の1つかもしれないと思いました。

水谷　アーキテクチャで対策を考えることの重要性がよくわかるお話でした。私は法律によってもっと厳しいネットの誹謗中傷規制をすれば、誹謗中傷はなくなるのでは、と言われることがあるのですが、そんなことはあり得ないと思っています。

表現の自由の問題ももちろんあるし、そもそも法規制そのものが事後的対応がメインなので、どうしても限界があるのです。ですからナッジとかスラッジといったアーキテクチャ的な手法で対応する方策が1つあると思います。今お話にあった添削モデルというのは、ある意味スラッジなのかもしれません。ボタンを押す指を止めさせるような仕組みですね。

しかし残念ながらそうした取組を積極的に行う事業者ばかりではない。なかなか自主的にそれをやるインセンティブがない中で、これをどうやっていくかが課題になりますね。

谷原　今主流のプラットフォームは、Xもフェイスブックも中央集権型のサーバーです。言ってみればトップの一存で情報空間が決められてしまう。Xはイーロン・マスクになってから、研究者がアクセスできるAPI（Application Programming Interface）が有料でしかも限定的になりました。フェイスブックも申請が面倒でTikTokは米欧にしか認めていない。その状態は健全でないと思っています。

それに対してBlueskyとかMastodonは分散管理型のサーバーなので、かなりの程度ユーザーが自分の情報空間をカスタマイズできるんです。もちろんそれはそれで批判はあるのですが、新聞が一紙しかないような状態よりは、私はましだと思うのです。

ユーザーが自分の好きな仕様のソーシャルメディアが選べる自由があれば、まだ健全な情報空間形成になるのではと思っています。少なくとも今のイーロン・マスクとマーク・ザッカーバーグの一存ですべての情報空間が変わってしまうのはしんどいと思うのです。

水谷　わかります。Threads（Meta）もフェディバース（独立したソーシャルネットワークを相互に接続・運用する仕組み）と提携しているし、「ミドルウェア」という提案もあります。

谷原　そうですね、ThreadsはMastodon 由来のポストが見えるようになりました。だからそこはネットワークのポータビリティのさらに先で、DMAで言うと7条の相互運用ですよね。まさにGmailと他のメールサーバーがやりとりできるような感じでメッセージの相互運用ができる。そういう未来もあると思うのです。

ただ技術的なハードルや、第三者の情報を持っていけるんですかといったハードルはたくさんあるのですが、今の数社による寡占というのは何とか打破しないといけないと思っています。

水谷　ただ分散型ソーシャルメディアとかミドルウェアは、谷原さんもおっしゃられたように、実は批判も結構あり、分散することによって余計ひどくなるのではないかと。コンテンツモデレーションは、中央集権的な仕組みで、プラットフォームがルールを決めて、ヘイトやフェイクや誹謗中傷などルール違反のものを管理して、AIも使って削除している。ところがこれが分散型になっていくと、管理の基点も分散してしまう。それぞれがしっかりやってくれるという保証はないよね、と。ですが、私は1つの方向性として、分散型の未来のソーシャルメディアの可能性はあるのではと思います。

谷原　おっしゃる通りです。例えばBlueskyは、政治系の話題を全く見たくなければ、ラベルをつけて非表示にすることができる。それはフィルターバブルではないか、と言われるかもしれませんが、少なくとも誹謗中傷や偽・誤情報を見たくないという人のニーズは満たせると思うのです。

何より、自分の情報空間を選ぶ権利が、今それがほぼソーシャルメディアにおいてはないので、良くないのではないかと思っています。

事実上、今の日本では、選ぶことはできないんですね。テキストはXで、そこにフォロイーとフォロワーがいるので、今さらBluesky に移ってゼロから始めますかと言ったら、始めない。映像だったらYouTubeとTikTok。画像だったらInstagramですよね。そこですでにネットワークを築いてしまっているので、皆他に移ってゼロからやらないわけです。

でもヨーロッパだと、例えばガーディアンはXをやめてBlueskyに行っていますし、欧米の研究者も、結構XをやめてBluesky に行っています。それはやはりXのコンテンツモデレーションのあり方に不満を覚えて、Blueskyで自分でできたほうがまし、という判断なのだと思うのです。しかし今の日本では、独占状態で他に移ろうという気にならないと思うんです。

水谷　やはり日本だと皆、かなりXに残っていますよね。BlueskyのアカウントもつくっているけれどそこにXでフォローしていた人たちが来ているかと言うとほとんど引っ越していない。

だからある意味、引っ越しの自由のような、選択の機会自体が現状日本にはないという感じですね。

谷原　フランスなどは、一応Xはネットワークデータのダウンロードはできるので、研究者が、それをWebアプリみたいなものにアップロードすることで、Blueskyにアカウントのある友達は半ば自動的に再構築できるみたいなシステムをつくったりしています。

水谷　絹川さん、記者の視点から、プラットフォームの権力について経験的に思うことは何かありますか。

絹川　一番は、海外の事業者は取材が難しいと感じることが多いということです。取材をしても、詳しいことは聞けず、こちらを読んでくださいとポリシーだけが送られてきたこともありました。今の時代、プラットフォームの影響力は大きく、巨大な「権力」になっていると言えるかもしれません。

それなのに、詳しいルール運用の実態や実際のアルゴリズムもわからないという状況が生まれています。プラットフォームが事実上のルールメーカーになっているということに、取材者としてどう向き合っていくべきかを日々、考えています。

水谷　プラットフォームの権力の問題は、ケイト・クロニックという有名な法学者が、「The New Governors（新たな統治者）」だと評しています。政府そのものではないけれど、それぐらいの権力をコンテンツモデレーションの領域において有している、と。山本龍彦先生も海の魔物「リヴァイアサン」にたとえられる国家に対して、プラットフォームは陸の魔物「ビヒモス」のような存在だと指摘されていますね。

谷原さんのご指摘は、権力が中央集権で集中しているところを、分散していくところに1つの解決策を見出したものですね。

もう1つの方向性は、その集中した権力の使い方です。これを民主的な法律によってコントロールするのはなかなか難しい。EUはDMAもデジタルサービス法も、それ以外の個人情報保護もGDPR（一般データ保護規則）などの法制度設計でコントロールしていこうという発想がとても強い。

一方でアメリカは基本的に自由至上主義です。これはトランプ以前からで、プラットフォームを規制しようとすると、どうしても表現の自由が関わってくる。なのでアメリカでは、独禁法とか競争法の規制の議論になりますが、それも成功しているかは疑問で、アメリカはコントロールというよりはリバタリアニズム的傾向が強いですね。