1　旧法下のアカウント凍結対応の実務

このように、筆者としても、一定のコンテンツモデレーションそのものは必要と考えるものの、その方法次第では表現者の権利に重大な影響を及ぼし得るところである。そして、運営者は、個別投稿の削除、アカウントの一時的停止、（一時的な）機能制限等の様々なコンテンツモデレーションの手段を有している。

そのような多数の手段の中でも、「アカウントの（永久）凍結」は、表現者へ及ぼす悪影響が極めて大きい。特に、利用規約上、永久凍結処分を受けた者はその後別のアカウントを作成することが禁じられることも多い。その意味で、凍結は当該ソーシャルメディアにおいて今後表現することが禁じられる、極めて重い処分である。例えばある表現者が現に利用規約に違反し、かつ、違反に対して利用規約上凍結が可能と規定されていたとしても、軽微な利用規約違反が直ちに凍結処分を正当化するとは考えるべきではなく、あくまでもそのような処分の量定が他の選択肢との比較の中で正当な場合、具体的には他のより緩やかな措置では表現者に利用規約を遵守させるとか、当事者の権利を保護するという目的が達成できない場合等に限定すべきである。それにもかかわらず、一部の運営者により凍結の選択が比較的安易に行われているのではないか、という問題は、長期に渡って提起されている。例えば、2024年の兵庫県知事選挙では、斉藤知事の対立候補のⅩアカウントが選挙期間に複数回凍結されたところ、ⅩのAIのアルゴリズムが、組織的な通報に「騙され」、凍結を繰り返したのではないかと指摘されている＊4。

特に、どのような場合に、最終手段である永久凍結処分を選択するのか等の基準が明確に定められておらず、ある意味では、運営者の「自由裁量」により恣意的に凍結処分ができるようにも読めるような利用規約やガイドライン等を定める運営者が存在することが重大な問題である。つまり、凍結というのは、本来は運営者におけるソーシャルメディアサービス契約上の債務不履行なのであり、そのような債務不履行行為が正当化されるためには、相当の厳格な要件が充足されることが必要なはずである。それを仮に利用規約に定めたとしても、そのような処分を恣意的に行うことができるというのは、ソーシャルメディアサービスの重要性や運営者の社会的責任の観点から到底許容できないことである。

AIのアルゴリズムの不当な利用を含む、不適切な凍結に対して、筆者は長年表現者を代理して運営者と戦ってきた。例えばVTuber を代理して国際的動画配信プラットフォームを東京地裁で訴え、勝利した＊5。

このような実務対応の中では、まずは裁判外におけるやり取りで凍結解除を試み、それが不可能な場合には、裁判手続を行うという2段構えで、多数のアカウントの凍結解除を実現してきた。即ち、不当凍結が単にAIアルゴリズムの誤りであれば、弁護士が代理人としてついたとして通告することで、人間の担当者がレビューし、誤りに気付き、凍結が解除されることがある。通告をしても凍結が解除されなければ、裁判手続を利用することで、日本の弁護士が代理人に就任することから、手続の中でどの投稿がどうして凍結を必要とするような重大な違反と判断されたのか等を追及することで、凍結が解除される可能性がある。

筆者としては、上記のとおりコンテンツモデレーションの必要性そのものは理解しており、決して「一切コンテンツモデレーションをすべきではない」とは主張していない＊6。しかし、そのコンテンツモデレーションの手法の中に、表現者に対するダメージが大きいものから小さいものまでがある以上、その選択においては表現者の行為の程度にみあった適切なものとすべきである。

また、筆者として、そのようなコンテンツモデレーションのためにAI等を利用することの必要性も理解している。しかし、アルゴリズムが不公平なものとなる＊7等、問題が生じる可能性がある。そこで、そのようなAIによる問題のある処理が、自社の正式な判断として表現者に表示されることがないように、人間の確認プロセスを入れた、いわゆる「ケンタウルスモデル」等を含む対応を検討すべきである＊8。

2　情報プラットフォーム対処法

ここで、情報プラットフォーム対処法は、一部の大規模な運営者に削除等の体制構築を義務付けることで、裁判手続外において、問題がある投稿が迅速に削除されることを期待している。

すなわち、「月間アクティブユーザー1000万以上または月間投稿数200万以上」などの規模要件、侵害情報の送信防止措置が技術的に可能であること、そして権利侵害発生のおそれが少ない特定電気通信役務ではないこと、といった3つの要件に基づき、一部の大規模な運営者を指定し、特別な義務を課すこととした。現時点では、Google（YouTube）、LINEヤフー（Yahoo! 知恵袋、LINEオープンチャット等）、Meta（Facebook、Instagram）、TikTok Pte.Ltd.（TikTok、TikTok Lite）、X Corp.（X）、ドワンゴ（ニコニコ）、サイバーエージェント（Abemaブログ）、湘南西武ホーム（爆サイ）、Pinterest Europe Limited（Pinterest）などが指定されている。

そして、これらの大規模運営者に対しては、情報プラットフォーム対処法において主に以下のような、当該運営者の運営するプラットフォーム上の権利侵害に対する対応が求められている。

・ 削除申出受付方法の公表（同法22条）：対象者からの削除申出を受け付けるための方法を定め、オンライン等で公表する義務がある。この方法は、日本語での申出が可能で、対象者に過重な負担を課さないものでなければならない。

・ 侵害情報調査の実施（同法23条）：削除申出があった場合、遅滞なく必要な調査を行わなければならない。

・ 専門員の選任（同法24条）：削除申出があった場合、遅滞なく必要な調査を行うために権利侵害対処に関して十分な知識経験を有する専門員（弁護士等）を選任しなければならない。

・ 対象者への結果通知（同法25条）：申出から原則7日以内に、削除措置の有無とその理由を対象者に通知する義務がある。措置を講じない場合は、再度の申出に資するよう、具体的な理由を明示する必要がある。

・ 削除基準の公表（同法26条）：自ら定めた削除基準を公表し、それに従って削除措置を講じる必要がある。

・ 表現者への通知（同法27条）：削除措置を講じた場合は、遅滞なくその旨とその理由を発信者にも通知しなければならない。

・ 措置実施状況の公表（同法28条）：毎年1回、削除申出の受付状況や対象者および表現者への通知状況、このような状況に対して自身が行った評価等を含む運用状況を公表する義務がある。

これらの義務に違反した場合、総務大臣は違反是正のための勧告や命令を行うことができ（同法30条）、命令に正当な理由なく違反した場合は、行為者への拘禁刑や罰金、法人への罰金といった罰則が科される（同法35条、37条）。

3　情報プラットフォーム対処法とアカウント凍結

興味深いことに、情報プラットフォーム対処法は、アカウント凍結について規定を置いている。

すなわち、同法2条8号は侵害情報送信防止措置を定義しているところ、これは「侵害情報の送信を防止する措置」、つまりいわゆる削除＊9を意味する。

これに対し、同条9号は「当該情報の送信を防止するとともに、当該情報の発信者に対する特定電気通信役務の提供を停止する措置」を「役務提供停止措置」と定義している。この役務提供停止措置は、特定電気通信役務の提供を停止する、つまり、そもそもサービスを提供しない措置なのだから、アカウント凍結を含む概念である。なお、「永久」に停止する、いわゆる永久凍結の場合に限らない、一時停止の場合も概念上は役務提供停止措置に含まれることには留意が必要である。

そして、同法26条2項2号は、大規模運営者に対し、削除等の基準を定めるにあたり、「役務提供停止措置を講ずることがある場合においては、役務提供停止措置の実施に関する基準ができる限り具体的に定められていること。」とする努力義務を定めている＊10。

これは大規模運営者に対してしか適用されないし、あくまでも努力義務に過ぎない。とはいえ、まさに上記の、凍結の基準が不明確であったり、いわば自由裁量的に凍結できるような利用規約やコミュニティガイドライン等の規定が見られたりするという現状の問題点に対するより実効的な対応となる可能性がある。

これは、アカウント凍結が最終手段として、事前に具体的に定められた、そのような最終手段を講じることが真にやむを得ない場合にのみ限定して実施されるべきことを裏から規定していたといえるのであり、今後のアカウント凍結対応実務において非常に示唆的であると考える。

4　情報プラットフォーム対処法の課題と改善の方向性

このように、情報プラットフォーム対処法においてはアカウント凍結についても望ましい方向性の規定が入ったところである。

もっとも、個別には、前記3のとおり、アカウント凍結の基準を具体的に定めることが努力義務に留まっているし、また、少なくとも文言上は「できる限り具体的に定める」と規定されるに留まり、定めるべき具体的な内容を明示していない。

このような課題については、例えば、前記2で述べた、措置実施状況の公表として、情報プラットフォーム対象法施行規則18条5項8号がアカウント停止等を行った件数を理由の別及び当該措置を講ずることとなった経緯の別に応じて区分して公表し、また同項10号がAIを利用してアカウント停止をした件数、同項15号がアカウント停止への不服申し立て件数（同項16号がうちAIを利用したもの）、同項17号がアカウント停止措置の撤回件数（同項18号がうちAIを利用したもの）を公表することを求めている。そこで、このような公表内容を踏まえて更に情報プラットフォーム対処法及び実務が改善していくことを期待したい。