現在のSNS空間には、生成AIによる偽画像「ディープフェイク」などの偽誤情報もあふれている。同級生らの写真を使った性的ディープフェイクは世界的に問題となっている。

警察庁によると、2024年の未成年の性的な偽画像に関する警察への相談や通報は100件を超えた。被害者の多くは中高生だが小学生も含まれ、「自分の顔写真で作られた裸の画像がSNSに出ている」などと訴えている。

海外で性的なディープフェイク画像そのものを規制する動きが広がり、日本では鳥取県が条例を改正し、子どもの写真で性的な偽画像を作ることを罰則付きで禁止した。国のWGでも法整備を含めた対応を求める意見が出たが、議論はまだ深まっておらず、一部のSNSには画像があふれている。

近年の研究では、SNSの過度な利用によるメンタルヘルスへの影響も明らかになってきている。

国立精神・神経医療研究センターなどは、思春期におけるネットに時間を使いすぎたり、使い始めるとやめられなかったりなどの不適切な使い方は、幻覚や妄想、抑うつといったメンタルヘルスの不調につながることを確認したとしている。

そんな中、SNS事業者の自主的な取り組みが進みつつある。一例が、事業者が問題ある投稿を監視し、削除する「コンテンツモデレーション」だ。LINEヤフーは、2024年度に「LINE　VOOM」に投稿されたショート動画約4億件のうち、性的な表現や自殺に関する内容が含まれるものなど約305万件（0.8％）を削除した。

子どもの保護策も始まっている。インスタグラムは今年1月から、日本国内で13～17歳の利用者を対象に、暴力的な表現や性的な画像、過度なダイエットを促すものなど不適切な内容を含む投稿の表示を自動的に制限する「ティーンアカウント」というサービスを始めた。1日あたりの利用時間が1時間を超えると、アプリの利用を中止するよう促す通知が届くなど、依存の防止も図っている。

SNSは多様な情報への扉として、子どもたちの視野を広げ、可能性を引き出すツールであることは言うまでもない。しかし、事業者が利益を優先し、SNSへの依存を招くような手法を用いることは許されない。健全な利用を促すことは事業者の責務であり、国は事業者の取り組みを促す施策を進めていくべきだ。子どもが安心してSNSを活用できる環境をどう確保するのか。対策は待ったなしだ。

※所属・職名等は本誌発刊当時のものです。