新たな規制を検討するにあたり、将来的には、その規制のあり方を生成AIに質問を入力して得られた回答を参照して検討することも当然想定される。過去の規制事例やその効果などをAIが網羅的かつ悉皆的に学習し、確実かつ効果的な規制を検討するにあたって必要な知見を求めることが有用であることに疑いの余地はない。しかし、「AIのAIによるAIのための規制」を中心として規制が検討される時代が到来し、AIが導き出した最適解に対案を示すことが許容されなくなったとき、人類には困難な将来が待ち受けている。

そのような危機感を想定してか、G7デジタル・技術大臣会合「閣僚宣言」（2023年4月30日）では、「責任あるAIとAIガバナンスの推進」として、AIガバナンスのグローバルな相互運用性の促進、生成AIについて検討を行う場を設けることなど、AI規制の方向性を議論するための検討事項が示されている。ただし、ここで明らかになったことは、これまでの規制への向き合い方と同じ議論が繰り返されている点である。例えば、日本は、法規制など厳格な規制によって対応するのではなく、ガイドラインや自主規制等、いわばソフトローによる対応が望ましいという方向性で一貫している。その対極にあるのがEUであり、厳格な規制によって対応すべきであるという方針を譲る気配はない。

AI規制について各国が及び腰になっている状況下において、EUだけがその規制方法を先行して明示している。AI（人工知能）の利用を規制するEUの法案である「AI整合規則提案」（人工知能に関する整合規則（人工知能法）の制定及び関係法令の改正に関する欧州議会及び理事会の規則提案）が、2021年4月21日に欧州委員会から公表されている。AIシステムのリスクに応じて利用禁止も含む利用規制を定めるものである。EU市場で販売（上市）する製品の製造者や輸入者等に課されている製品安全規制同様の義務を、高リスクに分類されるAIシステムにも拡充して、販売（上市）対象の製品がEUの基準に適合していることを表示するマークである「CEマーキング」の対象とし、そのための適合性評価及び第三者認証制度を構築することで新たな法整備を目指している。

EUが提案した規制が、実質的に世界的なルール形成に影響を及ぼすことを「ブリュッセル効果」と呼ぶ学説がある（『ブリュッセル効果 EUの覇権戦略：いかに世界を支配しているのか』アニュ・ブラッドフォード著、庄司克宏監訳、白水社　2022）。①市場規模、②規制能力、③厳格な規制、④非弾力的対象、⑤不可分性の5つの条件を充たす場合に市場における規制力を発揮することができる仕組みをいう。EUの新たなAI規制は、今後のAIの研究開発及び社会実装に向けて文字通りのブリュッセル効果を発揮する分野になると考えられる。

AI整合規則提案が示すAI規制の目的は、（a）EUにおいてAIシステムを上市、サービス開始及び利用するための整合規則、（b）特定のAI利用禁止行為、（c）高リスクAIシステムに関する要求事項及び義務、（d）自然人との対話を目的としたAIシステム、感情認識システム、生体情報分類システム、画像・音声・映像コンテンツの生成又は処理を目的としたAIシステムの透明性に関するルールの整合性確保、（e）市場のモニタリングと監視である。生成AIについては（d）においてAIシステムの透明性を確保することが定められている。しかし、テキスト生成AIについては（c）高リスクAIシステムに含める検討とともに、透明性確保のために定められている開示義務、そのための「表示」も追加する検討がなされている。

新しい技術が登場すると、その技術を規制するための議論がなされることが多いが、規制すべきは技術そのものではなく、それを利用する人間側の規律である。また、生成AIへの注目とともに、にわか規制論が跋扈し始めている背景には、未知の存在への畏怖や不透明な要素によるところが大きい。

AI規制は、情報処理の単なる高度化に伴う問題ではなく、AIによる自律的判断に伴う問題が検討すべき課題の本質であって、その議論は既に第3次AIブームの始まりとともに議論がなされてきている。今、試されているのは、AIの自律に対する人間側の自覚である。

自分の名前を入力して質問をすると、自分とは違う人物のプロフィールを返してくるなど、堂々と嘘をつくAIを嘲笑っている状況はそれほど長く続かず、そもそも情報が誤っていてもその信憑性を確認（ファクトチェック）することすらできなくなるであろう。そうなると、ファクトチェックを依頼するAIを開発しなければならなくなるが、さらにそのファクトチェックが正しいことを確認するAIを開発しなければならないという無限ループに陥る。

今後、指数関数的にAIはその出力結果の精度を向上させ、我々が想像している以上にその自律性が飛躍的に向上する。AIは人類が開発した技術である。しかし、その技術に人類の叡智が追いついていかない状況を如実に表しているのが、皮肉にも生成AIの進化に伴うAI規制をめぐる議論である。

信頼できるAI（Trustworthy AI）に求められるAI規制のあり方を、AIにしか回答を導き出すことができないような時代が到来しないよう、これからも法学者としての研鑽を積みたい。生成AIと相談しながら。

＊本研究は、JSTムーンショット型研究開発事業、JPMJMS2215 の支援を受けたものです。

※所属・職名等は本誌発刊当時のものです。