ジョン・スチュアート・ミルは、「人間が獲得しうる最高の知性は、単に1つの事柄のみを知るということではなくて、1つの事柄あるいは数種の事柄についての詳細な知識を多種の事柄についての一般的知識と結合させるところ」と説く（『大学教育について』J・S・ミル著、竹内一誠訳　岩波書店　2011、28頁）。

テキスト生成AIであるChatGPT を利用した人は、質問に対する回答文章の自然さとスムーズな応答かつ博識な内容に驚愕している人も多いと思われる。しかし、最高の知性を獲得しているかのように見える生成AIは、実際には膨大な量のテキストデータを学習して構成される大規模言語モデルから、質問に関係する情報を組み合わせて回答を出力しているにすぎない。つまり、生成AIはミルがいうところの最高の知性とは異なるものである。

「多種の事柄についての一般的知識と結合させる」ための作業を生成AIに代行させることによって人間の知性を高めることができるのか、それとも、AIの知識に凌駕されてしまい逆に人間の知性は低下してしまうのか。不確実かつ未確定な要素が多い生成AIに疑心暗鬼になりつつある状況が、にわかAI規制論を生み出す結果となっている。

AIの研究開発は、1950年代、1980年代、2011年以降と3度のブームを経て現在に至る。これまで、AIの活用事例といえば、掃除機などのAI搭載家電、スマートスピーカー、自動運転車など、製品やサービスにAIが「組み込まれている」ものであって個別の分野や領域を対象とする「特化型AI」を利用する機会が一般的であった。

生成AIは、大量のデータを学習して新たなデータを生成することができ、画像・動画、音声・音楽、テキスト生成や翻訳など多様なコンテンツを生成する際に威力を発揮する。「汎用性が高いAI」ではあるものの、いわゆる「汎用型AI（Artificial General Intelligence）」ではないが、より人間に近い能力を発揮できる汎用型AIの幕開けを予感させるものであり、その実現に向けたパンドラの箱を開けてしまった感は否めない。

これまでのAIブームでは、音声入力や画像認識など、入力した情報を認識して識別し推論するAIが主流であった。例えば、入力した音声の内容と一致するよう正確なテキストを出力したり、膨大な量の画像から特定の人物の顔を識別して抽出することがAIに期待される役割であった。一方、生成AIも同じくテキストを出力するが、入力する情報や指示に応じて人間が考えたり創作するように多様なコンテンツを生成する。特定の画像を探し出してくるのではなく新たな画像を創作し、単に文字起こしをするのではなく文章を執筆する。

AIの実用性が限定的なものであっても、将来的にAIが発達し、いわば映画のターミネーターのような人類への脅威になるといった架空・仮想の脅威が強調されることが多かった。そのような段階を脱する生成AIの汎用性は、AIの驚異的な有用性の実感とともに、具体的な危険性や脅威を認識する転機となることは間違いない。

AIの研究開発から利用をめぐるリスクは、総務省のAIネットワーク社会推進会議をはじめとして国内外で緻密な議論がなされてきた。2019年5月に経済協力開発機構（OECD）の閣僚理事会が採択した「人工知能に関する理事会勧告」は、人権と民主主義の価値観を尊重しつつ、信頼できるAIの責任ある管理を推進することにより、AIのイノベーションと信頼を促進することを目的とするものである。

ChatGPTをはじめとする生成AIのインパクトにより、その汎用性に伴う具体的なリスクを見通すことができず、これまでの議論の蓄積が役に立たないかのような錯覚に陥りつつあるが、そのリスクの抽象性ゆえに、現在に至るまでの議論がどの程度有用なのか評価できていないにすぎない点に留意すべきである。

AIの研究開発や利活用に向けて必要な原則が検討され既に提案されているにもかかわらず、新たな技術の登場やイノベーションの促進において、法規制への抵抗感や規制不要論がまた繰り返されようとしている。「規制＝悪」であり、イノベーションの促進を阻害するという短絡的な批判に終始せず、生成AIの利用に向けてこれまで避けてきた本来かつ本質的に必要な「規制・規正・規律」を検討すべきである。