ChatGPTをはじめとする生成AIが大きな関心を集めており、本屋には多数の生成AIを啓蒙する本が並んでいます。その状況で新たに上梓するからには、生成AIの効用に加えて、生成AIのリスクや影響を解説することにしました。実際、生成AIは未完成な技術であり、企業などが業務に使うとなるとリスクや影響を直視する必要があるからです。

福澤諭吉先生は「信の世界に偽詐（ぎさ）多く」という言葉を残していますが、生成AIの仕組みは単語と単語を確率的に繋いで、それらしい文章を作っているだけです。当然、間違いが多く、生成AIの出力をむやみに信じるべきではありません。さらに生成AIには偏り（バイアス）の問題もあります。例えばChatGPTの場合、リベラル寄りの文章を生成するという指摘があります。これはChatGPTを構築・運用するOpenAIは誹謗中傷を含む文章の生成を避けるために、学習対象となる文章から誹謗中傷の表現を含む文章を外したといわれます。それはリベラルではない方々が書いた文章には誹謗中傷の表現が比較的多く、その結果、リベラルではない文章の学習が減ったためと推測されています。つまり生成AIを偏らせるのは簡単です。例えば生成AIに料理のレシピを作らせたとき、特定のメーカーの特定の調味料が含まれるなどのステルスマーケティングも起こりえます。また、強権的国家には生成AIは魅力的な技術になります。生成AIは我々が知りたい答えをお手軽に教えてくれることから、その結果に満足して、答えの元となった情報をわざわざ調べることはなくなりがちです。強権的国家にとって都合の悪い情報を排除した生成AIを国民に提供した場合、その国民は国家にとって好都合の情報空間に閉じ込められることになります。

さて前述の福澤先生の「信の世界に偽詐多く」には続きがあり、それは「疑の世界に真理多し」です。生成AIの時代、残念ですが、偽情報や誤情報に満ちあふれる事態が予想され、その結果、人間には雑多な情報の中から正しい情報を見極める力が求められます。本書がその一助になれば幸いです。

『ChatGPTは世界をどう変えるのか』
佐藤一郎
中公新書ラクレ
240頁、968円〈税込〉

※所属・職名等は本誌発刊当時のものです。