【特集:AIと知的財産権】
大屋雄裕:AIと悪と倫理
2023/06/05
悪のAIは存在するか
たとえば運転者が急ブレーキによって自分自身が傷付くのを避けるために歩道上にいた歩行者3人をあえて撥ねるという選択をしたとすれば、我々は彼が悪い選択をしたと言うだろうし、自らの悪い行為に対して責任を負うべきだと非難するだろう。あるいは彼は悪人であり、道徳的な観点から問題のある人物だと評価するかもしれない。では同じような状況で、AIの操縦する自動運転車がその内部にいる乗客を守るために同様のふるまいを示したとして、それはAIの選択や行為なのだろうか。あるいは、そのAIは悪いのだろうか。
もちろんその結果について、被害が大きいとか守り得た価値と釣り合いが取れていないといった意味において不適切だとか、AIとして出来が悪いと我々は言いたくなるかもしれない。しかしここでいう「悪さ」は技術的な巧拙に関するものであり、道徳的な善悪とは関係ないだろう。ここで我々が倫理的な問題を指摘するとすればその対象はAIではなく、そのAIを設計した製造者ではないだろうか。
我々が善や悪といった属性を帯びると考えるのは、一般的に道徳的主体──道徳的な原理や主張に反応して一定の選択や行為を行なうような存在のみである(誰も火山噴火が被害者を生んだことを道徳的な悪として批判することはないだろう)。そして少なくとも現在の段階のAIは、しばしば「弱いAI(weak AI)」とも形容されるように、自らの精神や意識を持たないのであった(それらを備えるようになった段階を「強いAI(strong AI)」と呼ぶ)。AIが何を行なったにせよ、それは利活用者による指示を受けて一定の反応を示しているだけであり、このような存在に対して我々が行為や選択に対する責任を問うことはないと言うことができるだろう。AIは悪であり得ない。だがここで問題にしたいのは、だからこそ問題なのだということなのである。
偽情報と意図の存在
サイバーセキュリティの文脈で内容的に誤った情報がSNSなどを通じて広く流通してしまうことを問題にする際に、我々は「偽情報(disinformation)」と「誤情報(misinformation)」の区別を明確にすることを心がけている。一般的な整理によれば前者は、それによって一定の効果を社会に引き起こすことを目的とした主体が意図的に流布させる、あるいは作り出す情報であるのに対して、後者はそのような意図を帯びておらず単にその内容が誤っているような情報のことを意味している。
ウクライナ侵略に際してロシアが流布することを試みた情報、たとえばウクライナ軍内部において極右勢力が大きな地位を占めており、東部のロシア系住民に対してさまざまな人権侵害を行なっているというものなどが前者の典型であろう。それに対し、東京電力福島第一原子力発電所から回収された水について、ALPS(多核種除去設備)で浄化したとしてもなお危険なレベルの放射性物質を含んでいるといった情報は、含有されるトリチウムの濃度がWHOの定めた飲料水に関する国際基準の7分の1未満とされていることを踏まえれば、それ自体としては単なる内容的な誤りであり、誤情報であるにすぎない。不安から、あるいは単なる無知からその危険性を主張してしまう人はいるだろうが、そのような誤り自体は(九九を暗唱しそこねる小学生がある程度の人数いるように)一定の確率で生じるミスであるにすぎず、道徳的な善悪の問題でもないだろう。
もちろん、このように誤った情報を流布することで政権を攻撃したいとか選挙戦を有利に戦いたいといった意図が介在する場合もあるから、偽情報と誤情報の違いは文脈に応じた相対的なものでしかありえない。だがここで注意すべきなのは、両者を画する重要な要素として意図の存在、そのような情報を受けた相手の反応を一定の方向へと誘導したいという欲望があることである。だからこそ、逆に言えば我々はこのような観点から情報の信頼性を評価するという典型的な手法を身に付けているということになる。
たとえば憲法38条1項は、「何人も自己に不利益な供述を強要されない」と規定している(自己負罪拒否特権)。一般的に人は自らが罪に陥ることを忌避し、それを避けるために自分に有利な証言をしようとする傾向があると、我々は想定している。その傾向を国家権力が強要によって歪めるとすれば、裁判の公正が妨げられることになる。それを禁ずるのがこのような規定の趣旨だろう。
この規定が遵守されていることを前提として、しかし強要されることなく被告人が自らにとって不利な証言をしたとしよう。たとえば自分自身が犯人だという自白であったり、自分には明らかに殺意があったという内容を証言したとすれば、第三者をかばってあえて罪を着ようとしているといった特殊な事情がない限り、我々はそのような証言が正しいものだと考えることができるだろう。逆に、自分は本当は犯人ではないとか、悪意はなかったといった主張については、一定の作為に基づく可能性があるとして、その内容を厳密にチェックすることを試みるのではないだろうか。ここでは、真実と異なる証言をするという作為は主に自らに有利な方向に働く(だから不利な証言は作為が含まれない事実である可能性が高い)という我々の経験則が機能している。我々は、自分が対話している相手には一定の意図があり、自己利益を図るように行動しているという前提を置くことによって、相手の発言や情報それ自体の信頼性を推定するという手法を一般的に用いていると言うことができるだろう。
2023年6月号
【特集:AIと知的財産権】
カテゴリ | |
---|---|
三田評論のコーナー |
大屋 雄裕(おおや たけひろ)
慶應義塾大学法学部教授