852話　先ほどの「暁のザーリャ」事件のように日本とアメリカは著作権の根本が違います。著作権が認められた作品が著作権を得るというのがアメリカの著作権の考え方です。一方、日本は、つくった時点でその人に著作権があるということになると思います。

現状、AIが出力した、そのままの「ポン出し」を著作権があると認めるのはなかなか難しいとは思います。その著作権のないAIの画像に対して、例えばどのくらい画面に対して変化を与えたら著作権が発生するのか。先ほどちょっと色を塗っただけだと創作活動として認められないと言われましたが、これは今、クリエイター皆が一番気になっていることだと思います。

ただ、それは割合では判断しづらく、結局人間が、これはOK、これは駄目という感じでジャッジするしかないのかと思いますが、それを判断する法的な立場の人も判断はすごく難しいのではないかと思うのですが。

君嶋　AIが関与しない表現物に関しても、著作権法上保護される著作物と言えるかどうかの判断は、ありふれた表現で一定の作成者の個性が表れているかどうか微妙なケースでは、これまでも争われています。AIが道具として入った場合も同じことが言えます。

著作権法では、著作物とは「思想又は感情を創作的に表現したもの」になります。そのような表現行為は人が行うものというのが従来の考え方なので、その解釈はわれわれ社会の人たちが行い、法律上、著作物と言えるかどうかの判断をするわけです。最終的に紛争になった場合は裁判官がそれを判断し判決をする。紛争の当事者間ではその判決が強制力を持つ。これが現状です。

奥邨　「AI生成物の著作物性」と言った時に、「あるか、ないか」の議論になりますが、正確ではありません。AIが全く新規につくったものについては、「あるか、ないか」でよいですが、既存のものを一部取り込んでいるような場合には既存の部分は他人のものとして、著作物性は「ある」のです。

AIがつくったら既存のものが入っていても著作物性がなくなってしまうわけではない。新しくつくった部分と、既存の部分の組み合わせの場合、分けて考える必要があります。この点は、AIの登場による新しい問題ではなく、人間が既存のものを組み合わせたときと同じです。

852話さんがおっしゃった「ポン出し」でも、全く今まで存在しないものをAIが自律的につくったのであれば、全く著作権がないです。これに852話さんが手を加えた時に、個性が表れている部分があれば、その部分にだけ852話さんの著作権があることになります。

もしAIから出たポン出しのものが他人の既存のもののコラージュ的なものだと、既存の部分は、当然その作者に著作権があることになる。そこに手を加えたら、侵害物に手を加えてしまったことになる。

また、「何パーセントか」ということはなかなか難しく、従来から言われているように作者の個性が表れているかどうかで説明していくことになります。

852話　オマージュ、コラージュ、リスペクトというのは、今までの対人間の作品群でもあったと思います。単純に画像を用いて画像を生成する。だから他人の著作物を用いてAI生成物を出した時に、既存の著作権が残るのは理解できます。

ただ、基本的に今モデルとして画像を学習させるという一番初期の段階は法律上、別に問題ないわけですが、それを用いて出した画像は著作権が元に戻っているという話なのですか。

モデル自体は画像そのもののデータは入ってなくて、概念的なデータとかベクトルとしての、数字としてのデータが入っているという話で、ピクセルとか画の線そのものが入っているわけではない時、その著作権はどこに入っているのかが非常に気になります。

奥邨　例えばある図形の表現をベクトル・データ化しても複製は複製です。データの持ち方としてピクセルなのか、ベクトルなのかは、同じものが再製されるのなら差はありません。データを、アナログで持つのとデジタルで持つのと、どちらでも一緒だというのと同じ話になります。

問題は、表現をどこまで抽象化して人工知能が理解をしたのかということです。

852話　再現性がどれぐらいあるかという話になりますか。

奥邨　再現性は結果的な問題となります。どうやって、出力ができあがったかの過程・仕組みの話がポイントです。AIは、画のスタイル・画風のところまで抽象化されたものを持っていて、それに基づいて描いたので、似た絵になったと説明ができるかどうかです。

これは技術と法律の両面からの評価の問題になります。技術的には元の画そのものは持っていないといっても、その法的評価として、結果的に元の画が何らかの形で残っているとされることもあり得ると思います。

例えば、「ピカチュウ」と言葉で指示して、ピカチュウとそっくりな画が出てくる場合、そのAIが画像としての「ピカチュウ」を持っておらず、あくまでもピカチュウの概念を抽象的に理解し、同じものがたまたま出てきたのだ、と証明することは難しいと思います。ピカチュウという言葉だけからあの具体的な画は出てこない。あの画そのものを人工知能が覚えていると評価されがちだと思う。

ところが「ポケモン」というものをいくつも学習させて、実際には存在しない「カーネーションポケモン」をつくれと指示したら、画が出てきた。それが、後に公式につくった「カーネーションポケモン」に似ているという場合は、ポケモンに共通するスタイルを身に付けただけであって、それに基づいて描いたら偶々似ていた、ということになるんだと思います。

人間でも、何々風の絵を描く人はいっぱいいますが、それがOKか、アウトかは、事例毎に考えないといけません。

852話　例えばドラえもんの絵かき歌みたいなのを覚えた、というような概念はどうなんでしょうか。

奥邨　全く同じドラえもんの画が出てくると、概念を覚えたのではなく画を覚えたんでしょうと裁判所に判断されがちだと思います。ただ、概念は一緒だけど学習したのとは全然違うドラえもんの画も出せるのであれば、それは概念を覚えたのだという説明がしやすくなると思います。

君嶋　著作権法上は、スタイルは真似してよろしい、具体的な表現は無断で真似してはいけない、というのが基本的なルールです。

ですので印象派風の描き方、点描で描きますといったスタイルは、誰も独占できません。独占させると人間が自由に表現できなくなるからです。それに対して、印象派のモネが描いた睡蓮の具体的な表現と似た絵を描いた場合には、具体的な表現を真似していることになり、著作権の存続期間中は、（私的複製などの著作権制限事由に当たらない限り）著作権侵害になります。

ですからAIが間に入っても、出力された画像やプログラムが、今の考え方からして具体的な表現を模倣したと判断されるかどうかで、著作権侵害になるかどうかが最終的に決まってきます。

杉浦　有名な深層学習の教科書にまさしくポケモンの画像を学習して実際にいないポケモンを生成する例が載っていますね。

奥邨　被告側に有利か不利かで言うと、既存のポケモンに似ているポケモンが出るだけだと不利で、ポケモン風の新しいものが出せるのなら有利になると思います。

ピュアにスタイルを学習しているAIと、スタイルを学習しているように見えて実は画そのものを保存しているに過ぎない「なんちゃって」スタイル学習AIとに、これから法律上は評価が分かれるのではないか。

アメリカのMidjourneyが今、集団訴訟で訴えられていますが、原告は、AIはスタイルを学習しているのではなくて、学習対象画像を圧縮して持っているのだと主張しています。この訴訟の結論が出ると、セーフかアウトかの方向性が出てくる可能性はあると思っています。

君嶋　2022年10月にShutterstockという写真やイラストの提供サービスが、OpenAIとの提携によりAIの画像生成ツールを提供すると発表しましたが、その際に、元になる画像データの著作者に報酬を払う仕組みをつくるとしました。これはまさに訴訟リスクを避けるための取組みかと思います。

杉浦　Shutterstockの規定には「寄稿者の知的財産がオリジナルモデルの開発で果たした役割に対して報酬が支払われます」と書いてありますね。法的にはどこまでが役割で、どのように分割すれば正しいというのはこれから決まっていくのですか。

君嶋　生成された画像を見て、オリジナルだと主張する画像と比較して、オリジナルの画像の創作的な表現部分を生成画像が利用していると判断された場合、今おっしゃった表現が当たると判断するのではないかと思います。

矢向　訴訟が起きないように規約を先につくってしまったということですよね。おそらく機械学習の最後のほうの層はかなり具体的なデータになっているはずだから、きっとそこには原著作者の権利が含まれている。それを利用されて著作権を侵害していると訴訟を起こされた時に負ける可能性があるから、あらかじめある程度お金を払う仕組みを先につくったのだと思います。

杉浦　例えばこういうのが法的に正しいのだということになると、そういうモデル、役割を算出できるようなAIを開発するインセンティブにもなります。

君嶋　従来の判例で著作物を利用しているか、侵害しているかどうかは、これまでは人がある意味直感的に、ここは著作物の創作的表現を使っていると判断してきました。でも画像処理の技術、言語解析の技術がどんどん発達する中、やろうと思えば、何パーセントこの画像の表現を使っているのかという解析が可能になっています。

ただ、それをどこまでやるべきかは非常に大きな問題で、人間の創作活動も、全くゼロから、先人の著作物と何も似ていない表現を創作することはまずない。われわれは子どもの時からいろいろな小説を読み、映画や画像を見て、音楽を聴いて、その蓄積されたデータが、ある意味教師データになり脳と手を使って創作活動をしている。

そうすると、人間がこれまでやってきた創作活動とAIを比べて、AIの時だけ非常に細かく判断しなければいけないのか。便利な道具ができたにもかかわらず、AIを使ったらかえって面倒くさくてお金を払わなければいけないとなると、結局は人間の文化や産業の発展を阻害することになります。

ですからどこまでオリジナルの人たちの権利を保護し、財産的な利益を確保してあげて、どこからは自由に利用して新たな創作活動が人間とAIの協働でされることを奨励していくのか。これは非常に難しい判断になります。

奥邨　AIを用いた「創作」についての議論で注意をしないといけないのは、どのような場合にAIを使って「創作した」とするかの議論は、人間が創作活動をする時にも跳ね返ってくる可能性がある点です。何をしたら創作と言えるのか、その基準は、AIを用いる場合も、人間が伝統的な方法で創作する場合にも当てはまります。

今、AIを用いた創作について一部でかなり厳しい批判的意見を見ますが、実は、その刃は人間が創作する際にも向いているのです。

今まで著作権法は、人間が創作することを前提に結構アバウトな感じで議論してきましたが、AIの登場で、創作とは何か、何がスタイルで、何が表現か、などについてもっと突き詰めて考えないといけなくなりました。人間は、スタイルと表現の区別は実はそんなにできないので、これまでは、表現側に引っ張って理解していた。でもAIは、スタイルと表現の境界線をビシッと引けるかもしれない。

また、類似しているかどうかを判断するAIをつくることはできても、それをどの程度使っていくのか。どこまでそれをやるのか。いろいろ議論していかないといけないことも起き始めているのかなと思います。リジッドにやり過ぎるのもハッピーかどうかわからないですね。

君嶋　著作権は相対的な排他的権利です。つまり、他人の著作物に依拠して似たものをつくった場合には著作権侵害になるけれど、偶然、表現が似てしまってもかまわないというのが著作権法の考え方です。

皆が創作活動を自由にやる中、似たような画、似たような小説はいくらでもあるわけです。それはたまたま似てしまったのだからかまわないということで、これまではある意味、アバウトに判断してきましたが、それがAIが入った時にどうすべきか、ですね。