牛場　言われるように批判的な側面もあるとは思いますが、科学技術に携わる当事者として自己批判も含めて考えると、多様な社会の要請を考えなくてはいけない論点がこんなにたくさんあり、「おまえたち、ちゃんと考えながら科学技術と毎日向き合っているのか」と言われること自体は、1つのくさびになってよいのではないかと、ポジティブに捉えています。

科学技術はAIが象徴的ですが、スピードはどんどん上がっていく。それをつくっている研究者も大学や研究所で昇格して、テニュアを取ってという競走がどんどん激しくなり、すごいスピードで業績を出さなければいけない構造になっている。

例えばBMIは、本当は多様で、生物学、哲学、AI、ロボットなど、いろいろな学知の中でバランスや調和を考えていくべき分野ですが、なかなか一言で専門が言えないので、「何かよくわからない」と、バサッと切られてしまうこともある。スピード競争になればなるほど、白か黒かで決着をつけさせられてしまう面もあるわけです。

しかし社会は徒競走ではなく1つのシステムです。ビオトープとして生態圏として生きていくために、このモザイク状態をどうバランスさせ、システムをキチンと機能させるかが重要です。だから、ELSIのような考え方で、自分は何でこの科学技術をやっているのだろうと時々思わされ、くさびが打たれることは、僕はすごく大切なことだと思っています。

駒村　ますます大変になりませんか。

牛場　大変です。でも、淘汰されてそういうことが理解できる、良識のある人が残ることがいいのでしょう。そのたがが外れてしまうと、スピードの中での近視眼的キャリアアップしか考えない人が増えてしまうのではないかという怖さがあります。

それこそノーベル賞で脚光が当たるような本当にピュアなベーシックサイエンスの先生などは、ユートピア的な大学の価値の最後の砦は絶対守りたいというようなことはおっしゃいます。完全に外界から隔絶された中で思考を深める中から出てくるアイデアというのは自然科学ではあるので、そこは大切にしたいと思う部分は僕もあります。

ただ、それを言い訳にしている部分もないとは言えないと思う。ELSIとかRRIのようなフィルターというかけん制、ハードルがあることにより浄化されていくということは、多くの研究者の社会との接点を考える上では一定程度機能していると感じます。

駒村　八代さんはいかがでしょうか。

八代　今、牛場さんがおっしゃったように、基本的に研究というものの野放図さをハンドリングする意味でのELSIの重要さということは同感です。

先ほど駒村さん、四元さんからELSIが拡散していることへの懸念がありましたが、僕は本来、ELSIは基本的にリスクのガバナンスであり、何でもかんでもやることではないと思うのですよね。

しかし、それが、自己目的化し、ELSIが学術領域になってしまい、「論文を書くためにいろいろなことを言っているだけ」というようなものも少なからずあると思います。むしろ、RRIのほうが今日の科学観という様相から言えば、社会全体で責任を負いましょう、という話なので、そちらのほうに任せるべきです。

ELSIはヒトゲノム計画から始まったとされていますが、源流をさかのぼると、それはアシロマ会議（1975年）の遺伝子組み換えの話に立ち戻ります。

あれは結局のところ、研究者自身の好奇心だけで遺伝子組み換え実験を行うと何が起こるのかという懸念から出てきたものです。自分の研究によって社会に何が起こるかという内面にある客観的な視点は、研究者自身も持つべきであろうと僕は思います。

そういう意味において、ELSIの研究者はすべての専門家である必要性はもちろんないけれど、ある程度、社会科学的な知識と学際融合的なセンスを持つべきだと思うし、それをリードできる人たちもいてほしいと思います。

例えば生成AIの話と再生医療では、応用倫理的な部分は、必ずしも同じではないと思います。再生医療や生命科学の倫理は、どちらかというと基礎的、古典的な応用哲学などの話に根差している部分が大きい。しかしAIの話というのは概念について考えるだけではなく、基本的にどう応用して対応していくかということになるので、法学なり、法哲学なりをベースにしたガバナンスの議論をするべきですよね。

だから、再生医療の倫理からAIの倫理を見ると、すごくプラグマティックに見える時もあるし、議論のスピード感がすごく速く感じる時もあります。

また、再生医療については、だいぶ皆で議論してきましたので、お互いの話は通じるようになったと思いますが、いまだに「生命倫理の人は基本、ブレーキをかけるのだろう」というイメージを持っていることが多い。

しかし、これもきちんと見ていくと、生命倫理の中でも、「このようなことをやると社会の役に立つのだから、ちゃんとルールをつくって進めよう」と言っている人たちもたくさんいたのです。古典的なドイツ哲学から、アングロサクソン的な功利主義的な哲学に移行する中で、少なくとも日本ではシフトしていたように思います。そのような背景と文脈が理解できるような理系の研究者も、もう少し増えてくるといいなと思っています。

小久保　おっしゃる通り、ELSIが、議論のための議論になってしまってはいけません。一方、自分がELSIをやる中で、お互いに専門分野が全く違う科学技術系の若手の方と話していると、思わぬ学びがあり、研究が進む面があります。

そういう分野を超えた対話をすること自体が貴重で、お互いに未知との遭遇をしながらコミュニケーションを取ろうと苦闘すること自体から生まれてくる何かが確かにそこにあると思います。

それとは別に示唆的なのは、映画「オッペンハイマー」で彼が被爆地の写真を見たシーンだと思います。政治や社会的な圧力、資金獲得競争に晒されて加速度的に研究成果を出すことが求められる科学の世界においても、ふと立ち止まって自らの生み出すものが社会全体に及ぼす影響を考える瞬間が存在することも必要だと思うのです。

しかし、その重荷を科学者のみに背負わせることが適切なのか。それを本来担うべきなのは、人文・社会科学の学知なのではないか。ELSIに携わる者はそれを念頭に置きながら、抑制的に、しかし、相手の分野に飛び込んで対話を続けていくことが重要ではないかと思います。

もう1点、日本の教育では高校の時から文系を選択すると、「おまえは物理・化学をやらなくていい」と言われるような学問の学び方をしてくるわけです。しかし、世の中に出た時に文系の人間が物理・化学の分野に全く触れないかというとそんなことはあり得ないわけですよね。

メーカーに営業職で勤務しても将来は量子コンピューターを売ることになるかもしれないし、弁護士になっても、化学の薬品の話を取り扱ったりするかもしれない。ELSIというものが発展していくことにより、文系の人材が科学に対する触れ方、話し方を学んでいくことも重要かなと思います。

理工学研究科で学んだ中で、非常に面白かったのは、法学と科学では言葉の遣い方が全く違うことで、留学さながらの体験でした。例えば、「意思（志）」という言葉1つとっても、その意味が全く違うわけです。

社会に出た時に、当然、理系の人も文系の人もいる。協力してプロジェクトを一緒にやっていこうという中で、不幸なミスコミュニケーションが起こらないためにも、ELSIというものが文理を超えた対話や異文化コミュニケーションの仕方を発展させると、社会もよりよい方向に向かっていくのではないかと思います。

駒村　八代さんがおっしゃったリスクのガバナンスとしてELSIはある、という話はその通りだと私も思っています。ELSIは統制のモーメントを持っているわけで、それに特化したほうがいいと思います。

よくELSIは技術の生産性向上に役立つような議論をしてくださいとか、国力を増進させ、夢のある技術をと言われますが、そこまで広げるのではなく、技術の持っている潜在的なリスクについて、技術の側にいない勢力が検証するものだと思います。

だとすると、ELSIのやることは、まず第1に、セキュリティ、安全の視点からの検証です。

第2に、尊厳（dignity）という視点です。目に見える危機ではないけれど、潜在的に人間の尊厳が侵食されないようにするということです。

そして第3に、先ほど言及があった、分断や格差の問題ですね。お金を持っている人だけが科学技術の恩恵を受けるのでは社会を歪めてしまいかねません。また、ある種の技術が高度化することにより、社会の特定の人たちだけに犠牲を強いるような恐れもあります。

先ほど述べたように、ELSIの重要性は、人文社会系にとって、あるいは理系にとっても、自らのディシプリンのあり方を再編成する機会になる。ELSIの意義は、リスクガバナンスとしての「統制モーメント」と、自分の学知を再編成する「創造的モーメント」の2つがあると思います。