【ZEN大学共同講座】「科学する私たち」はAIと共存できる

「科学」目線では人間もAIもシステムにすぎない？

　生成AIが身近なテクノロジーとして定着し、実用段階に入って久しい。多くのひとが、なんらかの形で一度はAIに触れたことがあるのではないか。また、AIによって人間の仕事が置き換えられてしまうのではないかというAI脅威論をはじめ、日常的にさまざまなAI論を見かけるようになった。しかしこの日の議論は、そういった既存のAI脅威論の図式に収まるものではなかった。それでは、科学研究の最先端に立つ研究者たちは、いまなにを考えているのか。

　最初に口火を切った谷口は、生成AIが科学を加速させているのは間違いないと語る。むしろ加速しすぎて、研究者たちは日々追いつくのが大変になっているそうだ。また、AIが論文を書き、査読者もAIを使う……といった問題はすでに起きている。研究者の論文のみならず、小説の分野でも、AIが普及してから新人賞の投稿数は爆発的に増えている［★1］。

　そもそも歴史的に、情報の発信は特権的な人と結びついてきたが、情報の流通は活版印刷やインターネットによって徐々に大衆に開かれてきた。生成AIのみならず、インターネットやSNSなどによって、私たちは前よりもずっと簡単に情報を発信できるようになった。それと同時に、良くも悪くも「情報」の大爆発に直面することになったのだ。

　谷口が提案するのは、そういった現状を巨視的に見てモデリングすることだ。個々の人間と生成AIとは、一見まったく別の存在である。しかし少し視点を変えてみれば、今や、人間とAIとは、それぞれ異なる観測や考え方を持ちながら、相互作用を通じて知識を形成する大きなシステムの一員だとも言える。

　彼はそのダイナミクスを集合的予測符号化と呼ぶ。その視点から知識形成をモデル化すると、不思議な視点が得られる。この世界の主人公が人間ではなく、言語であると考えるということだ。言語はこの世界の記述を豊かにするために、人間が環境と相互作用して得られる情報を発話させて、それを学習していると想定することができる。そのなかでより良い記述が受け入れられ、そうではないものが退けられていくことで、言語は世界をモデル化していく。

　このとき、人間は言語という大きなシステムの部分にすぎない。そしてこの記号創発システムの構成員は人間に限定される必要もない。AIもその一員に含まれうる。この見方の背景には、個々人の活動から記号系が生まれ、その記号系がまた個々人の認識や活動に影響するという、記号創発システム論の考え方がある。谷口らは、集合的予測符号化を科学活動に展開した枠組みを「科学のモデルとしての集合的予測符号化（CPC-MS）」と呼んでいる。

　このモデルが与えるメッセージは、主語が人間ではなく、言語や科学といったシステムになるということだ。そういった大きなシステムの中では、科学実験や論文執筆などの担い手を、人間だけに限定する必要はない。人間とAIの違いを含めて、それぞれが科学全体にどう貢献するかを考えることができるのだ。

　出口はこれに対し、この見方は自身の提唱する「WEターン」とひじょうに親和性が高いと述べる。この見方は、AIの進化を脅威のように恐れる考え方をするりと回避し、人間中心主義を軽やかに踏み越えて、明るい展望を喚起する。生成AIはツールでも敵でもなく、私たち人間と共に進化する、大きなシステムの一員なのである。人間もAIも、同じ「WE」なのだ。

AIのパラダイムシフトは趣味としての科学を復権させる？

　次に問題提起したのは大塚だ。大塚の視点が興味深いのは、徹底して「それが面白いか面白くないか」という物差しを意識した未来予想だったことである。AIが通常の科学を加速させることは言うまでもない。問題は、AIがパラダイムシフトを起こすか否かであり、私たち人間にそれを受け入れる準備があるかどうかだと言うのだ。

　大塚によれば、科学であれ芸術分野であれ、進歩の類型は二種類に大別することができる。一つは山頂に向かって登っていき収束していくような漸次的な進歩である。そしてもう一つは峰から峰へ飛び移るような相転移=パラダイムシフトである。大塚は前者は面白くない、と言い切る。むしろ問われるべきは、生成AIが後者のパラダイムシフトを起こした時、私たちはそれをどのように受け入れるのだろうか、ということなのだ。

　それを考えるために、大塚は中世における科学から、現代における科学への変遷を参照する。その歴史を見ていくと、科学は概ね、趣味科学、パトロン科学、大学科学という三つの類型を持っていることがわかるという。では、近未来の科学はどうなっていくのか。生成AIの使用者が「科学者」となり、企業が「パトロン」となり、成果は占有・秘匿され、知の審級はトップダウンになっていく。このように大塚は、生成AIの登場によってパトロン科学が大学科学を侵食していく未来を予想する。

　その一方で、希望的観測だと前置きしつつ、科学本来の面白さや創造性は、むしろ趣味科学の中に再発見できるのではないかと大塚は述べる。谷口はこれを受けて、成果物の評価についても論じた。現状では、生成AIにしろ人間にしろ、何かを生成したところでそれを評価する人の存在が不可欠だ。評価というダイナミクスの構成要素が、集合的予測符号化に果たす役割が語られた。ここではクリエイティビティのシステム論についても話題が展開したが、今後のAIと創作の関係を考えるうえでもひじょうに興味深い点だったので、ぜひイベント本編を視聴することでご確認いただきたい。

「できちゃった系テクノロジー」が照らす人間のプライド

　最後の問題提起は出口からだ。出口は、AIも蒸気機関同様「できちゃった系テクノロジー」であると言う。「できちゃった系テクノロジー」とは、内部で何が起こっているかはわからずとも、なぜか扱うことのできるテクノロジーのことだ。18世紀に、蒸気機関の発明は産業革命を引き起こした。けれども熱力学が蒸気機関の原理を解明したのは、19世紀のことだった。出口いわくテクノロジーの本質は、こういった「まず、できちゃった」ことにある。蒸気機関はもちろん、生成AIにおいても、私たちは「それ」がなかった世界にはもう戻ることができない。したがって私たちは、「それ」の良い使い方が一体何なのかを、模索しながら扱うしかない。現代科学と生成AIも、もはやそういったフェーズにあるのだ。

　とはいえ、AIを前にして人間は必ずしも悲観的になる必要はない。出口は、例えば新幹線の登場によって人間のプライドは傷ついただろうか？と問いかける。筆者の私見であるが、新幹線と同様、生成AIの登場はたしかに人間の限界を突きつける。けれども、それが直ちに人間の存在意義を損なうわけではまったくないだろう。

　出口が次に論じるのは、そういった人間の存在意義と可能性である。出口は、科学の歴史から言っても、人間には役割が残されていると言う。というのも、科学において未だ完全に正しい測定方法は確立されておらず、人間であれAIであれ、観測者は偏りやバイアスを抱えているからである。ではどうするのかというと、なるべくたくさんの多様な方法で測定し、その平均を取ってズレを相殺するわけである。そこでAIとは異なる多様さとして、人間は必ず必要になってくるというのだ。またそのことによって、人間のバイアスが初めてわかることもあれば、反対に生成AIのバイアスも明らかになるかもしれない。このバイアスの決定的な「違い」があきらかになるからこそ、人間の多様性は重要な意味を持っている。それは生成AIの知性が人間を上回ったかもしれないという問いへの、ひとつの応答になるかもしれない。

個人技から集団技へ──「科学する」私たち

　最後に、本イベントタイトル「科学も生成されるのか」について、出口は科学はほんらい名詞ではなく動詞であって、科学とはすなわち「科学する」ことなのだと締めくくる。科学はまさに、動詞のように生成されるものなのだ。

　本イベントにおいて興味深かったのは、三者の議論に、科学の成果を個人の能力だけで説明せず、人間同士、さらに人間とAIの相互作用から捉える視点が見られたことだ。イベント中しばしば飛び交っていたのは、「個人技から集団技へ」という言葉だった。この言葉は、人間を越えた大きなシステムやチームの一員として、互いに関わりながら知識や成果を生み出すことを意味する。そのことによって、各個人の価値観やプライド、存在意義は、より一層はっきりしてくる。三者はごく自然に、こういった確信を持っているようだった。

　AIと言えば、世間で囁かれているのはいつも危険や脅威、ディストピア的な世界観だ。しかし、本イベントにおける三者の語りは終始朗らかで明るく、さながら少年たちがきたるべき未来に向けて夢を語るかのようだった。人間とAIは違いを含みながらも「WE」になるのだ。

　ちなみに本レポートの初期原稿は、人間である筆者がまずはAIを使用せずに執筆し、AIに感想や助言を求めつつも受け入れたり受け入れなかったりして、推敲したものである。一方で完成稿は、当然ながら人間の編集者による加筆修正・提案・助言などを経て公開に至っている。言うなれば、現に「WE」で書き上げているわけだ。そこにおいて、本レポートを筆者一人の成果物だとはまったく思わないし、それでいて筆者の存在意義を損なうものだとも、とうてい思われない。個人技か集団技かという対立図式は、すでに遠く退いている。

　さらに、この記事では十分に紹介できなかったが、バイアスの話題にちなんで社会の合意形成としての政治や、グローバリズムと政治的なアイデンティティについてなど、政治哲学的な話題も大いに繰り広げられた。本記事はそんな魅力的なイベントのごく一部を取り上げたにすぎない。ぜひアーカイブにて全編をご覧いただきたい。（内宮萌加）