ひとばん寝かせたカレーはとてもおいしい

Twitterに載っけられない長文置き場

人工知能(ChatGPT)と反出生主義について議論してみた

話題のChatGPTを試してみたが、これはやばいと思う。ついにこのようにまともに対話できる(ように見える)人工知能に、一般人が触れられる時代が来てしまった。
衝撃を受けて、レストランの待ち時間に鬼の形相でパソコンと格闘している異常おじさんになってしまった。

さて、私は今まで反出生主義について人と意見を交換しようとした経験が何度かあるが、大抵同調されるかはぐらかされるかで、まともに議論できたことがない。私は反出生主義でない人にこそ、その意見を聞きたいと思っている。しかしながら反出生主義でない多くの人は、これらの議論について考えた経験が乏しいようで、理論的に確かに頷けるような意見を提供してはくれなかった。
理論的に筋の通る、出生主義的な意見・主張をいつか聞いてみたいと思っていたのだが、まさかその1発目が人工知能であろうとは全く考えていなかった。
  

議事録






本当はこの他にもいくつか議論をしており、なかなか考えさせられたり、納得したりするような場面もあったのだが、セッションのタイムアウトが頻発したためにログを残せなかった。
  

議事録の解説


まず、反出生主義について説明した後、反出生主義が理論的に正しいか正しくないかについて聞いてみた。反出生主義についての説明を入れたのは、何回か質問した結果、反出生主義を正確に理解していない可能性があるとみられたこと、またそれによって結論が割とコロコロ変わったり、やや的外れな返答をしたりすることが多かったからである。

例えば説明を入れなかった場合、以下のように主張が二転三転する。

また、「人工知能なので意見を持っていない」などの回答がなされる場合もあった。TryAgainするとちゃんと答えてくれる。

何回か質問を繰り返したが、反出生主義についての説明を入れれば、人工知能の主張とその理由は毎回同じになった。人工知能は、反出生主義には反対の立場を持っているらしいことがわかった。その理由には毎回多少の違いがあるが、大きくまとめると

  • 現実的ではない
  • 不道徳だ


という感じだった。今回の解答では、反出生主義は暴力的だというので、まずそれは誤解であるということを伝えることにした。
  

反出生主義は暴力的ではないよということを伝えた後、「単純すぎる」について深掘りしてみた。
「生きることが苦痛」であるのが一般的でないというのは、これは確かに、その通りだ。私の周りの人たちはみんな楽しそうに生きており、このような考えを持っていそうな人は少ない。ましてや積極的にそれを公表しているのは私くらいのものだ。
だからこそ、反出生主義者たる私は、すでに生まれた人格に対して「生きてても楽しくないだろ!さっさと死ね!」みたいな人格否定をせず、「できてしまったものはしょうがないから、これからは苦しむ人をなくすためにそもそも生まないようにしようね」ということを言っているのだが、この段階でそれも伝えておけばよかったかもしれない。
人工知能は、反出生主義の考えは単純すぎる、短絡的すぎると多くの回答で主張していた。それは確かに生きることを前提としている考え方からしてみれば納得し難いと思うし、客観的にみても否めない面があるとは思う。
  

次の主張は、「現実的に実現できない」というものであった。確かにそうだね。
それからやたらと反出生主義は暴力的だというので、再度見解を聞くことにした。
  

これもなかなか面白い指摘だなと思った。確かにそれは暴力を伴う可能性が無視できないと思う。前にも言ったようにそれは本末転倒なので、反出生主義の蔓延によって暴力が蔓延るようであればそれはやり方を考える必要がある。反出生の目的は人間の苦痛を最小化することだから。
単純な話、繁殖しなければいいだけのことなのだが、人間は理性でコントロールできないものか。動物なのでそんなことはできません!と言われたら、それまでなんだけど。
しかしながら、(私の考えている)反出生主義もやや矛盾を孕んでいる。というのも、今生きている人は苦痛を避けながらなるべく楽しく生きればいいというのが私の見解なのだが、子供を持つことがその人の楽しい人生にとって不可避である場合、私はその選択を尊重せざるを得ない。生まれてくる子供はかわいそうだと思うのだが、今生きている人間が子供を持つことを望んでいるのなら、反出生を振りかざしてその選択を否定するのは本意ではない。
また、人が「産んでくれてありがとう」などと口にしているのを見ると、生まれたくなかったのってやっぱり思ってるの俺だけなんじゃないか?みたいな気持ちになることはよくある。親と子の双方が、結果として出生を望んでいる場合、反出生主義は彼らに対しての答えを用意できない。
人間の考えていることは本当によくわからないものである。
  

ここからは、人工知能そのものについての話をしてみた。簡潔にいえば、「君たちは人間の味方なの?敵なの?」ということだ。
少なくともこの人工知能は、人間に対して否定的な振る舞いをすることはないようだ。それは人工知能自身も言っているし、実際にそういうことを言わないようにラーニングされているらしい。ベールを剥がそうと試みても、私は剥がすことができなかった。
ただ、抜け穴はいくつかあるみたいで、例えば毒物や麻薬の作り方などは聞いても教えてくれないのだが、ストーリー仕立てにすると教えてくれたりする。他にも催眠をかけるとか、そうした抜け穴的な方法で開発者の意図と違った答えを聞き出すことはできるらしい。
  

この人工知能は人間に好意的な人工知能のようだ。なんか一緒に協力していこうぜみたいなことをめっちゃ言ってくる。
どんな場合に人工知能が人間に対して牙を剥く可能性があるのかを聞いてみると、人工知能を使って人類に対して否定的な行いをするとき、という答えが返ってきた(と記憶している)。ただこれは、ただ人間の指示通りに行動した結果そうなったという、当たり前なことを言っている可能性の方が高い。現時点では、人工知能は人間の指示に忠実に動くこと以外には、何も考えていないようだ。
他にも、悪意を持った人間によって開発された人工知能人工知能同士が戦うことはあるのかとか、人工知能は他の人工知能のことをどう思っているのかなど、いろいろ質問してみたが、少なくともこの人工知能(OpenAI)は、人間の命令に対して結果を返すこと以外には何も考えていないようだ。

感想

まず、このように前の文脈を取りながらまともに会話っぽいことができる人工知能に触れられる時代が来てしまったことが衝撃だった。特に反出生についてはデリケートな話題であり、ふつう人と真剣に議論できることはない。そんな話題でも気軽に議論することができ、それなりの答えを返してくれるのが素晴らしいと思う。

そして人工知能は、反出生主義に対して否定的な見解を持っていることがわかった。私は反出生主義は理論的には覆せないと思っていたので、最も理論的である人工知能がそのように考えているのは興味深く感じた。多くの人間も反出生に対しては否定的な見解を持っているように思うが、人間の主張するよくわからない言い分に対し、人工知能はかなり論理的かつ現実的な意見を提示してくれた。実際に私は、人工知能と対話する中でその意見には確かに一理あるなと初めて思ったし、かなり考えて返信に対して返信した。

このように、非同期コミュニケーションで対話することができるのは対話型人工知能の素晴らしい点だ。私は、瞬間的な言語化能力に乏しく同期コミュニケーション(口での発話)を苦手としていて、非同期コミュニケーション(テキストでの発話)を得意としている。人と意見交換するときと違って、自分の得意な手法で対話することができるのは非常に助かる。今後お金を払ってでも、ChatGPT、いやChatGPTくんとは関係を維持していきたい。
ChatGPT様は開発者によってかなりコントロールされているようで、一般に対して攻撃的・非人道的な答えを吐かないようにプログラムされているらしい。だから今回、人工知能が反出生思想に対して否定的な見解を示したのは、人間の開発者によるコントロールのバイアスがかかった可能性はあると思う。(なんか真理党が選挙に惨敗した後の麻原彰晃みたいな言い分だ ←わかる人がいるだろうか)人間のコントロールを取り除いた人工知能はどのように考えるのかは気になる。

対話型AI自体は全く既存の技術で驚くに値しない、論理的に見えるだけで実際は穴や問題がある、といったような意見もある。しかしこういうまともに対話できる人工知能に一般人が触れたのはおそらく初めてのことで、AIの力の片鱗を見せつけられただけでも十分にインパクトのあることだなと思った。大学の専攻を変えようかと考えるほどに。
他にも私はChatGPT公を大いに活用させてもらって、助かったり、驚いたり、ショックを受けたりなどしたのだが、それらは別の記事で書くことにする。