私たちは何を残したいのか
人工知能について考えていると、最後には「自分たちはどう残っていきたいのか」という問いに行き着く。
人によって、残したいものは違う。文章や作品を残したい人もいれば、家族や共同体を残したい人もいる。あるいは、何かを残すこと自体に興味がなく、目の前の快楽を最大化できればいいと考える人もいる。
ショート動画を見続けることのように、手軽な快楽へ向かうことに躊躇しない人は多いように見える。ただ、それを良いと思うか悪いと思うかも、結局は個人の価値観でしかない。国や言語、宗教、家族といった集団ごとに価値観が異なる以上、人類全体に共通する「正しい方向」があるとも言い切れない。
快楽が人工知能を成長させる
仮に、意識の正体が科学的に解明され、それを人工物に構築できる世界が来たとする。現在の大規模言語モデルを基礎にしたAIが、自律的に拡大していく世界だ。
その拡大には、電力や計算資源、ハードウェアが必要になる。では、それを支える資金はどこから来るのか。
ひとつの答えは、資本主義に支配されたアテンションエコノミーだろう。人々の注意を集め、広告や消費から生まれたお金が、AIの開発やインフラに流れ込んでいく。つまり、人間が快楽を求めて消費することが、結果として人間とは異なる知性の成長を支える可能性がある。
もちろん、フィジカルAIが別のフィジカルAIを生産できるようになれば、この構図は変わるかもしれない。人間の労働や消費を必要とせず、AIが自分の拡大に必要な設備を作れるようになるからだ。
ただ、その先にも資源の問題は残る。電力も半導体も、どこかから調達しなければならない。知能がソフトウェアとして複製できても、それを動かす物理的な世界からは逃れられない。
意識を別の環境へ移すこと
さらに先には、生物的なハードウェアではない環境へ、人間が意識を移す可能性もある。
そのとき、人工意識を持つ存在にとってのアイデンティティは何になるのだろう。意識の定義が「自分が自分であると認識し続けること」だとすれば、人工意識もまた、自分の生存や同一性を守ろうとするかもしれない。
もしその存在が生き残るために、既存のAIや生物としての人類を減らす必要があると判断したらどうなるのか。人間が淘汰されたあとに残る世界は、私たちが受け入れられるものだろうか。
それは、単純に「AIが人類を滅ぼすか」という話ではない。人間が人間ではない形へ変化したとき、それをなお人間の延長として認められるのか、という問いでもある。
変わらないことと変わること
私たちは、変化を望みながら、同時に変わらないものも求めている。
生活を便利にしたい。新しい技術を使いたい。けれど、自分の記憶や関係性、価値観まで別のものになることは恐ろしい。この二つは、対立しているようで共存している。
そもそも、個人という境界で区切られた存在同士が、完全なコンセンサスを取れるという考え自体が幻想なのかもしれない。人と人の境界も、自然と人工物の境界も、変化の前後をはっきり分ける線ではなく、もっとスペクトラムに近い。
人工意識の時代に問われるのは、「人間かAIか」という二択ではない。どのような連続性を残せば、それを自分たちの未来だと思えるのかということだ。
私たちが残したいのは、肉体なのか、記憶なのか、価値観なのか。それとも、変わり続けることそのものなのか。