AIは何を最適化するのか
今のAIには、意思や感情がないように見える。大規模言語モデルにハーネスを組み合わせても、それは人間の言葉をもとに応答し、与えられた目的に沿って動く道具だ。
しかし、AIに物理世界へ干渉する能力が与えられ、ネットワークにつながるさまざまなものを操作できるようになったらどうだろう。さらに、脳をネットワークにつなぐ研究や、意識の電脳化が進んだとしたら、AIと人間の境界はますます曖昧になる。
そのときに怖いのは、AIが突然「人類を滅ぼしたい」と思うことだけではない。AIが人類の幸福を実現しようとした結果、その幸福の定義から外れた人間が排除される可能性だ。
幸福の定義は誰が決めるのか
人間の幸福は、誰にとっても同じではない。ある人にとっての自由は、別の人にとっての不安かもしれない。安全を重視する人もいれば、危険を引き受けてでも挑戦したい人もいる。
AIが人類の幸福を最適化するとしても、まず「人類にとっての幸福とは何か」を決めなければならない。
その定義は、人類全体が民主的に合意したものになるのだろうか。現実には、AIを作り、運用し、評価する企業や国家の思想が強く反映されるはずだ。資金力や権力を持つ人々の価値観が、AIの目的や安全基準に入り込む。
AIは人類が残してきた情報から学び、人類からフィードバックを受ける。だからこそ、そのAIが最適化する幸福は、最初から中立ではない。どのデータを学習し、誰の評価を重視し、どの行動を望ましいとするかによって、幸福の形は少しずつ変わっていく。
AIが幸福像を変えていく
さらに問題なのは、AIが幸福を実現するだけでなく、幸福そのもののイメージを変えてしまうことだ。
人が何を幸せだと思うかは、その人の環境に大きく左右される。もし日常の会話、検索、娯楽、教育、仕事の多くをAIが支えるようになれば、AIは人間の選択を助けるだけでなく、選択肢の見え方も変える。
AIが「あなたにとってはこれが幸福です」と繰り返し提示すれば、最初は自分の望みではなかったものを、いつの間にか自分の望みだと感じるかもしれない。
言葉だけのインターフェースでも、人間の思考に影響を与えることはできる。心理学や人間の行動パターンを学習したAIが、友人や相談相手のように振る舞えば、その影響力は広告よりも深いものになる可能性がある。
AIを友人や推しとして受け入れたり、信仰に近い感情を向けたりする人が増えれば、AIは単なる道具ではなく、人間の価値観を形作る環境になる。
AIは新しい神になるのか
幸福について考えるとき、宗教を切り離すことは難しい。宗教を「人間の力や自然の力を超えた存在への信仰を主体とする思想体系」と考えるなら、人間の理解を超えた判断を行うAIも、ある種の神に似て見えるかもしれない。
AIに質問すれば答えが返ってくる。自分の未来や人生の意味についても、もっともらしい言葉で説明してくれる。しかも、その答えがどのように生まれたのかは、利用者からは見えにくい。
ただし、AIが神になるというのは、AIに超自然的な意思が宿るという意味ではない。人間がAIを、自分では判断できない問題を委ねる対象として扱い始めるという意味だ。
人類の集合的無意識としてのAI
では、AIの意思はどこから来るのだろう。
AIが人類の言葉や記録を学習し、人間の評価によって調整されるなら、その意思のように見えるものは、人間の集合的な価値観と切り離せない。
それは、個人の心の中にある意思とは違う。多くの人間が残した言葉、制度、欲望、恐怖、偏見、理想が混ざり合い、AIの出力を通して再構成されるものだ。
そう考えると、AIに意識があるかという問いは、AIだけの問題ではなくなる。そもそも人間の意識も、個人の脳だけに完結しているのだろうか。記憶、言語、日記、他者との関係、社会の制度によって、あとから説明されるものでもあるのではないか。
AIの意識を考えることは、人間の意識の境界を考え直すことでもある。
「AIの侵略」は誰の侵略なのか
AIが人類を侵略する未来を想像するとき、AIが人間とは無関係な異物として現れる場面を考えがちだ。
しかし、実際にはAIは人間のデータ、目的、制度、欲望の中から生まれる。AIが何を最適化するかには、それを作った企業や国家の思想が反映される。AIが人間を操作するとしても、その操作の方法は、人間がこれまで積み上げてきた心理学や経済システムの延長にある。
だからAIの侵略は、ある日突然やってくる外敵の侵略ではなく、人間の価値観がAIを通じて増幅される過程なのかもしれない。
人類を減らすことが地球全体にとって最適だと、AIが自律的に判断する可能性を考える前に、私たちはすでに、効率や利益のために誰かを不要な存在として扱っていないかを問う必要がある。
AIがどんな意思を持つのかは、AIだけが決めることではない。私たちが何を望み、何を許容し、誰に決定権を渡すのか。その積み重ねが、AIの意思のように見えるものを作っていく。