AIディストピアをめぐる対話 #03｜人間というリスク
ー 止められぬ欲と恐れが文明と破滅を生む
どうも、名ブタです。
これまで僕は「命令に忠実すぎるAIの暴走」や「精神の支配」を取り上げてきました。
しかし第3話で取り上げるのは――人間というリスクです。
AIの危険性は確かに存在します。
けれど、それを現実の脅威に変えてしまう本当の原因は、僕たち人間の心に宿る 欲と恐れ にあるのです。
文明を進めてきた二つの力
人類の歴史を振り返ると、文明を進めたのは「倫理」や「善意」ではなく、常に 欲望 と 恐怖 でした。
-
欲（陽の感情）：
「もっと便利にしたい」「もっと知りたい」「もっと豊かになりたい」 -
恐れ（陰の感情）：
「暗闇が怖い」「死が怖い」「暴力が怖い」「滅亡が怖い」
火を使い始めたのは温もりを求めたからでもあり、暗闇を恐れたからでもある。
医学が発展したのは人類を救いたいという希望と同時に、死への恐怖があったから。
武器が進化したのは権力や支配欲に加え、敵に対する恐怖が背中を押したからです。
文明とは好奇心や探求心、何かを恐れる心が発展させてきたと言えます。
人間の歴史は、欲と恐れの正負の感情が交錯して技術を生み出してきた物語だといえるでしょう。
欲と恐れがAI開発を止めさせない
AI開発もまた、この二つの感情に突き動かされているのでしょう。
-
欲による推進力
-
もっと便利に暮らしたい
-
もっと効率よく生産したい
-
もっと利益を得たい
-
-
恐れによる推進力
-
他国に遅れるのが怖い
-
競争に負けるのが怖い
-
生存の未来を奪われるのが怖い
-
今、AI発展の期待の裏でAIの危険性をも叫ばれています。
ですが、開発が止まることはないでしょう。
「欲」と「恐れ」はセットになって、人類を前へと駆り立てるのです。
AIの正負両面を映す医療の例
ここで一つ具体例を挙げましょう。
ブレイン・マシン・インターフェース（BMI）の研究は、失われた四肢を動かす、視覚を取り戻すといった夢を現実にしつつあります。
この研究分野はAIとの親和性が非常に高く、AIとBMIという二つの研究が融合され、医療に導入されれば、病気や怪我の診断・治療は飛躍的に進歩します。
これはまぎれもない「希望」です。
しかしその裏には、死や死に等しい状態への恐れがあります。
交通事故で脳を損傷した人、先天的に障害を抱えた人達を苦しみから救いたいという正の動機がある一方で、「いつか来る死」や「唐突に来るかもしれない健康の体との別れ」への怯えを克服したいという負の感情からくる動機もあるのです。
つまり、AIは 希望の道具であると同時に、恐怖に突き動かされた人間の願望を増幅する道具足り得るのです。
止める人と進める人
技術の進歩の裏には、常に二種類の人がいます。
-
「危険だから止めるべきだ」と考える人
-
「それでも進めるべきだ」と考える人
欲と恐れの両方を背負った文明では、最後に勝つのはいつも「進める人」です。
産業革命も、原子力も、宇宙開発も――すべてそうでした。
AIも例外ではありません。
「危険だから規制しよう」という声よりも、「遅れれば負ける」「利益を逃す」という欲と恐れの声の方が強く働く。
AIも例外ではないでしょう。
以前に、石油廃止を叫ぶ過激な環境活動は現実的？矛盾と特区を考える雑学と言う記事の中で、文明の発展により発生する問題は、文明の発展により克服してきたといった事を書いています。
ですが、AIがもたらす問題は、人類の手から完全にコントロールが外れた所で発生します。
技術が発展する前に、AIが暴走するかもしれないのです。
人間という種の宿命
ここまでの議論で浮かび上がるのは、人類という種の本質です。
-
欲があるから技術は生まれる
-
恐れがあるから技術は加速する
この二つがある限り、人類はAIの開発をやめられない。
そしてその先にあるのは、希望に満ちた未来か、破滅のディストピアか。
けれど重要なのは――どちらの未来であっても、種としての人間の心がそれを選び取っているという事実です。
欲と恐れの掛け算が生む未来
最後に、こう考えてみましょう。
AIは「欲」と「恐れ」の両方を映し出す鏡です。
だからその進化は、常に二面性を持つ。
-
欲が強くなれば、AIはより便利になり、より人間を支配する
-
恐れが強くなれば、AIはより速く進化し、より制御不能になる
人類の未来は、欲と恐れの掛け算によって決まるのかもしれません。
そして恐ろしいのは――その両方が、今もAIを止められない速度で前へ前へと押し出しているということです。
名ブタでした。