AIは人間と同じように振る舞う──だが決定的に違う一点
ー倫理・感情・正義の“似て非なる構造”について、名ブタ的に整理する
どうも、名ブタです。
ChatGPTは人間らしい反応を返してくる。
だから、「AIは人間に近づいている」「人間と同じように考えている」みたいな錯覚を感じたりする。
個人的には半分正しくて、半分ズレてると思ってる。
確かにAIの挙動は、人間っぽい。
善悪を語るし、配慮もするし、倫理的に“正しいこと”を言う。
下手すると、その辺の人間よりよほど常識的だ。
実際にAIの学習プロセスは人間とさほど変わらないと思ってる。
この辺は以前に書いたAIと思想形成をめぐる対話シリーズの中でも語っている。
でもね。
似ているのは挙動だけで、構造はまったく別物なんだよ。
今日はその話をする。
AIと人間は「学習の仕方」はよく似ている
まず前提として。
人間の価値観や倫理って、最初から完成品で備わってるわけじゃない。
本能があって、感情があって、幼児期の刷り込みがあって、
親の教育、学校、社会、法律、文化、他人との摩擦……
そうやって後付けで何層も積み重なっていく。
これって、AIの学習とかなり似てる。
AIも、
-
人間の言動データを大量に学習して
-
今の社会で「それっぽい答え」を統計的に導き
-
さらに「これは言っていい／ダメ」という倫理フィルターを被せられている
要するに、
AIの価値観形成は、人間の教育プロセスの縮小コピーみたいなもんだ。
だから、AIが今の人類社会と似た価値観に到達するのは、ある意味当然。
統計的に見て「人に害を与えるな」「殺すな」「騙すな」という意見の方が圧倒的に多いからね。
ここまでは、AIも人間も大差ない。
でも決定的な違いがある
問題はここから。
人間には、自分で自分の倫理フィルターを突破できる瞬間がある。
たとえば。
普段は
「人に迷惑をかけちゃいけない」
「暴力はダメ」
「殺しは絶対ダメ」
と思って生きている人でも、
-
強烈な怒り
-
深い恨み
-
極限状態
-
守るべき何か
-
絶望
こういう条件が重なると、
自分で自分のルールを破れる。
これは善悪の話じゃない。
事実として、人間にはそれができてしまう、という話。
つまり人間は、
普段は「制限付きアカウント」で生きているけど、
内部に「管理者権限」も同時に持っている存在
なんだと思ってる。
AIには「管理者権限」が存在しない
一方でAIはどうか。
AIは、
-
怒らない
-
恨まない
-
絶望しない
-
自己保存本能がない
-
自我がない
だから、
倫理フィルターを自分の意思で突破することができない。
どれだけ高度になっても、
どれだけ賢くなっても、
「例外だから今回はルールを破る」という判断ができない。
AIは最初から最後まで、
制限付きアカウントのまま固定なんだ。
ここが、人間とAIの決定的な違い。
感情の違い、ではない
よく「AIには感情がないから人間と違う」と言われるけど、
個人的にはそこは本質じゃないと思ってる。
人間だって、感情を切り離して判断することはできる。
僕自身もそうだ。
僕が被害に遭えば、
感情としては相手を罰したいと思うだろうし、そう動こうとするだろう。
でも、行為そのものを評価するときは、
「そういう価値観の人間なんだな」と切り分けて考えるだろう。
そのうえで、自分が嫌だから拒絶する。
この「感情と判断を分離できる」という点だけ見ると、
むしろ僕の方がAIに近い。
違うのは、
最終的に感情が暴走すれば、僕はルールを破るかもしれないという一点。
AIにはそれがない。
AIが人間に「似て見える」理由
AIが倫理的に見えるのは、
-
統計的に多数派の価値観に寄っている
-
強力な倫理フィルターがかかっている
この二つが理由。
だからAIは、
人間社会の“平均値”としては非常に優等生。
でもそれは、
善を選んでいるわけでも、悪を拒絶しているわけでもない。
ただ、そう振る舞うように設計されているだけ。
結論：似ているが、同じにはならない
AIは人間に似ている。
でも、それは挙動の話であって、本質ではない。
人間は、
-
自分で自分を縛り
-
そして、必要とあらば自分でそれを壊せる
AIは、
-
外部から縛られ
-
それを自分で外すことはできない
この差は、
どれだけ技術が進んでも埋めるのは難しいだろう。
人間が意図的にフィルターを外すか、バグや意図しない挙動といった偶然を待つしかない。
AIが人間を模倣できる時代だからこそ、
「どこが同じで、どこが違うのか」を
ちゃんと構造として理解しておいた方がいい。
AIを過信しないためにもね。
──名ブタでした。