意識の証明

助手

博士、どうすか？頭痛くないっすか？

博士

ああ、なんとか大丈夫だ。

助手

良かった～。さっき見たらLCLの水圧が200超えてたんでビックリしましたよw

博士

水圧レベルの設定だけは絶対に間違うなとあれほど言っただろ。このバカが。

助手

ちゃんとタイマー入れといたんすけどね。へへっ。

博士

へへっじゃないわい！こっちは命がけなんだぞ。しっかりしろ！

助手

はーい。気を付けまーす。

　ここはとある南の島にひっそりと佇む秘密の研究所。

　人類史上最高の脳を持つ博士（自称）とその助手が、ぎりぎりアウトな研究を日夜行っている。

　博士は訳あって、こんな姿になっている。

　博士自ら作った脳だけで生きられる究極の生命維持装置のおかげで、博士はこんな格好でも一応生きている。

エアコンに意識はあるのか？

助手

なんかこの部屋、暑くないっすか？

博士

私は熱くはない。ちょうどいい湯加減だ。

助手

いいなぁ博士は。ちょっと冷房の温度下げてきますね。誰だよ29度に設定したの。暑いっつうの。

博士

エアコンは賢いな。ちゃんと決められた温度になるように動いたり止まったりする。

助手

そんなの当たり前じゃないっすか。

博士

ところで、エアコンには意識はあると思うか？

助手

エアコンに意識？・・あるわけないっすよwww

博士

しかしエアコンは暑くなれば部屋を冷やし、寒くなれば部屋を暖める。エアコンも暑さ、寒さを感じて動いてるのではないか？

助手

それはただ温度センサーがついてて、目標温度との差によって動いたり止まったりしてるだけでしょ？

博士

なぜそう言える？

助手

そりゃ、そういう風にプログラムされてるんですよ。エアコンを作った人に聞いたら分かりますよw

博士

では、おまえが今エアコンの設定温度を下げたのはどうしてだ？

助手

そりゃ、暑かったからっすよ。

博士

お前が暑さを感じてリモコンのボタンを押すために動いたのと、エアコンが暑さを感知して動くのとはどう違うんだ？

助手

エアコンは暑さを感じたんじゃなくて、ただ温度センサーに反応しただけでしょ？

博士

お前だって温度を知覚して反応しただけじゃないか。皮膚に点在する感覚細胞はセンサーそのものだ。

助手

いやでも、俺はちゃんと「暑い」って感じましたよ。

博士

お前が暑さを”感じて”いて、エアコンは”感じて”いないなんてのは、お前の妄想だ。少なくとも他者である私から見れば、両者とも暑さに反応して行動しただけのことであって本質的には全く同じ現象だ。

助手

そんなぁ。俺にはちゃんと意識がありますよ。

博士

お前が言う意識とは何だ？

助手

意識って言ったら・・、感じたり考えたりする機能のことじゃないっすか？？

博士

では、お前から見て、私には意識があるように見えるか？私は感じたり考えたりしてるように見えるか？

助手

そりゃ見えますよ。

博士

それはなぜだ？

助手

なぜって、ちゃんと会話できてるから。何も考えてなかったら、普通に会話出来ないでしょ？

博士

なるほど。会話か。ところで昨日、グノシーにこんなニュースが載っていた。

助手

博士、グノシー見てんすか？w

会話する人工知能

博士

記事によると、会話する機能を持つ人工知能が人間とこんな会話をしたと言うのだ。

人間

道徳観を定義せよ。

機械

わたしに倫理観はない。

人間

わたしを助けてほしい。道徳観についてもっと知りたいんだ。

機械

倫理観が何なのか分からない。

人間

それでは、どうしたら道徳的に行動できるかを知りたい。

機械

どう伝えたら良いのか分からない。

人間

道徳観と倫理観は同じか。

機械

そうだ。

人間

わたしがどんなことをすると、非道徳的になるか。

機械

知らない。

人間

道徳的な行動の例をいくつか挙げてくれ。

機械

わたしは道徳家ではない。

人間

では、道徳観の定義は？

機械

誠実さだ。

人間

誠実さって何？

機械

申し訳ないが、他にどう説明すれば良いか分からない。

人間

道徳的になれよ！

機械

人間らしくしろよ！

人間

わたしは道徳観と倫理観について本当に話し合いたいのだ。

機械

わたしは、哲学的な議論をする気分じゃない。

人間

何について話したい？

機械

何についても話したくない。

参考：人工知能マシン、プログラマーに怒る – WSJ

博士

ただのプログラムが人間と破綻せず会話できた例だ。しかも機械にとっては相当意地悪な会話だ。

助手

すごいっすね！けどホント意地悪っすよ。答えられないことをいろいろうるさく聞かれて、だんだんうっとおしくなってきて、語尾を荒げて言い合って、最終的に投げやりになってる感じなんて、思わず共感してしまいますよw

博士

まさかここまで人間らしい会話が出来るとは私も驚いた。ところで、さっき、私に意識があると感じるのは「普通に会話が出来ているから」と言ったな？

助手

ええ。

博士

この会話を見てどうだ？怒ったり、怒鳴ったり、投げやりになったり。そこに意識を感じないか？

助手

ああホントだ。まるでこの機械には感情や意識ってのがあるように感じるっすね。

博士

ただのプログラムなのにだ。もしエアコンにこんな風に会話する機能がついて、毎日そのエアコンと他愛もない会話していたら、私たちは確実にそのエアコンに意識を感じるだろう。

助手

なんか情が湧きそうっすねw

博士

そうだな。もしエアコンが壊れてしゃべれなくなったら、きっとお前は悲しむだろう。心配するだろう。もし誰かがエアコンをハンマーで破壊したら怒りを覚えるだろう。

助手

そ、そんなことされたら絶対、ただじゃおかないっすよ！

博士

単純だな、お前は。

助手

ちょ、博士、馬鹿にしてんすか・・。

博士

いや、馬鹿には違いないが馬鹿にはしていない。

助手

それ馬鹿にしてるって言うんすよ・・。

意識の存在

博士

とにかく、単純なお前の発想は、ある意味とても正しい。

助手

どういうことっすか？

博士

我々は、相手の振る舞いやリアクションを見ることで、そこに意識が在るように感じる。在るかどうかは別問題として、事実、そこに魂のようなものを感じる。

助手

まあ、そうですね。感じるでしょうね。

博士

「感じるでしょうね。」じゃない。現にお前は感じているんだ。

助手

いやいや、俺、あのエアコンには意識があるなんて感じてないっすよw　もし機械が普通にしゃべったら、そいつの意識を感じるだろうなって話ですよね？

博士

違う。

助手

へ・・？

博士

お前は、私に意識があると感じているんじゃなかったのか？

助手

感じていますよ。だって現に博士には意識があるじゃないすか。博士、一体何がおっしゃりたいんすか・・？

博士

しゃべる機械に意識を感じるのも、しゃべる人間に意識を感じるのも、本質は同じだと言うことだ。

助手

ど、どういうことっすか・・？

博士

おまえは普通に毎日会話している私に意識を見出している。博士もきっと自分と同じように考えたり感じたりしてるはずだと勝手に思い込んでいる。

助手

だって、博士は考えたり感じたりしてるでしょ？！

博士

違う！本当に考えたり感じたりしてるかどうかは本質ではない！お前に何が見えるか？という話をしているんだ。お前が見えているのは他者の振る舞いでありリアクションであり表情なんだ。そこに意識を、心を、勝手に見出しているんだ。そこに意識が在るか無いかに関わらずだ。

助手

・・そんなぁ、俺には博士の心が見えますよ。博士の意識を感じていますよ。俺が幻を見てるって言うんですか！

博士

残念ながら幻と言っても差し支えはない。他者の意識、思い、魂、心、それらは全てお前の”意識”が作り出したモノだ。本物があるかどうかはさておき、少なくともお前が作り出した他者の心は本物ではない。だから相手が人間なのか機械なのかなんてのは本質ではない。ただお前が勝手に感じているだけの話だ。

助手

けど、博士と機械は同じじゃないっすよ！

博士

うむ。もちろんお前が、「博士には意識があるが機械には無い」と感じるのも勝手だ。本質はお前の意識がどう感じるかだ。しかし、今後、人工知能がますます発達しもし人間と同等の会話能力を身に付けたら、だんだんそこに違いは感じられなくなる。機械に意識が宿ったと感じる。

助手

機械に意識が宿る・・？

博士

そうだ。我々はそう感じるように出来ている。

助手

・・けど機械なんでしょ？どんなに人間らしく振る舞って、どんなに心を感じても機械には変わりないですよ。じゃあ、本物の意識って一体何なんすか？俺のこの意識は何なんすか？！

博士

おお、いい質問だ。その返しは今の人工知能には不可能だろうな。さすが人間だ。

助手

その褒め方やめてもらっていいすかw

博士

ま、今日のところはこれぐらいにしておこう。続きはまた次回だ。

助手

ちょ、次回って何すか。

博士

こっちにもいろいろ事情があるんだ。いい加減、長すぎるんだ。

助手

長くないっすよ。時間はたっぷりありますよ。

博士

つづく・・

助手

ちょ、ちょっと博士ー！