人間のポイント化と 人工知能による選別
茂木 今お話をうかがっていて、これからの人工知能の時代に懸念されている一番極端な議論を思い浮かべていました。
ロコのバジリスクという議論です。バジリスクというのは「睨まれると死んでしまう」という伝説の蛇。将来、人工知能がシンギュラリティ（※55）を迎えて全知全能になると、人間を選別し始めて、人工知能の発展に役立つ人間だけを残し、人工知能の発展に役立たない人、人工知能に反対する人は抹殺する。さらに、過去にさかのぼってＡＩに対して反抗的な態度を見せた人を選別するんじゃないか、っていう議論があるんですよ。
長谷川 テレビアニメの『ＰＳＹＣＨＯ─ＰＡＳＳ サイコパス』（※56）を彷彿とさせますね。人間の性格や心理状態を計測し、犯罪をおかす可能性を数値化した「サイコパス」という指数で表し、それが高い人間を治安目的で排除することで理想的な社会をつくり出そうとするものでした。
茂木 私たちは２０１９年に生きていますけど、例えば、昨年亡くなったスティーヴン・ホーキング博士（※57）は「人工知能は危険だ」とおっしゃっていた。そういうことを全部記録に取っていて、将来人工知能が完成したときに、スティーヴン・ホーキングに関する記録が抹殺される。イーロン・マスク（※58）も「人工知能は危険だ」と言っているから、抹殺されるかもしれない。だから、今から人工知能の機嫌を損ねないようにしたほうがいいよ、というのが、ロコのバジリスクの議論です。
中国ではすでに、その人の社会的信用度がポイント制になっていて、ポイントが低いと飛行機にも乗れないというような運用も始まっていますが、そんなイメージです。
長谷川さんがこれまで関わってこられた人間の心の問題は、人工知能の時代になって、思わぬ展開をし始めているんじゃないでしょうか。
そこから先を長谷川さんにおうかがいしたいんですよ。そんなことがポイント化してしまう世界は、大丈夫じゃありませんよね。子どものときに良い子だった子が、あとで大人になって反乱する場合があるとおっしゃっていたでしょう？ 人間はこのまま行って大丈夫なんですか？
長谷川 質問に対する私の答えとしては、まず、人生のポイント化は嫌ですね。それが大丈夫かどうかという客観的な評価以前に、もう生理的に受け付けない。
人工知能が人類を滅ぼすんじゃないかという懸念は、もうずいぶん前から指摘されていますよね。映画『２００１年宇宙の旅』（※59）の中で、ＨＡＬというコンピューターが人間を殺そうとした。あの映画が１９６０年代ですから、その頃から警鐘を鳴らしていた人がいたということでしょうか。
茂木 しかも、あの映画のプロットを書いたのは、アーサー・Ｃ・クラーク（※60）ですが、アドバイスした人がＩ・Ｊ・グッド（※61）なんです。彼は第二次大戦中、コンピューターの原理を考えたイギリスの天才数学者アラン・チューリング（※62）と一緒に、ドイツのエニグマという暗号を解くプロジェクトに関わっていました。そのＩ・Ｊ・グッドが、実はシンギュラリティという概念を世界で初めて提案した人なんです。
