人工知能(AI)への違和感と人類との共存【第18回】

「人工知能は危険だ」と警鐘を鳴らす声があります。AIが人間の知性を超えることによるシンギュラリティが近づく中、映画『2001年宇宙の旅』で描かれた恐怖が現実になるとしたら……。非合理性を備えているからこそ、人間は美しい。脳科学者・茂木健一郎さんと臨床心理学者・長谷川博一さんの立場は明快です。
ふたりが生きづらさの正体を考える書籍『生きる──どんなにひどい世界でも』を連載で全文公開。(火・木・土更新)

photo by 飯本貴子

人間のポイント化と 人工知能による選別

茂木 今お話をうかがっていて、これからの人工知能の時代に懸念されている一番極端な議論を思い浮かべていました。

 ロコのバジリスクという議論です。バジリスクというのは「睨まれると死んでしまう」という伝説の蛇。将来、人工知能がシンギュラリティ(※55)を迎えて全知全能になると、人間を選別し始めて、人工知能の発展に役立つ人間だけを残し、人工知能の発展に役立たない人、人工知能に反対する人は抹殺する。さらに、過去にさかのぼってAIに対して反抗的な態度を見せた人を選別するんじゃないか、っていう議論があるんですよ。

長谷川 テレビアニメの『PSYCHO─PASS サイコパス』(※56)を彷彿とさせますね。人間の性格や心理状態を計測し、犯罪をおかす可能性を数値化した「サイコパス」という指数で表し、それが高い人間を治安目的で排除することで理想的な社会をつくり出そうとするものでした。

茂木 私たちは2019年に生きていますけど、例えば、昨年亡くなったスティーヴン・ホーキング博士(※57)は「人工知能は危険だ」とおっしゃっていた。そういうことを全部記録に取っていて、将来人工知能が完成したときに、スティーヴン・ホーキングに関する記録が抹殺される。イーロン・マスク(※58)も「人工知能は危険だ」と言っているから、抹殺されるかもしれない。だから、今から人工知能の機嫌を損ねないようにしたほうがいいよ、というのが、ロコのバジリスクの議論です。

 中国ではすでに、その人の社会的信用度がポイント制になっていて、ポイントが低いと飛行機にも乗れないというような運用も始まっていますが、そんなイメージです。

 長谷川さんがこれまで関わってこられた人間の心の問題は、人工知能の時代になって、思わぬ展開をし始めているんじゃないでしょうか。

 そこから先を長谷川さんにおうかがいしたいんですよ。そんなことがポイント化してしまう世界は、大丈夫じゃありませんよね。子どものときに良い子だった子が、あとで大人になって反乱する場合があるとおっしゃっていたでしょう? 人間はこのまま行って大丈夫なんですか?

長谷川 質問に対する私の答えとしては、まず、人生のポイント化は嫌ですね。それが大丈夫かどうかという客観的な評価以前に、もう生理的に受け付けない。

 人工知能が人類を滅ぼすんじゃないかという懸念は、もうずいぶん前から指摘されていますよね。映画『2001年宇宙の旅』(※59)の中で、HALというコンピューターが人間を殺そうとした。あの映画が1960年代ですから、その頃から警鐘を鳴らしていた人がいたということでしょうか。

茂木 しかも、あの映画のプロットを書いたのは、アーサー・C・クラーク(※60)ですが、アドバイスした人がI・J・グッド(※61)なんです。彼は第二次大戦中、コンピューターの原理を考えたイギリスの天才数学者アラン・チューリング(※62)と一緒に、ドイツのエニグマという暗号を解くプロジェクトに関わっていました。そのI・J・グッドが、実はシンギュラリティという概念を世界で初めて提案した人なんです。

この続きは有料会員登録をすると
読むことができます。
cakes会員の方はここからログイン

1週間無料のお試し購読する

cakesは定額読み放題のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。cakesには他にも以下のような記事があります。

人気の連載

おすすめ記事

生きる──どんなにひどい世界でも

茂木 健一郎,長谷川 博一
主婦と生活社
2019-07-19

この連載について

初回を読む
生きる──どんなにひどい世界でも

茂木健一郎 /長谷川博一

「生きづらさ」の正体は何なのか? 現代社会の病理はどこにある? 脳科学者と臨床心理学者が出会ったとき、いのちが動きはじめ、世界の見え方が変わります──。7月19日発売の書籍を全文公開。

この連載の人気記事

関連記事

関連キーワード

コメント

Tweetがありません