子どものように人工知能を育てる さかき漣×三宅陽一郎(ゲームAI開発者)スペシャル対談 後編

人工知能の進化とひとりの天才科学者が選ぶ未来の姿を描いた『エクサスケールの少女』を上梓した作家のさかき漣さんと、日本デジタルゲーム学会理事であり、ゲームAI開発者でもある三宅陽一郎さんの刺激的対談は後編。人工知能と人間の脳の違いとは何か? そしてどのようにして人工知能は社会や人間に入り込んでいくのでしょうか?

人工知能は社会に参加できるか

三宅陽一郎(以下、三宅) 僕はこれからの世の中は行政に人工知能が入ってくると思います。国単位か街単位かで、セキュリティ面に人工知能が入って管理するだろうと。例えばアメリカで近い未来に起こると思っているのは、ロボットやドローンによって街全体が24時間管理される社会が来るということです。

さかき漣(以下、さかき) 具体的にはどういうことですか?

三宅 各都市の人工知能が、その都市を守る。その人工知能が使役するのはもはや人間ではなく、24時間休まないドローンであり、ロボットであると。すべての人にIDがあり、あらゆる道にロボットやドローンがいるので、そこを歩いているのがどこの誰かということが瞬時に分かるとなると、テロリストも街に入りようがない。お金も人工知能が全部管理してしまえば、IDがなければ物ひとつ買えないわけです。そうなれば犯罪が減っていくでしょう。治安の悪い国でも人工知能によって安全な街ができれば企業も来るし人も来る。その結果として資本も入るので、システム自体が資本的な価値を持ち始める。例えばひとつの企業が街の監視システムを売りに出すわけです。「あなたの街は荒廃しているから、我々のシステムで安全化しますよ、そしたら人が来ますよ」って。

さかき ゴッサム・シティ(*1)ですね(笑)。スラムか、選ばれし民の場所かっていう。
*1 『バットマン』に登場する架空のアメリカの都市。

三宅 世界中がそのフォーマットで安全になるという社会が、近い将来来るんじゃないかと思っています。そうなると、企業が国を超えて世界を牛耳ることになるんです。

さかき そのAIはプログラム次第で、セキュリティという名目であらゆる恣意的な支配を行うことが可能になってしまうわけですよね。だからこそ、その人工知能はAGIであり、かつそのAGIの価値システムに良心をきちんと教育しているのかが問題になってきますね。

三宅 出雲から大和朝廷ができたときで言えば、まず「法」ができましたよね。法という非人間的なシステムを入れることで社会をシステム化した。そしてそれを実行するのは役人であり、法律家であり、やがて裁判所ができ、国際社会の中で国際法ができた。それと同じような秩序を、今度は人工知能が担うことになるんです。だからこそそれは半分、パブリックなものであるはずです。そうすると、人工知能が人間を監視するのと同じように、万人が人工知能を監視することになる。つまり裁判所の裁判が全部公開であるのと同じ理屈で、人工知能の倫理もまた、万人によって管理させなければならないとすると、人工知能は自律的な倫理を持つことになり、その倫理が全ての人間から監視されることになるでしょう。

さかき それは納得できます。でもさらにその先に進んで、自己改良するAGIが出てきて知能爆発が起こったときに、我々人類が彼らの倫理を監視できるのかというと、それはできないんじゃないかと。だからこそ、人工知能に対する脅威論というものがさまざまな識者から出ているのではないかと思うのですが。

三宅 その自己改良するというところが、残念ながら今の技術ではまだファンタジーなんです。人間の脳とコンピューターは仕組みが違いすぎるんです。コンピューターはメモリと演算方式が完全に分けられていますが、人間の脳は100億ニューロン(*2)あって、それらが同時にいろんな場所で動きます。たくさん動いているそれが、実はひとつの意識になっているというのが不思議なところです。でもコンピューターは、基本的に一度にひとつの計算しかできないので、なかなか難しい。人工知能にはフレーム問題(*3)というのがあって、人間に与えられた以上のことをするのがすごく苦手なんです。ディープラーニング(*4)もそうで、突破できる方法が技術的にはまだないのが現状です。シンギュラリティは単にプロセッサーの速さが100倍、1万倍になれば解決されるという問題ではなく、非常に哲学的かつ本質的な問題で、つまり人工知能はこの社会にちゃんと参加できていないんです。
*2 神経系を構成する動物に特有の細胞。情報伝達と情報処理に特化した機能を持つ。
*3 1969年、ジョン・マッカーシーとパトリック・ヘイズによって指摘された問題。コンピューターの能力では、現実に起こりうる問題のすべてに対処することができないことを示す。
*4 機械学習の手法。システムがデータの特徴を学習し、事象の認識や分類を行う。

さかき それはなぜでしょうか?

三宅 人工知能には感覚もないし、身体もないからです。人間には、体を経由していろいろな感覚、想念、意思、欲求が生まれます。例えばお腹がすいた・空かない、熱い・寒い、眠い・眠たくないなどもそうです。あるいは衣食住。眠る場所がほしいということは、そこから安全に住める家がほしい、街がほしい、仲間がほしいというように繋がっていく。ところが人工知能には体がないので、すべては抽象的です。囲碁、将棋など人間から与えられた箱庭の中では十分賢いのですが、そこを出て自分でどんどん問題を考えていく能力というのに、根本的に欠けている。

さかき 現状ではAIは身体問題を乗り越えられないけれど、将来的にはどうですか?

この続きは有料会員登録をすると
読むことができます。
cakes・note会員の方はここからログイン

1週間無料のお試し購読する

cakesは定額読み放題のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。cakesには他にも以下のような記事があります。

人気の連載

おすすめ記事

この連載について

初回を読む
エクサスケールの少女

さかき漣

30年後にやってくる人工知能が人間を超える“シンギュラリティ"(技術的特異点)。その前段階としてこの10年以内に起こるのが「エクサスケールの衝撃」だ。スパコンの計算処理能力によって、医療・物理・宇宙工学などに革命を起こし、人間生活を大...もっと読む

この連載の人気記事

関連記事

関連キーワード

コメント

hilbert_d 【はてブ新着学問】 2年弱前 replyretweetfavorite

Singulith この20年前のSFが、20年後には実用化されそうだよね。  >「すべての人にIDがあり、あらゆる道にロボットやドローンがいるので、そこを歩いているのがどこの誰かということが瞬時に分かるとなると、テロリストも街に入りようがない」  https://t.co/rFcQhFeBny 2年弱前 replyretweetfavorite

purple_and_p 伊藤計劃読んでるとこにこの記事かぶせると前半部分に妙なリアリティが生じるなぁ。 2年弱前 replyretweetfavorite