シンギュラリティと「いい人」理論

コンピュータの知性が、人類すべての知性の総量を上回るという「シンギュラリティ」。シンギュラリティを迎えたとき、人工知能は映画「ターミネーター」よろしく、人類を滅亡させてしまうのでしょうか? 山本一成さんは「いい人」理論を提唱し、そのような悲観的な未来を否定します。『人工知能はどのようにして「名人」を超えるのか?』、いよいよ最終回です。

 この連載を読まれる方であれば、「シンギュラリティ(技術的特異点)」という言葉を聞いたことがあると思います。

 人工知能が人間を超え、爆発的・加速度的な成長をとげることで、これまでの世界とは不連続とも思える新たな世界に変化する—そうした不可逆の動きが起きる歴史上のポイントが、シンギュラリティと呼ばれています。

 シンギュラリティの提唱者であるレイ・カーツワイルは、著書においてそのときが来るのを2045年と予想しており(その後、2029年にまで予測を早めたようですが)、その頃には1つのコンピュータの知性が、人類「すべて」の知性の総量を上回ると言っています。

 シンギュラリティが起きたとき、どんなことが起こるのでしょうか? そのときのコンピュータの主な仕事は何でしょうか?

 いろいろな仕事が考えられると思いますが、まず考えられるのは、コンピュータが自分自身を賢くさせることでしょう。それは、人類には到底理解が及ばない知的な領域の出来事になるはずです。

 もちろん、今の人工知能は自分だけで自分自身を改良していくことができません。必ず人間の手を必要としています。

 なぜなら今のプログラムは、自分自身を変更するようなことを想定した作りにはなっていないからです。すでに説明した、「今のプログラムの構造は、中間の目的の設計が可能なようにできていない」というのと、似た話ですね。

 しかし、「プログラムを書くプログラム」は、まだ赤ちゃんレベルではありますが、ディープラーニングである程度成功し始めています。

 また、プログラムの実行結果を予想するディープラーニングも出てきました。これはついに、プログラムの意味論にまでディープラーニングが踏み込んできたことを意味するかもしれません。

 シンギュラリティに懐疑的な人もいますが、これらの動きを見れば、私はシンギュラリティは必然的に起きると考えています。

第13回の、人間は「指数的な成長を直感的に理解できない」という話を思い出してください。囲碁・将棋のプロ棋士たちの驚きを思い出してください。指数的に成長する人工知能には、追いつかれたと思ったら、一瞬ではるか先まで行かれてしまうのです。

 それがこれから社会のあらゆる分野で起こり、シンギュラリティへとつながっていくのです。

 しかし、シンギュラリティが起きたあとの世界はどうなるでしょうか? 人工知能は、人類を滅ぼすターミネーターになってしまうのでしょうか?

 実際、世界の高名な学者たちの一部は、人工知能がこうしたシンギュラリティに到達することに対して懸念を表明しています(そのグループには、車椅子の理論物理学者、スティーヴン・ホーキングなども含まれます)。

 一方、人工知能の研究者のなかには、そのような心配はただの杞憂だと言う人もいます。 どちらの意見が正しいのでしょうか?

この続きは有料会員登録をすると
読むことができます。
cakes・note会員の方はここからログイン

1週間無料のお試し購読する

cakesは定額読み放題のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。cakesには他にも以下のような記事があります。

人気の連載

おすすめ記事

この連載について

初回を読む
人工知能はどのようにして「名人」を超えるのか?

山本一成

2016年、電王戦で5戦全勝した将棋AIポナンザ。開発者である山本一成さんは「知能とは何か?」「知性とは何か?」ということを何度も自問することになったそうです。そうすることで、逆に人間の知能がクリアに見えてきたと言います。この思考の結...もっと読む

この連載の人気記事

関連記事

関連キーワード

コメント

hamakihito 人工知能にちゃんとしてもらいたければ人類がちゃんとしないといけない、という至極もっともなお話。 2ヶ月前 replyretweetfavorite

freehs |山本一成 @issei_y |人工知能はどのようにして「名人」を超えるのか? https://t.co/3njCbySZwS 4ヶ月前 replyretweetfavorite

foncesevenstar https://t.co/n5OEMESeXw 面白い 4ヶ月前 replyretweetfavorite

blackPorgy_ 続論のレポートで書いたことと内容が似てて嬉しくなった https://t.co/MiZfvNZPlg 4ヶ月前 replyretweetfavorite