シンギュラリティと「いい人」理論

　この連載を読まれる方であれば、「シンギュラリティ（技術的特異点）」という言葉を聞いたことがあると思います。

　人工知能が人間を超え、爆発的・加速度的な成長をとげることで、これまでの世界とは不連続とも思える新たな世界に変化する——そうした不可逆の動きが起きる歴史上のポイントが、シンギュラリティと呼ばれています。

　シンギュラリティの提唱者であるレイ・カーツワイルは、著書においてそのときが来るのを2045年と予想しており（その後、2029年にまで予測を早めたようですが）、その頃には１つのコンピュータの知性が、人類「すべて」の知性の総量を上回ると言っています。

　シンギュラリティが起きたとき、どんなことが起こるのでしょうか？　そのときのコンピュータの主な仕事は何でしょうか？

　いろいろな仕事が考えられると思いますが、まず考えられるのは、コンピュータが自分自身を賢くさせることでしょう。それは、人類には到底理解が及ばない知的な領域の出来事になるはずです。

　もちろん、今の人工知能は自分だけで自分自身を改良していくことができません。必ず人間の手を必要としています。

　なぜなら今のプログラムは、自分自身を変更するようなことを想定した作りにはなっていないからです。すでに説明した、「今のプログラムの構造は、中間の目的の設計が可能なようにできていない」というのと、似た話ですね。

　しかし、「プログラムを書くプログラム」は、まだ赤ちゃんレベルではありますが、ディープラーニングである程度成功し始めています。

　また、プログラムの実行結果を予想するディープラーニングも出てきました。これはついに、プログラムの意味論にまでディープラーニングが踏み込んできたことを意味するかもしれません。

　シンギュラリティに懐疑的な人もいますが、これらの動きを見れば、私はシンギュラリティは必然的に起きると考えています。

第13回の、人間は「指数的な成長を直感的に理解できない」という話を思い出してください。囲碁・将棋のプロ棋士たちの驚きを思い出してください。指数的に成長する人工知能には、追いつかれたと思ったら、一瞬ではるか先まで行かれてしまうのです。

　それがこれから社会のあらゆる分野で起こり、シンギュラリティへとつながっていくのです。

　しかし、シンギュラリティが起きたあとの世界はどうなるでしょうか？　人工知能は、人類を滅ぼすターミネーターになってしまうのでしょうか？

　実際、世界の高名な学者たちの一部は、人工知能がこうしたシンギュラリティに到達することに対して懸念を表明しています（そのグループには、車椅子の理論物理学者、スティーヴン・ホーキングなども含まれます）。

　一方、人工知能の研究者のなかには、そのような心配はただの杞憂だと言う人もいます。 どちらの意見が正しいのでしょうか？