人工知能は「目的」を設定できない

強化学習によって、人間をはるかに超える知能を獲得した人工知能。しかし、山本一成さんによると「人工知能は自分で目的を設定することができない点で、人間の『知性』を超えていない」そうです。これはいったいどういうことなのでしょうか。

 本連載ではここまで、人工知能が「プログラマ」「科学」「天才」から卒業する様子を説明してきました。これからは、人工知能がついに「人間」から卒業することをお話しします。

(これまでの解説の多くは、研究者たちによる過去の成果や、私が直接経験してきたことを説明したものでした。しかしこれからは、私の予想や意見が多くなることをご了承ください。)

 人工知能が「人間」から卒業するとは、どういうことなのでしょうか? 第18回では、強化学習によって人工知能が人間を大きく超えていくことを説明しましたが、実はあの進歩は、「知能」としての枠内で、人工知能が人間を超えることを意図していました。

 しかし、これまで本連載では意図的に極力使わないできた、「知的さ」を表す単語があります。それが「知性」です。

 「知能」と「知性」の違いについてはいろいろな説明の仕方があると思いますが、本連載ではずばり「知性とは目的を設計できる能力である」と定義します。また「知能」は探索と評価で目的までの道筋を探すことができる能力でしたね。

 なのでわかりやすくまとめると、

知性=目的を設計できる能力
知能=目的に向かう道を探す能力

となります。


図表4-1 知性と知能の関係
目的を設計することで、知能を適切に運用できる能力が知性。

 今の人工知能は、「知能」の枠内では人間を超えようとしていますし、一部の分野では完全に超えました。しかし、「そもそも、何をすべきか?」という目的を設計できる能力=知性は、まだ持ち合わせていません。

 そうした目的は、人間が設計しなければならないのです。たとえばポナンザの目的は、「将棋で勝利せよ」になります。

 ただし、一言で「目的」と言っても、人間はさまざまな設計の仕方をしています。たとえば目的までの距離が大きいときには、人間はしばしば適切な中間の目的を設計します。

 これは多くの人が無意識でやっていることですので、わかりにくいかもしれませんね。将棋を例に具体的に見ていきましょう。

「中間の目的」とPDCAで戦う人間の棋士
この続きは有料会員登録をすると
読むことができます。
cakes・note会員の方はここからログイン

1週間無料のお試し購読する

cakesは定額読み放題のコンテンツ配信サイトです。簡単なお手続きで、サイト内のすべての記事を読むことができます。cakesには他にも以下のような記事があります。

人気の連載

おすすめ記事

この連載について

初回を読む
人工知能はどのようにして「名人」を超えるのか?

山本一成

2016年、電王戦で5戦全勝した将棋AIポナンザ。開発者である山本一成さんは「知能とは何か?」「知性とは何か?」ということを何度も自問することになったそうです。そうすることで、逆に人間の知能がクリアに見えてきたと言います。この思考の結...もっと読む

この連載の人気記事

関連記事

関連キーワード

コメント

hachi_mitsu この記事1つとってもものすごく面白いし、驚くほどわかりやすい 4ヶ月前 replyretweetfavorite

AI_m_lab 参考にしたい情報ですね ▼|人工知能はどのようにして「名人」を超えるのか?|山… https://t.co/wX2Va3OeQY #人工知能 4ヶ月前 replyretweetfavorite

puriketu99 この「中間の目的」の適切な設定が心血を注ぐ対象だと思う 再現性と正確さのトレードオフを意識して見抜く 「nが3の倍数か」を解くとき、筆算してゴリゴリ剰余を求めるのではなく、「各桁の和が3の倍数か」に置き換える感じ https://t.co/6TjKjRjck0 4ヶ月前 replyretweetfavorite

puriketu99 この「中間の目的」を適切に紡ぐことが生命線で、エレガントに局面をとらえるということと https://t.co/6TjKjRjck0 4ヶ月前 replyretweetfavorite