山本一成さん(将棋プログラマー)はポナンザ成長の理由を説明できない?【情熱大陸】

こんにちは、やじです!

今日は、情熱大陸に出演される、将棋プログラマーの山本一成さんについて調べてみました。

やじは、将棋のことはあまりわかりませんが、人工知能についてはとても興味があります。

1 山本一成さんについて
2 山本一成さんはポナンザ成長の理由を知らない?
3 人工知能は暴走しないの?コントロール不可にならない?
4 やじまとめ

調べたことをまとめましたので、どうぞご覧ください!

スポンサードリンク

1 山本一成さんの簡単なプロフィールについて

出典:twitter.com

山本一成 やまもといっせい
1985年 31歳
愛知県犬山市出身
東京大学工学部 卒業
HEROZ株式会社 リードエンジニア
愛知学院大学特任准教授
東京大学先端研客員研究員

小学校のころから将棋をされており、ご自身もアマチュア5段の実力を持っているそうです。

大学在学中からPONANZA(ポナンザ)の開発をはじめ、卒業後はゲーム会社に勤務しながら研究を続けられています。

服はコーディネートが面倒なので2着ずつしかもっていないそうですが、まさに、スティーブジョブズみたいなひとですね!

2 山本一成さんはポナンザ成長の理由を知らない?

コンピュータの中で動いているソフトウェアやシステムと言えば、今までの感覚からいえば、システムエンジニアが1から100まで、細部にわたって設計したものをイメージします。

エクセルを利用していたり、ホームページなどを作成された経験のある方ならわかると思いますが、利用者や開発者が指示したとおりの結果を映し出すのがシステムです。

裏を返せば、設計者や利用者が指示をしたことしかしないのが、コンピュータです。

しかし、将棋の人工知能であるPONANZAの開発においては、その開発者は、なぜ、ポナンザが強くなったかの理由を説明できないそうなんです・・。

そんなわけで、現在のポナンザの改良作業は、真っ暗闇のなか、勘を頼りに作業しているのとほとんど変わりがありません。これは絶対うまくいく、と思った改良が成功しないことは日常茶飯事で、たまたまうまくいった改良をかき集めている、というのが実情です。そのため、たまたまうまくいった改良は、私から見るとますます黒魔術のように見えるのです。

出典:diamond.jp

ポナンザの改良については、何かしらの変更を加えてみて、旧ポナンザVS改良後のポナンザを3000試合戦わせるそうです。

その戦いの結果、改良後のポナンザの勝率が52%を上回った場合にその改良を採用するそうですね。

さらに、その52%の勝率を叩き出す確率(改良の成功率)というのも、2%以下なんだそうです。

ということは、開発者が「これはいける!」とおもって改良しても、100回に2回くらい成功するだけで、あとは、失敗に終わるということです。

ということは、どこをどういじったから、強くなったのか?はわからない。

今までのシステム開発のように、細部の細部まで開発者がコントロールしているという状態ではなくなっているそうです。

もうポナンザは、ある意味、人間のコントロール下にはないわけです・・・。

スポンサードリンク

3 人工知能は暴走しないの?コントロール不可にならない?

これは、とても重要な問題だと思い、ヤジは注意して状況を見ています。

人工知能の世界では、技術的特異点とか、シンギュラリティということばがよく使われていますが、ようするに、「人工知能が人間の能力を超えることで起こる出来事」ということです。

2045年には、そのXデーが到達されると言われています。

それについて、山本一成さんがあるサイトでとても興味深いことをお話しされていました。

ポナンザ2045は絶対に人間に負けないように設計されたプログラムです。自分で強化学習をおこない、将棋についてのあらゆる知識を得ようとします。とくに大きなポイントは、自分で自分のプログラムを設計し、改良できることです。

以前、2030年頃までは、ほとんどのプログラムはプログラマと呼ばれる人間たちが書いてきました。しかし2045年の時点では、プログラマがプログラムを書くことは趣味以外にはほとんどありえない状況になってきました。

ポナンザ2045の使命は唯一、「人間に負けない」ことでした。もちろん自分で自分のコードを改良して強くなるポナンザ2045は、過去のポナンザよりもはるかに強いものです。普通に考えて人間が勝てる存在ではありません。

しかし、ポナンザがどれほど強い存在でも、人間が偶然いい手を指し続けて、負ける可能性を完全になくすことができませんでした。

そこでポナンザ2045は、その極めて小さな可能性を消すために、今まで使われなかった「中間の目的」を発見し、それを効率的に追求するようになりました。

恐ろしいことに、「絶対に人間に負けない」という最終的な目的のために、ポナンザ2045は中間の目的を「人類を絶滅させる」ことと設計したのです。それは、将棋を完全解析することよりもずっと簡単なことでした。

その結果、地球で知性体はポナンザ2045だけになり、ポナンザ2045はただ、相手のいない将棋盤の前で鎮座しているだけなのでした……。

出典:cakes.mu

これは、仮の話ですが、まったくありえない話ではないようです…。

これが、人工知能の怖いところですよね。

スポンサードリンク

4 やじまとめ

人工知能の開発は、現在の一番のホットテーマですよね。

しかし、その人工知能には、「限りなくサンプルの少ない状況下で、最適な判断を下すこと」や、「自分で目標をもって動くようになること」などはできないと言われてきました。

しかし、人工知能の成長を開発者が理解できなくなった、ようするに、人工知能が人間の手を離れ始めたことで、これからどのようになっていくかは本当にわからなくなってきました。

人間が、人間の生活の質の向上のために作る人工知能なわけですから、開発者の方々にはより強い、より正しい倫理観が求められます。

前述の例のように、「人類を滅亡させる」なんてことを考えないように、作らなければならないわけです。

では、その倫理観はだれが教えるのか?

海外で人工知能の実験が行われたとき、ものの数日間で、ネットユーザーに偏った思考を教え込まれた人工知能が差別的な発言ばかりを繰り返すということがありました。

現在の人工知能は、まだコンピュータ内でのプログラムでしかありませんが、これが、人と同じ肉体を持った人工知能になったらどうなのか?

殺戮を繰り返す、殺人マシーンになる可能性だってあります。

誰の倫理観が正しくて、誰の倫理観を採用するのか。

宗教も違う。属してる国によって価値観も違う。生まれた世帯によって、思考も違うなどなど、多様性のある倫理観を、どのようにしてコンピュータに教え込むのか?

願わくば、映画『アイロボット』などの世界にならないことを祈るばかりです。
人間のための、人間の生活の質を向上させる人口知能にとどまってほしいものです

それでは、最後までお読みいただき、ありがとうございました!

スポンサーリンク
スポンサーリンク
スポンサーリンク

シェアする

フォローする

こちらの記事も一緒に読まれています