特異点（シンギュラリティ）は近い。コンピュータが人類の知性を超えるとき何が起こるのか？

 技術的特異点（シンギュラリティ）の到来は、われわれ人類を有史以来最も過激でスリリングな時代の淵へと立たせることになる。つまり、「人間であること」の意味そのものが、拡張され、また脅威にさらされる時代になる。

われわれ人類は、知性、物質的進歩、そしてわれわれの寿命において、信じられないほどの高みにまで到達するだろう。―特異点（シンギュラリティ）は近い。レイ・カーツワイルの著書「シンギュラリティは近い―人類が生命を超越するとき」 のサマリーだ。テクノロジーの進化と哲学の問題が交錯する。

地球全人類の知能を超える究極のコンピューター「A・I」が誕生し、その「A・I」がその後更に自分よりも優秀な「A・I」を作りあげ、更にその「A・I」が次のもっと優秀な「A・I」を作る…しかし、良く考えると鶏と卵の関係のようだ。人間が作るマシンだからだ。

といった具合に「A・I」が「A・Ｉ」を連鎖ねずみ算的に作り続けて宇宙天文学数字的な爆発的スピードプロセスでテクノロジーを自己進化させ、人間の頭脳レベルではもはや予測解読不可能な未来が訪れる。

1775年に蒸気機関が発明され、爆発的な成長を遂げた。これは、今まで人間に頼ってきていた「動力」を蒸気機関が担うようになり、工場の巨大な機械を動かし、蒸気機関車を走らせ、電気を使うようになったのが第一の機械の時代で生産性が極度に成長した。いわば筋肉の時代。

現在は、同様の変化が脳「知力」に起きようとしている。第2の機械の時代の到来だ。コンピューターの能力は向上し続けている。コンピューターは、与えられたロジックに基づいて計算するのみならず、IBM Watsonに見られるように、AI、つまり自らパターン認識し、機械学習して、最適解を判断する段階まできている。

2045年前後にはコンピューターの能力は人間の脳を超えるという試算も出ている。つまり2045年のシンギュラリティの到来だ。

知性をコンピューターに追い越されることはその支配権を渡すことに繋がる。例えば、AIに対して「人類を傷つけてはならない」と命令するのは簡単だが、人間の知性を超えたAIがそれをどのように理解し、対処するかは想像することができない。

イーロンマスクやビルゲイツも警鐘を鳴らす。たとえば「一瞬で人類を消滅させることが、長期的に地球の傷を最小化する」と判断するかもしれない。AIがどのように判断するかを予見するのは不可能だ。AIの制御方法を人間が究明してAIがシンギュラリティに近づくことを人類が避けることが絶対条件になる。
http://www.emreyuasa.com/2015/01/4/
http://www.ikeda.asia/2014/02/2045.html