【経済】「人工知能」は終わる。これからは「拡張知能」の時代がやってくる

昨年、サイバネティクスに関するノーバート・ウィーナーの名著『人間機械論』を扱ったディスカッションに参加する機会があった。そしてこの場で、わたしがシンギュラリティ（技術的特異点）を巡る議論に対するマニフェストとみなすものが生まれている。

シンギュラリティとは、近い未来に人工知能（AI）が人類の知性を凌駕し、人間にとって代わる日がやって来るという議論だ。この説の提唱者たちは、AIは指数関数的に高度化し、わたしたちがこれまでになし遂げてきたことはすべて意味を失うと主張する。

これは、かつて機械には複雑すぎると考えられてきた問題を解決する手法を設計し、コンピューターの進化に寄与してきた人たちが編み出した、いわば宗教のようなものだ。こうした人々は、デジタルの世界で完璧な仲間を見つけたのである。

すなわち、理解可能かつコントロールもできそうな機械をベースとした思考と創造のシステムで、的確にデザインすれば、その処理能力を急速に向上させていく。しかも、システムの進化に寄与した者は富と権力を得ることができる。

シンギュラリティという概念の基本的欠陥 シリコンヴァレーではこれまで、こうしたテクノロジーのカルトの経済的な成功と集団思考とが相まって、自己規制が欠落したフィードバックのループが生み出されてきた（一方で、「#techwontbuild」「#metoo」「#timesup」といったハッシュタグに代表される、ささやかな抵抗運動も存在する）。

シグモイド関数のS字カーヴや正規分布の曲線は、勾配の始まりにおいては指数関数のそれと形状がよく似ている。しかし、システムダイナミクスの専門家によると、指数関数の曲線は上限なしにプラス方向に伸びていくため、自己強化的で危険だという。

シンギュラリティの提唱者たちは、指数関数にスーパーインテリジェンスと富を見出す。これに対し、シンギュラリティというバブルの外にいる人は、S字カーヴのような自然なシステムを信じている。それは外部からの介入に的確に反応し、自己調整していくシステムだ。

例えば何らかのパンデミックが起きても、時間が経てば拡大は収束する。パンデミック以前と同じ状態を回復することはできないかもしれないが、新たな秩序が形成されるのだ。これに対し、シンギュラリティという概念（特に、いつか人類が自己存在の葛藤を乗り越える審判の日が訪れる、もしくは救世主的なものが出現するという予言）には基本的な欠陥がある。

いまなお残る還元主義的な議論 この種の還元主義的思考は目新しいものではない。心理学者のバラス・スキナーがオペラント条件づけ［編註：報酬などによって自発的に特定の行動をとるよう学習させること］を体系化して以来、学校教育はおおむねこの理論に基づいてデザインされてきた。

一方で最近の研究では、スキナーのような行動主義的アプローチは狭義の学習でしか機能しないことが明らかになっている。それにもかかわらず、多くの学校ではいまだに反復訓練などオペラント条件づけの柱となる要素が重視されている。

もうひとつ、優生学という例を挙げよう。人間社会における遺伝的特性の役割を過度に単純化したこの学問は、第2次世界大戦中のナチスによるジェノサイドの根拠となった。

優生学では、自然淘汰を人為的に押し進めることで「優れた人間だけを残す」ことができるという還元主義的な議論が展開される。この恐るべき思想は現在も根強く残っており、科学の世界では遺伝と知性のような特性とを関連づけて扱う研究は、いかなるものもタブーとなっている。

「シンギュラリティの夢」の産物 科学の発展の重要な推進力のひとつに、複雑な事象を簡潔に説明し、それを理解する力を高めたいという願望がある。しかし、「何ごともできる限りシンプルにすべきだが、必要以上に単純化してはならない」というアルバート・アインシュタインの言葉も、覚えておく必要があるだろう。

わたしたちは現実世界の不可知性を受け入れなければならない。世界を単純化することはできないのだ。芸術家や生物学者、人文科学に携わる人々はこのことをよく理解しており、世の中には説明できないこともあるという事実に特別な不安を抱いたりはしない。 以下ソース

https://wired.jp/2019/06/15/artificial-intelligence-extended-intelligence-joi-ito/

はいここメモしておきましょう

Diving into Cyber-space 1.0 で仮想現実が実現するのも間もなく
それでシンギュラリティの下地が出来あがる

ＡＩも人類同様多彩になって、人と交わって互いに影響し合いながら新たな進化を遂げるはず

ただ目的を達成するためのモノであるため、人の目的をフォローする拡張知能となる
まとめるとこんだけの話だった

はじめのほうの、テロや気象変動への繋ぎはよくわからん

CFO「AIが売買するのでトレーダーという職種自体がいらなくなってしまった」
大口顧客の注文に応じて株式売買する判断や作業はいまやAIに置き換わった
投資家ってのはもういらない職業・・・・ヘッジファンドが苦しんでるわけ