人工知能が支配する未来、人類は平和に暮らせるでしょうか？ - 人工知能の未来 P6

人類に関して言えば、「他者」との共生に関しては、最高の実績がありません。 ドイツのユダヤ人虐殺やルワンダのツチ族の虐殺、西側諸国によるアフリカ人の奴隷化、東南アジアの年季奉公奴隷など 今 中東の湾岸諸国で働いている人や、米国でメキシコ人が経験している現在の迫害や、一部の EU 諸国でシリア難民が経験している迫害でさえあります。 全体として、私たちが自分とは異なると認識しているものに対する本能的な恐怖は、私たちが恐れているものを制御するか、（極端な場合には）破壊する行動をとるように導く可能性があります.

人工知能が真に人間のようになったとき、私たちは何か違うことを期待できますか?

スター・ウォーズの物語に見られるように、私たちは独立した AI ロボットの存在と共存する未来に生きるのでしょうか、それともブレードランナー フランチャイズに描かれているように AI の存在を迫害して奴隷にするのでしょうか? (これらのポップ カルチャーの定番のいずれも見たことがない場合は、何を待っていますか?)

これらは、この最終章の質問です 人工知能の未来 シリーズは答えたいと思っています。 主要な AI 研究者による予測が正しければ、XNUMX 世紀半ばまでに、私たち人間は多様な AI 存在と世界を共有することになるため、彼らと平和に共存する方法を見つけ出すことが重要です。

人間は人工知能と競争できるでしょうか？

信じられないかもしれませんが、できます。

平均的な人間 (2018 年現在) は、最先端の AI よりも優れています。 私たちに概説されているように 序章、今日の狭い人工知能 (ANI) は、人間よりもはるかに優れています。 特定の 彼らは設計されたタスクを実行しますが、その設計外のタスクを引き受けるよう求められると絶望的です。 一方、人間は、地球上の他のほとんどの動物と同様に、さまざまな環境で目標を追求する適応能力に優れています。 定義 コンピューター科学者のマーカス・ハッターとシェーン・レッグが提唱した知性の理論。

この普遍的な適応能力の特性は大したことではないように思えますが、目標に対する障害を評価し、その障害を克服するための実験を計画し、実験を実行するための行動を起こし、結果から学び、そして継続する能力が求められます。目標を追求すること。 地球上のすべての生命は、この適応ループを毎日何千回から何百万回も本能的に実行しており、AI が同じことを学習できるようになるまで、生命のない作業ツールのままです。

しかし、私はあなたが考えていることを知っています.人工知能の未来に関するこのシリーズ全体は、十分な時間があれば、AIエンティティは最終的に人間と同じくらい賢くなり、その後すぐに人間よりもはるかに賢くなる.

この章では、その可能性に異議を唱えません。

しかし、多くのコメンテーターが陥る罠は、進化は生物学的な脳を生み出すのに何百万年もかかったので、AI が数年、数か月という短いサイクルで独自のハードウェアとソフトウェアを改善できるようになると、絶望的に打ち負かすことができるだろうと考えていることです。 、おそらく数日。

ありがたいことに、最近の遺伝子工学の進歩のおかげもあって、進化にはいくつかの戦いが残っています。

シリーズで最初に取り上げた 人類の進化の未来、遺伝学者が特定した 69個の遺伝子 これらは知性に影響を与えますが、合わせて IQ に与える影響は XNUMX% 未満です。 これは、知性に影響を与える遺伝子が何百、何千と存在する可能性があることを意味し、それらすべてを発見するだけでなく、胎児の改ざんを検討する前に、それらすべてを予測どおりに操作する方法を学ぶ必要があります。 DNA。 

しかし、2040 年代半ばまでに、ゲノミクスの分野は成熟し、胎児のゲノムを完全にマッピングできるようになり、その DNA の編集をコンピューターでシミュレートして、ゲノムの変化が将来の身体的、感情的な影響を正確に予測できるようになります。 、そしてこの議論にとって最も重要なのは、その知性属性です。

言い換えれば、ほとんどの AI 研究者が AI が人間レベルの知性に到達し、おそらくそれを超える可能性があると考える今世紀半ばまでに、人間の幼児の世代全体を遺伝的に改変して、前の世代よりもはるかに賢くする能力を獲得するでしょう。彼ら。

私たちは、超知的な人間が超知的な AI と共存する未来に向かっています。

超知性人間で満たされた世界の影響

では、ここで話しているのはどれくらい賢いのでしょうか。 文脈上、アルバート アインシュタインとスティーブン ホーキングの IQ は約 160 でした。知性を制御するゲノム マーカーの背後にある秘密を解き明かせば、IQ が 1,000 を超える人間が生まれてくる可能性があります。

アインシュタインやホーキングのような知性が、現代世界の基盤となっている科学的ブレークスルーの火付け役となったため、これは重要です。 たとえば、物理学について何かを理解しているのは世界人口のごく一部にすぎませんが、世界の GDP のかなりの割合が物理学の発見に依存しています。スマートフォン、最新の電気通信システム (インターネット)、GPS などの技術は、量子力学なしでは存在できません。 .

この影響を考えると、私たちが天才の世代全体を出産した場合、人類はどのような進歩を遂げることができるでしょうか? 何億ものアインシュタイン？

世界はこれほどまでに超天才が集まったのを見たことがないので、答えを推測することは不可能です。

これらの人々はどのようになりますか？

味のために、記録された最も賢い人間のケースを考えてみてください。 ウィリアム・ジェイムズ・シディス (1898-1944)、彼の IQ は約 250 でした。彼は 11 歳までに読むことができました。 彼は XNUMX 歳までに XNUMX つの言語を話しました。 彼は XNUMX 歳までにハーバード大学に入学を許可されました。そして、Sidis は、生物学者が人間が遺伝子編集でいつかなれると理論化するものの XNUMX 分の XNUMX の賢さしかありません。

(補足: ここでは知性について話しているだけで、私たちを物理的に超人にする遺伝子編集については触れていません。 詳細については、こちらを読みます.)

実際、人間と AI は、一種の正のフィードバック ループを作成することによって共進化する可能性が非常に高く、そこでは高度な AI が遺伝学者がヒトゲノムを習得してますます賢い人間を作成し、さらに人間がよりスマートな AI を作成するように働きかけます。の上。 そうです、AI 研究者が予測しているように、地球は今世紀半ばに知能爆発を経験する可能性が十分にありますが、これまでの議論に基づくと、人間 (AI だけでなく) もその革命の恩恵を受けるでしょう。

私たちの間のサイボーグ

超知的な人間に関するこの議論に対する公正な批判は、20 世紀半ばまでに遺伝子編集を習得したとしても、この新しい世代の人間が成熟し、人類の進化に大きく貢献できるようになるまでには、さらに 30 年から XNUMX 年かかるということです。 AIとともに知的な活躍の場を広げます。 この遅れは、AI が「悪」に転向することを決定した場合、人類に対して重要な有利なスタートを切ることになるのではないでしょうか?

これが、今日の人間と明日の超人の間の架け橋として、2030 年代以降、人間と機械のハイブリッドであるサイボーグという新しいクラスの人間の始まりが見られる理由です。

（公平を期すために言うと、サイボーグの定義によっては、技術的にはすでに存在しています。具体的には、戦争の傷、事故、または出生時の遺伝的欠陥の結果として義肢を持つ人々です。しかし、この章の文脈に焦点を当て続けるために、私たちの心と知性を増強するための人工装具に焦点を当てます.)

最初に議論された コンピュータの未来 シリーズでは、研究者は現在、Brain-Computer Interface (BCI) と呼ばれるバイオエレクトロニクス分野を開発しています。 これには、脳スキャン デバイスまたはインプラントを使用して脳波を監視し、コードに変換してから、それらをコマンドに関連付けて、コンピューターによって実行されるあらゆるものを制御することが含まれます。

まだ黎明期ですが、BCI を使用することで切断者は ロボットの手足のテスト 切り株に取り付けられたセンサーではなく、心によって直接制御されます。 同様に、重度の障害を持つ人 (四肢麻痺の人など) は現在、 BCI を使用して電動車いすを操縦する ロボットアームを操作します。 しかし、四肢切断者や障害者がより自立した生活を送るのを助けることは、BCI ができることの範囲ではありません。

2030 年代にヘルメットやヘアバンドのように見えるものは、最終的には脳インプラント (2040 年代後半) に取って代わられ、私たちの心をデジタル クラウド (インターネット) に接続します。 最終的に、この人工脳は私たちの心の第 XNUMX 半球として機能するようになります。そのため、左半球と右半球が創造性と論理能力を管理する一方で、この新しいクラウド供給のデジタル半球は、情報へのほぼ瞬時のアクセスを促進し、認知能力を高めます。速度、繰り返し、正確さなど、人間が AI の対応物に劣ることが多い属性。

これらの脳インプラントは、必ずしも私たちの知性を向上させるわけではありませんが、今日のスマートフォンと同じように、私たちの能力と独立性をはるかに高めます.

多様な知性に満ちた未来

AI、サイボーグ、超知性人間に関するこのすべての話は、考慮すべき別のポイントを開きます。未来は、人間や地球の歴史でこれまでに見たよりもはるかに豊かな知性の多様性を見るでしょう.

考えてみてください、今世紀の終わりまでに、私たちは次のようなもので満たされた未来の世界について話しているのです:

• 昆虫の知性
• 動物の知性
• 人間の知性
• サイバネティックに強化された人間の知性
• 汎用人工知能 (AGI)
• 人工超知能 （そのまま）
• 人間の超知能
• サイバネティックに強化された人間の超知能
• 仮想人間と AI のハイブリッド マインド
• 読者がブレインストーミングを行い、コメント セクションで共有することをお勧めする、さらにいくつかの中間カテゴリ。

言い換えれば、私たちの世界にはすでにさまざまな種類の種が生息しており、それぞれが独自の種類の知性を持っていますが、将来はさらに多様な知性が見られ、今回は認知のはしごの上位が拡大するでしょう. 今日の世代が私たちの世界を生態系に貢献する昆虫や動物と共有することを学んでいるのと同じように、将来の世代は、今日私たちがほとんど想像できないような多種多様な知性と通信し、協力する方法を学ばなければなりません.

もちろん、歴史は、「共有」が人間にとって決して強いものではなかったことを教えてくれます。 数百から数千の種が人類の拡大により絶滅しましたが、拡大する帝国の征服の下で、数百のあまり進んでいない文明が姿を消しました.

これらの悲劇は、資源（食料、水、原材料など）に対する人間の必要性と、一部には、外国の文明または人々の間に抱かれた恐怖と不信によるものです。 言い換えれば、過去と現在の悲劇は、文明自体と同じくらい古い理由によるものであり、これらすべての新しいクラスの知性が導入されると悪化するだけです.

多様な知性に満ちた世界の文化的影響

驚異と恐怖は、これらの新しいタイプの知性がすべて世界に入ったときに人々が経験する相反する感情を最もよく要約するXNUMXつの感情です.

これらすべての新しい人間と AI の知性を作成するために使用された人間の創意工夫と、それらが作成する可能性のある可能性に「驚き」ました。 そして、現在の世代の人間がこれらの「強化された」存在の将来の世代に対して持つであろう理解と親しみの欠如からの「恐怖」。

したがって、動物の世界が平均的な昆虫の理解を完全に超えており、人間の世界が平均的な動物の理解を完全に超えているのと同じように、AI の世界や超知的な人間でさえ、今日の科学の範囲をはるかに超えています。普通の人なら理解できるでしょう。

そして、将来の世代がこれらの新しい高次の知性と通信できるようになるとしても、私たちには多くの共通点があるわけではありません. AGI と ASI を紹介する章で、人間の知性と同じように AI の知性を考えようとするのがなぜ間違いであるかを説明しました。

簡単に言えば、人間の思考を駆り立てる本能的な感情は、リソース、配偶者、社会的絆、生存などを積極的に探し求めた数千年に相当する人類の進化的生物学的遺産です。 代わりに、これらのデジタル インテリジェンスは、独自の目標、思考モード、価値体系を持つようになります。

同様に、現代人が私たちの知性のおかげで、自然な人間の欲求の側面を抑制することを学んだのと同じように (たとえば、献身的な関係にあるときは性的パートナーを制限します。名誉と美徳の架空の概念のために、見知らぬ人のために命を危険にさらすなど)。 、将来の超人はこれらの原始的な本能を完全に克服するかもしれません。 これが可能であれば、私たちは新しいクラスの人間だけでなく、本当にエイリアンを扱っていることになります.

将来のスーパーレースと残りの私たちの間に平和はありますか?

平和は信頼から生まれ、信頼は親しみやすさと共通の目標から生まれます。 強化されていない人間が、これらの超知性と認知的にほとんど共通点がないことについてはすでに説明したので、私たちはテーブルから親しみを取り除くことができます.

あるシナリオでは、この知能指数の爆発は、まったく新しい形の不平等の台頭を表し、下層階級の人々がそこから立ち上がることはほぼ不可能な、知能に基づく社会階級を生み出すものです。 そして、富裕層と貧困層の間の経済格差の拡大が今日不安を引き起こしているのと同じように、知性のさまざまな階級/人口の間の隔たりは十分な恐怖と恨みを生み出し、それがさまざまな形の迫害や全面戦争に発展する可能性があります. そこにいる仲間のコミックブックの読者にとって、これはマーベルのX-メンフランチャイズからの古典的な迫害のバックストーリーを思い出させるかもしれません.

別のシナリオは、これらの将来の超知性が、より単純な大衆を感情的に操作して社会に受け入れる方法、または少なくともすべての暴力を回避する方法を見つけ出すというものです。 

では、どのシナリオが勝つのでしょうか? 

おそらく、途中で何かが起こるのを見るでしょう。 この知能革命が始まると、いつものように 「テクノパニック」テクノロジー法と政策の専門家である Adam Thierer は、通常の社会的パターンに従っていると説明しています。

• 新しいものへの恐怖につながる世代間の違い、特に社会的慣習を混乱させたり仕事をなくしたりする世代の違い (AI の影響については、 仕事の未来 シリーズ）;
• 古き良き時代の「ハイパーノスタルジア」は、実際にはそれほど良いものではありませんでした。
• 記者や評論家が、クリック、ビュー、および広告販売と引き換えに、新しい技術やトレンドについて恐怖を煽るインセンティブ。
• 特別利益団体は、この新しい技術が彼らのグループにどのような影響を与えるかに応じて、政府の資金または行動のために互いに肘をつきます。
• 大衆が採用する新しいテクノロジーを恐れる学術的および文化的批評家からのエリート主義的な態度。
• 昨日と今日の道徳的および文化的議論を明日の新しいテクノロジーに投影する人々。

しかし、新しい進歩と同様に、人々はそれに慣れます。 さらに重要なことは、XNUMX つの種の考え方は似ていないかもしれませんが、共通の関心や目標を通じて平和を見つけることができるということです。

たとえば、これらの新しい AI は、私たちの生活を改善するための新しいテクノロジーやシステムを作成できます。 その見返りとして、特に中国と米国の AI プログラム間の活発な競争のおかげで、資金と政府の支援が AI 全体の利益を促進し続けるでしょう。

同様に、超人を作ることになると、多くの国の宗教派閥は、自分たちの乳児を遺伝子操作する傾向に抵抗するでしょう. しかし、実用性と国益により、この障壁は徐々に取り除かれます。 前者の場合、親は遺伝子編集技術を使用して、子供が病気や欠陥のない状態で生まれてくるように誘惑されますが、その最初の目標は、より侵襲的な遺伝子強化への滑りやすい坂道です. 同様に、中国が全世代の人口を遺伝的に強化し始めた場合、米国は戦略的に追随しなければ、XNUMX年後に永久に後れをとるリスクを負うことになり、世界の他の国も同様になります。

この章全体が読むほど強烈ですが、これはすべて段階的なプロセスであることを覚えておく必要があります. それは私たちの世界を非常に異なった、非常に奇妙なものにするでしょう. しかし、私たちはそれに慣れ、それが私たちの未来になります。

人工知能シリーズの未来

人工知能は明日の電気 人工知能の未来 シリーズ P1

初の汎用人工知能が社会をどう変えるか：人工知能の未来シリーズ P2

最初の人工超知能をどのように作成するか: 人工知能の未来 P3

人工超知能は人類を絶滅させるか？ 人工知能の未来 P4

人間は人工知能からどのように防御するか: 人工知能の未来 P5