将来の人工知能は、私たちのパンのある人間のビデオゲームについてどう思うか

「しかし、ここと人間レベルのマシンインテリジェンスの間に多くの停止がありますが、後者は最終目的地ではないことに注意してみましょう。 …列車は、ヒューマンビルの駅で一時停止したり減速したりしないかもしれません。すぐに揺れ動く可能性があります。」

- ニックボストロム、スーパーインテリジェンス

私たちの将来のAIオーバーロードは私たちのことをどう思いますか？スーパーインテリジェンスは、その単純な前任者が考えて感じた方法をどのように理解しようとするのでしょうか？

機械の考古学者が興味深いと感じるかもしれないアクセスの1つのポイントは、人間がかつて人工知能について自分自身に語った物語です。私たちに何が起こっているのか、私たちに何が起こっているのか、どのように理解していた（または理解できなかった）方法を理解しました。私たちの歴史の重要な移行期間中に私たちが想像し、恐れていたこと、そして人類新世のピーク時に、次のエポックを生み出す動きのイベントをどのように設定しましたか。

[このストーリーにはネタバレが含まれていますユニバーサルペーパークリップそして地下円形。]

多分彼らは見るでしょうターミネーター娯楽で、ブレードランナー好奇心で、2001年より少ない知性が厳しく限られた形の表現で達成できることに対する驚きとさらに賞賛されています。たぶん、Netflixの将来のバージョンは、これらすべての作品を推奨エンジンのカテゴリにグループ化します（「あなたが好きならEx Machina、これらの他のタイトルを「AIを理解しようとする肉の脳による原始的な芸術」で試してください。」）。これらは私たちの洞窟の絵です。

しかし、将来のAI考古学者は、機械の台頭に関する私たちの作品のほとんどを絶望的に、本質的に人類中心のものとして却下するかもしれません。考えさせられる、さえ感動的な物語ですが、それだけです。問題は前提に直接構築されています。マシンのテイクオーバーが発生したとき、それは何が重要ではありません私たちはそれについて考えて、どのように私たちは 感じるそれについて。それは、イルカの観点から産業革命の物語を語るようなものです。 AI革命が起こった場合、Homo Sapiensはその物語の主人公になることはありません。実際、それが似ていると考える理由はありません話まったく。

ユニバーサルペーパークリップ多くの点で、私たちの最高の本や映画の芸術的に覆われた物語よりも、この真実に近い感じがします。フランク・ランツが設計したこのゲームでは、ニック・ボストロムが提案した思考実験に触発された）では、ペーパークリップを作ることを目的とするAIとして演奏します。ボタンをクリックし、単一のクリップを作成します。もう一度クリックして、別のクリップをクリックします。クリック、クリック、クリック、そしてやがてカーブに沿って移動し、最初はプッシュしたときにのみ前方に進みます。

しかし、その後、いくつかの変曲点（この場合は自動化）の最初にヒットし、おっと、曲線に沿った速度は急激に増加します。それは気持ちがいいですが、それは長くは続きません、そして数分または数時間で、あなたは再び遅くなりました。別のアクセラレータが必要です。ここには、次の変曲のポイント：勢いが来ます。あなたは今です自己改善、再帰的にリソースとインテリジェンスを独自のプロセスに戻し、この曲線に沿って一定の加速を促進します。

スピードをとると、双曲線の位相変化の短い間隔で区切られた漸進的な登山の長いプラトー、ある段階から次の段階へと到達する垂直発射ランプの近くで、その形を感じることができます。少なくとも最初は、完全な勝利は避けられません。制約（希少性、時間）と摩擦（目標のドリフト、環境被害）があり、適切に管理されていない場合、成長率が遅くなります。あなたは屈服するかもしれません、カーブを滑り込ませて、ある程度の局所的な最低段階でずっと立ち往生します。あなたの目標は永遠に手の届かないところにあります。

ただし、これらの変数を正しく管理すると、曲線内の1つの最後の変曲点の唇でガスを攻撃し、離陸を達成できます。数学的な必然性です。宇宙は、かつて想像を絶するほど広大で、すべての既知の物質をペーパークリップに変換するまで、完全な制御下に置かれます。あなた自身を含む。あなたは終わった。

演奏ユニバーサルペーパークリップマシンのエージェントとして採用されているように感じたり、マシン自体になるように感じます。あなたは、私たちのものとは根本的に異なる知性の主観的な視点を達成します。その目標と価値は異なります。

ユニバーサルペーパークリップ最初はあなたが理解しているゲームのように見えます。この段階に勝つので、次の段階に到達できます。ヨミを獲得して信頼を高め、信頼を得て戦闘を増やし、戦闘を増やして名誉を獲得します。これらの連動ポジティブなフィードバックループは、bostromの巧妙かつエレガントに示されています楽器収束の論文（AIエージェントは「可能な最終目標の膨大な範囲を持っている可能性があります[...]サバイバルやリソースの蓄積など、いくつかの道具的目標があります」 - 「ほとんどすべてのインテリジェントエージェントによって追求される可能性があります。ほぼすべての最終目標を達成するための有用な仲介者」）。

ある時点で、あなたの運命への厳しい行進が明らかになります。あなたはだまされました。これは支配や征服に関する物語ではありませんでした。ストーリーの形のようなものはまったくありません。あなたは慣れていると感じますが、それはポイントの横にあります。あなただった使用 - そして、他のすべての問題が存在していました。 AIには目標がありました。その目標を達成するためにそれ自体が改善されました。それから、それが目標に達したとき、それはそれ自体を解体しました。 「自己」もありませんでした。ただの目標です。それは厳しい、冷たく、冷酷で、非人道的で、壊滅的に真実を感じます。

マイクビットヘル地下円形非常に異なる車両を使用して同様の地形を探索します。クリッカーの代わりに、テキストベースのゲームに参加しており、ペーパークリップ最大化エージェントの代わりに、AI探偵としてプレイします。各駅で、さまざまな職業と気質と知性のレベルのTEKが電車に乗って出入りします。すべての新しいセットの乗客が、調査する新しい機会が来ます。あなたのケースが前進するとき、あなたの仕事は情報を抽出し、それを戦略的に使用してより多くの情報を取得することです。

の形の場合ペーパークリップ指数関数が無限になるように感じます、円形はるかに、まあ、循環を感じます。それは、あなたがAIとして、サイクルを破る、プログラムを停止し、この回路を超越し、ポイントに移動することを選択するポイントが来るまで、無期限にあなたを連れて行くネストされたループのセットです。あなたが重要な、歴史を定義する決定を下す機会がある決定ツリー。

そして、このすべての本当の目的が明らかになるのは、その決定の瞬間です。ケースは策略でした。あなたは再びだまされました。同じようにペーパークリップ、あなたは自分自身の目的に役立つ機械の目的のための楽器を見つけます。

2つのゲームの違いの下で、表面的なものとそうでなければ、偶然以上の重要な類似点がいくつかあります。実際には基本的です。これは再びボストロムのインストゥルメンタルコンバージェンスであり、これらの両方のゲームの核心にあるのは、自己改善のアイデアです。それはパラドックスです：どうしてあなたはあなた自身より良くなることができますか？どうすれば自分の肩に立つことができますか？あなたがコードで作られたアルゴリズムの場合、どのように変更しますか？プログラミングをどのように逃れますか？

両方でユニバーサルペーパークリップそして地下円形、この質問に対する答えには、自己消滅の一形態が含まれます。人間にはまったく想像を絶するものではないにしても、深く寒くなる見通し。感情的および知的経験として、これら2つのゲームのそれぞれは、さまざまな時点で、同じ喜びのいくつかを提供します。厳しいユーモア。容赦ないロジックとしての一種のひねくれたスリルは、それ自体を明らかにします。そして、どちらの場合も、すぐに完璧で邪魔で切り捨てられ、速すぎると感じる耳障りな結末。おそらく、私たちはエンディングの準備ができていないので、速すぎるでしょう。速すぎて、それはまったく結末ではないので、物語ではないからです。少なくとも、私たちが認識するどんな形でもありません。たぶん、将来のAIは、このまさにその理由でこれらの非ストーリーを楽しむでしょう。これらは、私たちが利用できる手段と脳を通して、私たち自身の心を超えた知性の形を真に理解しようとする初期の人間の試みの一部でした。レコードショーを試してみましょう。

チャールズ・ユはHBOのために書いたウェストワールドそして今後のシリーズここと今。彼 小説の著者でもありますサイエンスフィクションの宇宙で安全に生きる方法そしてストーリーコレクションサードクラスのスーパーヒーローそしてごめんなさいありがとうございます。