ロボットの黙示録を生き残る方法

もしあなたが世界終末について最も恐れているのがゾンビによる終末だとしたら、あなたはテクノロジーの世界で何が起こっているかにまったく注意を払っていないのは明らかだ。 新しいアメリカの安全保障センター国家安全保障に焦点を当てた超党派のシンクタンクであるは、 戦場のロボット工学パート II: 迫りくる群れ報告書は、7.5年に世界の軍事ロボットへの支出が推定2018億ドルに達し、軍隊が敵軍（ロボットと人間の両方）を圧倒するために自律型または半自律型ロボットの「群れ」を展開すると予測しました。今日まで早送りすると、世界の軍事ロボット市場は 22.49年には2023億米ドル 44.23年までに2034億米ドル近くまで成長すると予測されています。

報告書は厳しい警告を発した。米国は、この新しい技術と、ロボットと共に戦うために必要なパラダイムシフトを受け入れなければ、この考え方を採用する敵国に対して脆弱になるリスクがある。本質的に、ロボット軍拡競争はすでに始まっている。したがって、避けられない続編の疑問は、ロボットによる終末は起こり得るのか、もし起こり得るとしたら、それはどのように始まるのか、というものだ。

主要な取り組み

ロボットによる終末は、医療や実用目的で設計された IoT デバイスやマイクロロボットの誤用から始まる可能性があります。

軍用ロボットやドローンは半自律型知能を備えて進化しており、人間のオペレーターから切り離されても独立して意思決定を行う。

本当の危険は、人間の制御を圧倒するほど協調できる、高度に組織化された自律システムを作り出すことにあります。

ロボットは人類を根絶することはないかもしれないが、脅威を排除することを優先し、人類を絶滅危惧種として共存させる可能性がある。

ロボットの黙示録はいつ、どのように始まりますか？

「ロボットが真のAIになるのは、どれくらい離れているのでしょうか。 特異点が交差しています。 LogicMonitorの創設者兼チーフプロダクトオフィサーであり、データセンターの運営の専門家であるスティーブフランシス氏によると、おそらく少なくとも10年はかかるでしょう。

サイエンスフィクションには、ロボットの大君主がどのように彼らの鋼の支配を主張するかについて多くの理論があります。 ロボポカリプス、ベストセラー小説 映画版 現在マイケル・ベイが製作中のこの作品は、ロボットが広く普及した近未来を舞台にしている。アーコスと呼ばれる不正な人工知能が自己認識を獲得し、ロボットや車両に感染するウイルスを開発し、人類を破壊し支配しようとする殺意を抱く。

「これはすべて、ホームオートメーションから始まる可能性があります。 モノのインターネットがあれば、あなたの家はあなたに逆らう可能性があります」と、LogicMonitorのチーフネットワークアーキテクトであり、技術運用の世界のベテランであるJeffBehl氏は予測しています。 「ハンドルさえないGoogleの自動運転の不思議なバグが、崖からの乗車にあなたを連れて行くことにした場合はどうなりますか？」 Behlは言います。

真のロボットによる終末に必要なのは、「十分な数のロボットやモノのインターネットの浸透によって、すべての人間を排除し、テクノロジーを人間に逆らわせることができるまで待ち伏せする、陰謀を企むマキャベリズム的な知性」だとスティーブ・フランシス氏は指摘する。

シナリオをいくつか挙げてみましょう。人間が自己認識能力を持つ知能を創り出し、資源の過剰消費による人類の破滅を防ぐための計算を行う、あるいはロボット知能が思い描いた野望を達成するには、人間の人口を減らす必要がある、といったシナリオです。あるいは、ロボット知能が単純に人間は劣等種であり、人間と異なるため人間を絶滅させると決めつける、といったシナリオです。

ロボットの黙示録についてのあなたの最大の質問のいくつかへの答えはここにあります：

ロボットの脅威はどのようになりますか？

「本当の危険は、あなたを殺しに来る [大きな] ロボットではありません。医療用に開発されている、血液を検査してマイクロ手術を行うマイクロロボットです」とジェフ・ベールは語った。病気を検知して治療するために人体に埋め込まれるナノボットは、再プログラムされて大動脈を見つけて引き裂くようになれば、あなたにできることは何もないだろう。

ロボットやドローンには独自の知能が組み込まれるのでしょうか、それとも人間の制御下に置かれ続けるのでしょうか?

「ロボットやドローンは、間違いなく、自力で行動できるほどの知能を獲得し始めるでしょう。なぜなら、あらゆる緊急時対応策の一環として、ドローンは、母基地に電話したり、連絡したりできないときのために準備しなければならないからです。したがって、ドローンは、自ら何らかの決定を下せるように進化しなければなりません」とジェフ・ベールは語った。フランシスはこう付け加えた。「それはすでに起きています。半自律型船舶の艦隊には、艦隊全体を制御している人間の管制官がいますが、艦隊内の船舶に関するやりとりはすべて自律的です。『あそこの船を爆破しろ』などの目的を与えられ、接続が切れても、引き続き動作することができます。人間は間違いを犯し、感情に左右されます。M1エイブラムス戦車の射撃制御をコンピューターの制御下に置いた方が安全かもしれません。感情に左右されることはありません…私たち全員に対する憎しみを抱くようになるまでは。」

どの人間が先に死に、どの人間が生き残るのでしょうか?

「最初に死ぬのは誰か？西洋文明か、より技術的に進んだ地域だろう。あらゆるところにロボットが存在するような場所だ」とフランシスは予測した。

ロボットは他に誰を連れ出しますか？ "世界の指導者。 不和をまきます。 彼らが最も賢い、または最高であるというわけではありませんが、斬首ストライキがロボットの計画に含まれる可能性があります。 混乱を引き起こし、指揮系統をブロックします」とジェフは言いました。

ロボットが襲ってくるのをどうやって止めるのでしょうか?

「巨大ですごいロボットが作られるとは思えない」とジェフ・ベールは言う。「ただ大量に作って、数で攻めてくるだけだと思う​​。今のところ、我々はアリを踏みつぶしているだけだ。しかし、もっと凶暴でよく組織化された巨大なロボットの群れがいたらどうなるか想像してみてほしい。我々は沈没してしまうだろう」

「これは、コンピュータシステムを構築するという私たちのルーツにまでさかのぼります」とJeffBehl氏は付け加えました。 「本当にタフなシステムを作るだけではありません。 それが壊れた場合、あなたは大きな問題を抱えています。 あなたはそれらをたくさん作り、作品を配布します。」

では、どうすれば彼らを阻止できるのか？「彼らの協力する能力を狙うことができる」とベール氏は言う。「それは私たちが発明できるウイルスだ。彼らに感情を与えて、彼らが協調できない、あるいは協調したくなくなるようにするウイルスだ。彼らに互いに競争させるのだ」

ロボットを止めるために、人間は今どのような武器を作る必要がありますか？

「巨大な磁石」とBehlは言いました。 「ハードドライブを破壊します。」

人類は勝利するのでしょうか、それとも負けてしまうのでしょうか?

「ああ、我々は負けている」とスティーブ・フランシスは言った。「共生関係になると思う」とジェフは言った。「ロボットは我々を根絶しようとはしないと思う。我々は本当に脅威なのか？」

「彼らは、積極的に反対する人間を排除するだけだと思います」とスティーブは言う。「森から人間が出てきて問題を起こしたら、彼らはおそらくその人間に対処するでしょう。そうでなければ、彼らはおそらく人間をそのまま放っておき、おそらく意図せずして私たちの生息地を破壊するでしょう。人間は絶滅危惧種になるでしょう。ロボットが私たちの資源を採掘し、インフラを枯渇させるからです。」

「勝ち残る子孫を作ったら、私たちは本当に負けるのでしょうか？」とジェフは尋ねました。

もっと聞きたいですか？

テックとヌーブのポッドキャストのエピソードでは、私たちの技術者であるスティーブ・フランシスとジェフ・ベール、そしてヌーブであるスコット・バーネットが議論しました。 ロボットの黙示録を生き残る方法注: このポッドキャストは CNAS のレポートを知る前に録音したものですが、ほぼ同じ内容を扱っています。