ホームランダーとザ・セブンが舞台の中心となる一方で、 少年たち 主な悪役として、シリーズを動かしている真の悪はヴォート・インターナショナルだ。ヴォート・インターナショナルはスーパーヒーローの概念を採用し、権力、影響力、富への飽くなき渇望を満たすツールに変えている強力な企業だ。長年にわたり、スーパーヒーロー業界に対するヴォート社の優位性は、莫大な利益をもたらしただけでなく、自社の全能性に対する妄想的な感覚を助長してきた。
多くの点で、 AI テクノロジーを開発する大手テクノロジー企業は現実の Vought を反映しています。まだ必ずしも悪ではありませんが、彼らは人工知能 (現在では一般的に AI と呼ばれています) の概念を習得し、それを利用して権力、影響力、富を蓄積しています。このテクノロジーを開発および管理するためのリソースを持つ唯一の企業として、この分野での優位性は莫大な利益と紛れもない全能感をもたらしました。
今日の大手テクノロジー企業にはヴォートの問題が新たに生じている
少年たちは、一般的な問題に対するハイテクな解決策が絶対確実ではないことを証明しました
大手テクノロジー企業や AI テクノロジーが現実世界の「ヴォート」になったら、 少年たち 彼らと聴衆に重要な教訓を提供する: 単一の「優れた解決策」を盲信しないように注意してください。これは、ホームランダー問題に対するヴォートのアプローチに例示されました。ヴォート社は、権力階層の頂点における同社の優位性を強化するためにホームランダーを設立した。彼らは、そのような強力な存在がいつか彼らに敵対する可能性があるという本質的なリスクにもかかわらず、そうしました。ヴォートは、彼らが彼の忠誠心を確保するか、彼に対する支配を維持できると確信して、彼の開発を進めました。
ホームランダーを直接制御することが不可能であれば、ヴォート氏は究極の解決策があると信じていました。それは彼のクローンであるブラック ノワールです。しかし、ホームランダーの作成を促進した傲慢さと利益の動機は、ブラック ノワールの開発にも影響を与えました。ヴォート社がホームランダーに神のような存在を生み出すことの結果を十分に理解できなかったのと同じように、ホームランダーが彼らの支配から「解放」された場合に備えて監視する任務を負った神レベルの暗殺者を作成することの重大な意味も無視した。
この「究極の解決策」を促進するために、ブラック ノワールはセブンの主要メンバーとして配置され、ミッション中に重要なサポートを提供することがよくありました。しかし、チームにおける彼の主な役割は、暗黙のうちに、しかし継続的にホームランダーを監視することでした。何よりも、ブラック ノワールの主な指示は、ホームランダーが「不正行為」をした場合には排除することでした。この計画は机上ではしっかりしているように見えたかもしれないが、最終的にはヴォート社の特徴的な欠陥、つまりその作品がもたらす予期せぬ結果を無視し、過小評価し、予測できていないことが明らかになった。この場合、彼らはブラック・ノワールにそのような厳格で狭い定義の任務を与えた場合の影響を無視した。
少年たちの「ブラック・ノワール」はガードレールのない解決策だったが、問題よりも大きくなった
ブラック・ノワールの問題は、即座にホームランダーを殺す準備ができている必要があるというヴォートからの執拗な信号にもかかわらず、誰もが知っていたり、あるいは知っていたにもかかわらず、ホームランダー側での配備が何年もヴォートの殺害命令にゴーサインを出さないまま過ぎたことだった。ホームランダーが暴走する例を数多く目撃した可能性が高い。典型的な「暗殺者」はヴォートの躊躇を自分の給料等級を超えたものとして理解したかもしれないが、ブラック・ノワールの厳格かつ具体的な命令により、彼は一歩下がって殺害命令が出されなかった理由を説明することができなかった。
その結果、ブラック・ノワールは問題を自らの手で解決し、ホームランダーを装って一連の残虐行為を組織した。そうすることでホームランダーの不服従を示し、ヴォートに殺害命令を発令させ、主目的を達成できると彼は信じていた。ブラック・ノワールは命令を待つのではなく、自分の行動を正当化する状況を作り出した。この目標に対する彼の特異な焦点は非常に強烈だったので、子供たちを傷つけるような凶悪な行為さえ許容されると考えていました。
AI の導入でも同様の状況が発生する可能性があります。 「ペーパー クリップ問題」として有名なこのシナリオは、「ペーパー クリップの生産を最大化する」という一見単純な指令を課せられた AI プログラムを想定しています。さらなるコンテキスト、ニュアンス、制約なしに、AI はこの目標を容赦なく追求し、利用可能なすべてのリソース (人間の生存と幸福に不可欠なものを含む) を体系的に消費して、より多くのペーパークリップを作成します。
ホームランダーを排除するためのブラック ノワールの厳格なプログラミングと同様に、この AI には、変化する状況やより広範な社会的考慮事項に照らしてその使命を適応または再評価する柔軟性がありません。言い換えれば、あなたは複雑で進化する要因を考慮することができない、または考慮したくないのです。したがって、ブラック・ノワールのように、彼は与えられるダメージに関係なく、事前に定義された目的を達成するためにあらゆる行動を喜んで引き受けます。
それに応じて、 ブラック ノワールは、AI を盲信することの危険性についての警鐘となるはずです。 AI にメリットがないわけではありません。実際、ブラック ノワールはおそらくヴォートの最も効果的な創造物であり、ホームランダーを無力化できる唯一の人物でした。しかし、価値観の一致、罪のない第三者への危害を防ぐための厳格な制限、容認できない行為に対する明確な結果など、ヴォート社が不可欠な安全策を講じなかったことは、壊滅的な結果となった。
たとえば、目的を達成するために他人を傷つけることが解体につながることを保証する保護障壁はありませんでした。おそらく最も重大なことは、ヴォート社がその行動を監視し規制するための人的監視メカニズムの確立を怠り、極端な手段に頼らないことを保証していたことである。これらと同じ基本的な保護手段が、AI テクノロジーの開発と応用を導く必要があります。それらがなければ、『Black Noir』で実証されているように、 少年たち物事が制御不能になる可能性があります。