Mentre Homelander e The Seven sono al centro della scena Ragazzi Come i cattivi principali, il vero male che guida la serie è la Vought International, una potente società che ha cooptato il concetto di supereroe, trasformandolo in uno strumento per soddisfare la loro insaziabile brama di potere, influenza e ricchezza. Nel corso degli anni, il dominio di Vought nell'industria dei supereroi non solo ha generato enormi profitti, ma ha anche favorito un delirante senso di onnipotenza.
In diversi modi le grandi aziende tecnologiche che sviluppano tecnologie di intelligenza artificiale rispecchiano Vought nella vita reale. Pur non essendo necessariamente malvagi, hanno preso il controllo del concetto di intelligenza artificiale – ora comunemente chiamata AI – e lo hanno utilizzato per accumulare potere, influenza e ricchezza. Poiché sono le uniche organizzazioni con le risorse per sviluppare e gestire questa tecnologia, il loro dominio in questo settore ha portato enormi profitti e un’inconfondibile aria di onnipotenza.
Le grandi aziende tecnologiche di oggi devono affrontare una nuova sfida
I ragazzi dimostrano che le soluzioni high-tech ai problemi comuni non sono infallibili.
Se le grandi aziende tecnologiche e le tecnologie di intelligenza artificiale diventassero mai i Voughts del mondo reale, Ragazzi offre una lezione importante sia per loro che per il pubblico.: Attenzione a credere ciecamente in una “grande soluzione”. Un esempio di ciò è stato l'approccio di Vought al problema dell'Homelander. Vought creò Homelander per consolidare il dominio dell'azienda al vertice della gerarchia di potere. Lo fecero nonostante il rischio inevitabile che un essere così potente potesse un giorno insorgere contro di loro. Vought continuò il suo sviluppo, fiducioso che avrebbero potuto garantire la sua lealtà o comunque mantenere il controllo su di lui.
Se il controllo diretto di Homelander si fosse rivelato impossibile, Vought credeva di avere l'opzione più affidabile: Black Noir, il suo clone. Tuttavia, l’arroganza e i motivi egoistici che hanno alimentato la creazione di Homelander hanno anche ostacolato lo sviluppo di Black Noir. Proprio come Vought non è riuscito a cogliere appieno le implicazioni della creazione di un essere divino in Homelander, allo stesso modo hanno mancato le profonde implicazioni della creazione di un assassino di livello divino incaricato di prendersi cura di Homelander nel caso in cui si fosse “liberato” dal loro controllo.
Per facilitare questa “soluzione finale”, Black Noir fu nominato membro chiave dei Sette, fornendo spesso un supporto cruciale durante le loro missioni. Tuttavia, il suo ruolo principale nella squadra era quello di monitorare silenziosamente ma costantemente Homelander. Soprattutto, la prima direttiva di Black Noir era quella di distruggere Homelander se mai “si fosse ribellato”. Sebbene il piano potesse sembrare ragionevole sulla carta, alla fine dimostrò un tipico difetto di Vought: ignorare, sottovalutare e non riuscire ad anticipare le conseguenze indesiderate delle sue creazioni. In questo caso, hanno trascurato le conseguenze derivanti dal dare a Black Noir un mandato così rigido e ristretto.
Il noir nero per ragazzi è stata una soluzione senza ostacoli che è diventata più di un problema
Il problema con Black Noir era che, nonostante i segnali insistenti di Vought che doveva essere pronto a uccidere Homelander in un attimo, anni di servizio al fianco di Homelander passarono senza che Vought desse il via libera al suo ordine di assassinio, anche se tutti sapevano o probabilmente avevano assistito. numerosi casi di Homelander che si sono ribellati. Mentre un tipico “sicario” avrebbe potuto percepire l'esitazione di Vought come al di là del suo livello di retribuzione, gli ordini specifici e severi di Black Noir gli hanno reso impossibile fare un passo indietro e capire perché l'ordine di uccisione non è mai stato dato.
Di conseguenza, Black Noir prese in mano la situazione, orchestrando una serie di atrocità sotto le spoglie di Homelander. Credeva che così facendo avrebbe dimostrato la sfida di Homelander e incoraggiato Vought a ordinare l'assassinio, permettendogli di raggiungere il suo obiettivo principale. Invece di aspettare ordini, Black Noir creò circostanze che giustificassero le sue azioni. La sua singolare attenzione a questo obiettivo era così forte che considerava accettabili anche atti atroci, come danneggiare i bambini.
Una situazione simile potrebbe verificarsi quando si utilizza l’intelligenza artificiale. Conosciuto come il “problema delle graffette”, questo scenario coinvolge un programma di intelligenza artificiale incaricato di dare una direttiva apparentemente semplice: “Massimizzare la produzione di graffette”. Senza ulteriore contesto, sfumatura o limitazione, l’intelligenza artificiale persegue incessantemente questo obiettivo, consumando sistematicamente tutte le risorse disponibili, comprese quelle fondamentali per la sopravvivenza e il benessere umano, per produrre più graffette.
Proprio come il rigido programma di Black Noir per distruggere Homelander, questa IA non ha la flessibilità necessaria per adattare o rivalutare la sua missione alla luce delle mutevoli circostanze o di considerazioni sociali più ampie. Cioè, non può o non vuole prendere in considerazione fattori complessi e in evoluzione. Pertanto, come Black Noir, è disposto a intraprendere qualsiasi azione, indipendentemente dal danno che causa, pur di raggiungere un obiettivo predeterminato.
Rispettivamente, Black Noir dovrebbe servire da monito sui pericoli della fede cieca nell’intelligenza artificiale.. Ciò non significa che l’intelligenza artificiale non abbia vantaggi. In effetti, Black Noir è stata forse la creazione più efficace di Vought: era l'unica persona in grado di neutralizzare Homelander. Tuttavia, l’incapacità di Vought di implementare le tutele necessarie come l’allineamento dei valori, limiti forti per prevenire danni a terzi innocenti e chiare conseguenze per comportamenti inaccettabili si è rivelata disastrosa.
Ad esempio, non c'erano barriere per garantire che danneggiare gli altri per raggiungere i suoi obiettivi avrebbe comportato lo smantellamento. Forse la cosa più critica è che Vought ha trascurato di istituire meccanismi di supervisione umana per monitorare e regolare le sue azioni, assicurandosi di non ricorrere a misure estreme. Queste stesse garanzie fondamentali dovrebbero guidare lo sviluppo e l’applicazione delle tecnologie di intelligenza artificiale. Senza di loro, come ha dimostrato Black Noir Ragazzila situazione potrebbe sfuggire al controllo.