Enquanto Homelander e The Seven ocupam o centro do palco em Os meninos como vilões principais, o verdadeiro mal que impulsiona a série é a Vought International – uma corporação poderosa que cooptou o conceito de super-herói, transformando-o em uma ferramenta para satisfazer sua fome insaciável por poder, influência e riqueza. Ao longo dos anos, o domínio de Vought sobre a indústria dos super-heróis não só rendeu enormes lucros, mas também fomentou um sentimento delirante de sua própria onipotência.
De várias maneiras, grandes empresas de tecnologia que desenvolvem tecnologias de IA refletem Vought na vida real. Embora ainda não sejam necessariamente maus, eles dominaram o conceito de inteligência artificial – agora vulgarmente referida como IA – e aproveitaram-no para acumular poder, influência e riqueza. Sendo as únicas entidades com recursos para desenvolver e gerir esta tecnologia, o seu domínio no sector rendeu lucros imensos e um ar inconfundível de omnipotência.
As grandes tecnologias de hoje têm um problema emergente de Vought
Os meninos provam que soluções de alta tecnologia para problemas comuns não são infalíveis
Se as grandes empresas de tecnologia e as tecnologias de IA algum dia se tornarem os “Voughts” do mundo real, Os meninos oferece uma lição importante para eles e para o público: cuidado para não depositar fé cega em uma única “grande solução”. Isto foi exemplificado na abordagem de Vought ao problema de Homelander. Vought criou a Homelander para consolidar o domínio da empresa no topo da hierarquia de poder. Fizeram-no apesar do risco inerente de que um ser tão poderoso pudesse um dia voltar-se contra eles. Vought prosseguiu com seu desenvolvimento, confiante de que poderiam garantir sua lealdade ou manter o controle sobre ele.
Se controlar Homelander diretamente fosse impossível, Vought acreditava que ele tinha a solução definitiva: Black Noir, seu clone. No entanto, a arrogância e os motivos de lucro que alimentaram a criação de Homelander também afetaram o desenvolvimento de Black Noir. Assim como Vought não conseguiu compreender completamente as consequências da criação de um ser divino em Homelander, eles também ignoraram as profundas implicações de criar um assassino de nível divino encarregado de cuidar de Homelander caso ele “se libertasse” de seu controle.
Para facilitar esta “solução definitiva”, Black Noir foi colocado como um membro-chave dos Sete, muitas vezes fornecendo apoio crítico durante suas missões. No entanto, seu papel principal na equipe era monitorar tácita, mas continuamente, Homelander. Acima de tudo, a principal diretriz de Black Noir era eliminar Homelander, caso ele “se tornasse desonesto”. Embora o plano possa ter parecido sólido no papel, em última análise, revelou a falha típica da Vought: ignorar, subestimar e não conseguir antecipar as consequências não intencionais das suas criações. Neste caso, eles ignoraram as repercussões de dar ao Black Noir um mandato tão rígido e estritamente definido.
O Black Noir dos meninos foi uma solução sem grades de proteção que se tornou maior que o problema
O problema com Black Noir era que, apesar dos sinais persistentes de Vought de que ele precisava estar pronto para matar Homelander a qualquer momento, anos de implantação ao lado de Homelander se passaram sem que Vought desse luz verde à sua ordem de morte – embora todos soubessem ou provavelmente testemunhassem numerosos casos de Homelander ficando desonesto. Embora um típico “assassino” possa ter entendido a hesitação de Vought como algo além de seu nível salarial, as ordens rígidas e específicas de Black Noir o deixaram incapaz de recuar e contextualizar por que a ordem de morte nunca foi emitida.
Consequentemente, Black Noir resolveu o problema com as próprias mãos, orquestrando uma série de atrocidades sob o disfarce de Homelander. Ele acreditava que, ao fazer isso, demonstraria a insubordinação de Homelander e levaria Vought a emitir a ordem de matar, permitindo-lhe cumprir seu objetivo principal. Em vez de esperar por ordens, Black Noir criou as circunstâncias para justificar suas ações. Seu foco singular nesse objetivo era tão intenso que ele considerava aceitáveis até mesmo atos hediondos, como ferir crianças.
Uma situação semelhante pode surgir na implantação de IA. Famosamente conhecido como o “Problema do Clipe de Papel”, este cenário prevê um programa de IA encarregado de uma diretiva aparentemente simples: “maximizar a produção de clipes de papel”. Sem mais contexto, nuances ou restrições, a IA persegue incansavelmente este objetivo, consumindo sistematicamente todos os recursos disponíveis – incluindo os cruciais para a sobrevivência e o bem-estar humanos – para produzir mais clipes de papel.
Tal como a programação rígida do Black Noir para eliminar Homelander, esta IA carece de flexibilidade para adaptar ou reavaliar a sua missão à luz das mudanças nas circunstâncias ou de considerações sociais mais amplas. Ou seja, é incapaz ou não quer considerar factores complexos e em evolução. Assim, assim como o Black Noir, ele se dispõe a empreender qualquer ação, independente do dano que inflija, para atingir seu objetivo pré-definido.
De acordo, Black Noir deve servir como um conto de advertência sobre os perigos de depositar uma fé cega na IA. Isso não quer dizer que a IA não tenha benefícios. Na verdade, Black Noir foi sem dúvida a criação mais eficaz de Vought – ele foi o único indivíduo capaz de neutralizar Homelander. No entanto, o fracasso da Vought na implementação de salvaguardas essenciais – tais como alinhamento de valores, restrições rígidas para evitar danos a terceiros inocentes e consequências claras para comportamentos inaceitáveis – revelou-se catastrófico.
Por exemplo, não existiam barreiras de protecção que assegurassem que prejudicar outras pessoas para atingir os seus objectivos levaria ao desmantelamento. Talvez o mais crítico seja o facto de Vought ter negligenciado o estabelecimento de mecanismos de supervisão humana para monitorizar e regular as suas ações, garantindo que não recorreu a medidas extremas. Estas mesmas salvaguardas fundamentais deverão orientar o desenvolvimento e a aplicação de tecnologias de IA. Sem eles, como demonstrado por Black Noir em Os meninosas coisas podem ficar fora de controle.