Mientras Homelander y The Seven toman protagonismo chicos Como villanos principales, el verdadero mal que impulsa la serie es Vought International, una poderosa corporación que ha cooptado el concepto de superhéroe, convirtiéndolo en una herramienta para satisfacer su insaciable ansia de poder, influencia y riqueza. A lo largo de los años, el dominio de Vought en la industria de los superhéroes no sólo generó enormes ganancias, sino que también fomentó una delirante sensación de omnipotencia.
De varias maneras Las grandes empresas tecnológicas que desarrollan tecnologías de inteligencia artificial reflejan a Vought en la vida real.. Si bien no son necesariamente malvados, han secuestrado el concepto de inteligencia artificial (ahora comúnmente llamado IA) y lo han utilizado para acumular poder, influencia y riqueza. Al ser las únicas organizaciones con recursos para desarrollar y gestionar esta tecnología, su dominio en este sector les ha aportado enormes beneficios y un inconfundible aire de omnipotencia.
Las grandes empresas tecnológicas de hoy se enfrentan a un nuevo desafío
Los chicos demuestran que las soluciones de alta tecnología a problemas comunes no son infalibles.
Si las grandes empresas tecnológicas y las tecnologías de inteligencia artificial alguna vez se convierten en los Voughts del mundo real, chicos ofrece una lección importante tanto para ellos como para el público.: Cuidado con creer ciegamente en una “gran solución”. Un ejemplo de esto fue el enfoque de Vought al problema de Homelander. Vought creó Homelander para consolidar el dominio de la empresa en la cima de la jerarquía de poder. Lo hicieron a pesar del riesgo inevitable de que un ser tan poderoso algún día pudiera levantarse contra ellos. Vought continuó su desarrollo, confiado en que podrían asegurar su lealtad o mantener el control sobre él.
Si el control directo de Homelander resultaba imposible, Vought creía que tenía la opción más confiable: Black Noir, su clon. Sin embargo, la arrogancia y los motivos egoístas que impulsaron la creación de Homelander también obstaculizaron el desarrollo de Black Noir. Así como Vought no logró comprender completamente las implicaciones de crear un ser divino en Homelander, de manera similar se perdieron las profundas implicaciones de crear un asesino a nivel de dios encargado de cuidar a Homelander en caso de que se “liberara” de su control.
Para facilitar esta “solución final”, Black Noir fue nombrado miembro clave de los Siete, brindando a menudo un apoyo crucial durante sus misiones. Sin embargo, su función principal en el equipo era monitorear silenciosa pero constantemente a Homelander. Por encima de todo, la principal directiva de Black Noir era destruir a Homelander si alguna vez “se vuelve rebelde”. Si bien el plan puede haber parecido razonable en el papel, en última instancia demostró un defecto típico de Vought: ignorar, subestimar y no anticipar las consecuencias no deseadas de sus creaciones. En este caso, pasaron por alto las consecuencias de darle a Black Noir un mandato tan rígido y estrictamente definido.
El black noir para chicos fue una solución sin obstáculos que se convirtió en más que un problema
El problema con Black Noir fue que, a pesar de las insistentes señales de Vought de que debía estar listo para matar a Homelander en cualquier momento, pasaron años de servicio al lado de Homelander sin que Vought diera luz verde a su orden de asesinato, a pesar de que todos sabían o probablemente presenciaron Numerosos casos de Homelander volviéndose rebelde. Si bien un típico “sicario” podría haber percibido que la vacilación de Vought estaba más allá de su nivel salarial, las duras y específicas órdenes de Black Noir le hicieron imposible dar un paso atrás y comprender por qué nunca se dio la orden de matar.
En consecuencia, Black Noir tomó el asunto en sus propias manos y orquestó una serie de atrocidades bajo la apariencia de Homelander. Creía que al hacerlo demostraría el desafío de Homelander y alentaría a Vought a ordenar el asesinato, permitiéndole cumplir su objetivo principal. En lugar de esperar órdenes, Black Noir creó circunstancias que justificaron sus acciones. Su enfoque singular en este objetivo era tan fuerte que consideraba aceptables incluso actos atroces, como dañar a bebés.
Puede surgir una situación similar al implementar la IA. Conocido como el “Problema de los clips”, este escenario involucra un programa de inteligencia artificial al que se le asigna una directiva aparentemente simple: “Maximizar la producción de clips”. Sin más contexto, matices o limitaciones, la IA persigue implacablemente este objetivo, consumiendo sistemáticamente todos los recursos disponibles, incluidos los críticos para la supervivencia y el bienestar humanos, para producir más clips.
Al igual que el rígido programa de Black Noir para destruir a Homelander, esta IA carece de la flexibilidad para adaptar o reevaluar su misión a la luz de circunstancias cambiantes o consideraciones sociales más amplias. Es decir, no puede o no quiere tener en cuenta factores complejos y en evolución. Así, al igual que Black Noir, está dispuesto a realizar cualquier acción, independientemente del daño que cause, con tal de lograr un objetivo predeterminado.
Respectivamente, Black Noir debería servir como advertencia sobre los peligros de la fe ciega en la IA.. Esto no significa que la IA no tenga ventajas. De hecho, Black Noir fue quizás la creación más efectiva de Vought: era la única persona capaz de neutralizar a Homelander. Sin embargo, el hecho de que Vought no haya implementado las salvaguardas necesarias, como la alineación de valores, límites estrictos para evitar daños a terceros inocentes y consecuencias claras para el comportamiento inaceptable, ha resultado desastroso.
Por ejemplo, no había barreras que garantizaran que dañar a otros para lograr sus objetivos resultaría en el desmantelamiento. Quizás lo más crítico es que Vought no estableció mecanismos de supervisión humana para monitorear y regular sus acciones, asegurándose de no recurrir a medidas extremas. Estas mismas garantías fundamentales deberían guiar el desarrollo y la aplicación de tecnologías de inteligencia artificial. Sin ellos, como demostró Black Noir en chicosla situación puede salirse de control.