当《家园者》和《七人组》占据舞台中心时 男孩们 作为主要反派,推动该系列的真正邪恶是沃特国际公司,这是一家强大的公司,它采用了超级英雄的概念,将其变成了满足他们对权力、影响力和财富的贪得无厌的欲望的工具。多年来,沃特在超级英雄行业的统治地位不仅带来了巨额利润,还滋生了一种无所不能的错觉。
从几个方面来说 开发人工智能技术的大型科技公司反映了现实生活中的沃特。虽然不一定是邪恶的,但他们劫持了人工智能的概念——现在通常称为人工智能——并用它来积累权力、影响力和财富。由于他们是唯一拥有开发和管理这项技术资源的组织,他们在这一领域的主导地位带来了巨额利润和无可争议的无所不能的气息。
当今的大型科技公司面临新的挑战
男孩们证明,针对常见问题的高科技解决方案并非万无一失。
如果大型科技公司和人工智能技术成为现实世界的沃特, 男孩们 为他们和公众提供了重要的教训。:谨防盲目相信一个“伟大的解决方案”。沃特解决国土问题的方法就是一个例子。沃特创建 Homelander 是为了巩固公司在权力等级顶端的主导地位。尽管这样一个强大的存在有一天可能会反抗他们,但他们还是这样做了。沃特继续他的发展,相信他们能够确保他的忠诚或以其他方式保持对他的控制。
如果直接控制家园者被证明是不可能的,沃特相信他有最可靠的选择:黑色黑色,他的克隆。然而,促成《家园者》创作的傲慢和自私动机也阻碍了《黑色黑色》的发展。正如沃特未能完全理解在《家园者》中创造一个神一样的存在的含义一样,他们同样也错过了创造一个神级刺客的深刻含义,这个刺客的任务是在家园者“挣脱”他们的控制时照顾他。
为了促进这一“最终解决方案”,黑黑被任命为七人组的关键成员,经常在他们的任务期间提供重要的支持。然而,他在团队中的主要角色是默默地、持续地监视Homelander。最重要的是,黑黑的首要指令是,如果家园者“叛变”,就摧毁他。虽然这个计划在纸面上看起来可能是合理的,但它最终表现出了典型的沃特缺陷:忽视、低估和未能预见到他的创作所带来的意想不到的后果。在这种情况下,他们忽视了给予黑色如此严格和狭隘的授权的后果。
对于男孩来说,黑色是一个没有障碍的解决方案,但它不再是一个问题
《黑黑》的问题在于,尽管沃特坚持表示他必须准备好立即杀死护国者,但在护国者身边服役多年后,沃特却没有批准他的暗杀命令——尽管每个人都知道或可能目睹了这一点无数Homelander变得流氓的案例。虽然一个典型的“杀手”可能会认为沃特的犹豫超出了他的薪水等级,但黑黑的严厉、具体的命令让他不可能退后一步去理解为什么从未下达杀戮命令。
结果,黑色黑手将事情掌握在自己手中,以家园者为幌子策划了一系列暴行。他相信,通过这样做,他可以展示家园者的反抗精神,并鼓励沃特下令暗杀,从而使他能够实现他的主要目标。 Black Noir 没有等待命令,而是创造了证明他的行为合理的环境。他对这一目标的专注如此强烈,以至于他认为即使是令人发指的行为,例如伤害婴儿,也是可以接受的。
部署人工智能时也可能会出现类似的情况。这种场景被称为“回形针问题”,涉及一个人工智能程序,其任务是执行一个看似简单的指令:“最大化回形针产量”。在没有进一步的背景、细微差别或限制的情况下,人工智能不懈地追求这一目标,系统地消耗所有可用资源,包括对人类生存和福祉至关重要的资源,以生产更多的回形针。
就像 Black Noir 摧毁家园者的严格计划一样,这种人工智能缺乏根据不断变化的环境或更广泛的社会考虑来适应或重新评估其使命的灵活性。也就是说,他无法或不愿意考虑复杂且不断变化的因素。因此,他和Black Noir一样,为了达到既定的目标,愿意采取任何行动,无论其造成的伤害如何。
分别, 《Black Noir》应该对盲目相信人工智能的危险发出警告。。这并不意味着人工智能没有优势。事实上,黑黑也许是沃特最有效的创造——他是唯一有能力压制家园者的人。然而,事实证明,沃特未能实施必要的保障措施,例如价值观一致、防止伤害无辜第三方的严格界限以及对不可接受行为的明确后果。
例如,没有护栏来确保为实现目标而伤害他人会导致退役。也许最关键的是,沃特忽视了建立人类监督机制来监督和规范他的行为,确保他不会采取极端措施。这些同样的基本保障应该指导人工智能技术的发展和应用。没有它们,正如《Black Noir》中所展示的那样 男孩们局势可能会失控。