Trong khi Homelander và The Seven chiếm vị trí trung tâm Con trai Với tư cách là những nhân vật phản diện chính, kẻ ác thực sự thúc đẩy loạt phim này là Vought International, một tập đoàn hùng mạnh đã áp dụng khái niệm siêu anh hùng, biến nó thành công cụ để thỏa mãn ham muốn quyền lực, ảnh hưởng và sự giàu có vô độ của họ. Trong những năm qua, sự thống trị của Vought trong ngành công nghiệp siêu anh hùng không chỉ tạo ra lợi nhuận khổng lồ mà còn nuôi dưỡng ảo tưởng về sự toàn năng.
Bằng nhiều cách các công ty công nghệ lớn phát triển công nghệ trí tuệ nhân tạo phản ánh Vough trong đời thực. Mặc dù không hẳn là xấu xa nhưng họ đã chiếm đoạt khái niệm trí tuệ nhân tạo – ngày nay thường được gọi là AI – và sử dụng nó để tích lũy quyền lực, ảnh hưởng và sự giàu có. Vì họ là những tổ chức duy nhất có đủ nguồn lực để phát triển và quản lý công nghệ này nên sự thống trị của họ trong lĩnh vực này đã mang lại lợi nhuận khổng lồ và bầu không khí toàn năng không thể nhầm lẫn.
Các công ty công nghệ lớn ngày nay phải đối mặt với một thách thức mới
Các chàng trai chứng minh rằng giải pháp công nghệ cao cho những vấn đề thường gặp không phải là dễ dàng.
Nếu các công ty công nghệ lớn và công nghệ AI trở thành Voughts của thế giới thực, Con trai đưa ra một bài học quan trọng cho cả họ và công chúng.: Hãy cẩn thận khi tin tưởng một cách mù quáng vào một “giải pháp tuyệt vời”. Một ví dụ về điều này là cách tiếp cận của Vought đối với vấn đề Homelander. Vought đã tạo ra Homelander để củng cố sự thống trị của công ty ở vị trí cao nhất trong hệ thống phân cấp quyền lực. Họ làm điều này bất chấp rủi ro không thể tránh khỏi rằng một ngày nào đó một sinh vật mạnh mẽ như vậy có thể nổi lên chống lại họ. Vought tiếp tục phát triển, tin tưởng rằng họ có thể đảm bảo lòng trung thành của anh ấy hoặc duy trì quyền kiểm soát anh ấy.
Nếu việc kiểm soát trực tiếp Homelander tỏ ra bất khả thi, Vought tin rằng anh ta có lựa chọn đáng tin cậy nhất: Black Noir, bản sao của anh ta. Tuy nhiên, động cơ kiêu ngạo và ích kỷ thúc đẩy việc tạo ra Homelander cũng cản trở sự phát triển của Black Noir. Cũng giống như Vought không nắm bắt được đầy đủ ý nghĩa của việc tạo ra một sinh vật giống thần thánh trong Homelander, họ cũng bỏ lỡ ý nghĩa sâu sắc của việc tạo ra một sát thủ cấp thần được giao nhiệm vụ chăm sóc Homelander nếu anh ta “thoát khỏi” sự kiểm soát của họ.
Để tạo điều kiện thuận lợi cho “giải pháp cuối cùng” này, Black Noir được bổ nhiệm làm thành viên chủ chốt của Seven, thường hỗ trợ quan trọng trong các nhiệm vụ của họ. Tuy nhiên, vai trò chính của anh trong nhóm là âm thầm nhưng liên tục theo dõi Homelander. Trên hết, chỉ thị chính của Black Noir là tiêu diệt Homelander nếu anh ta “lừa đảo”. Mặc dù kế hoạch này có vẻ hợp lý trên giấy tờ nhưng cuối cùng nó lại bộc lộ một lỗ hổng điển hình của Vought: phớt lờ, đánh giá thấp và không lường trước được những hậu quả không lường trước được từ những sáng tạo của mình. Trong trường hợp này, họ đã bỏ qua hậu quả của việc giao cho Black Noir một nhiệm vụ cứng nhắc và hạn hẹp như vậy.
Black noir dành cho bé trai là một giải pháp không gặp trở ngại nhưng lại trở thành vấn đề
Vấn đề với Black Noir là, bất chấp những tín hiệu nhất quyết của Vought rằng anh ta phải sẵn sàng giết Homelander ngay lập tức, nhiều năm phục vụ bên phía Homelander đã trôi qua mà Vought không bật đèn xanh cho lệnh ám sát của anh ta – mặc dù mọi người đều biết hoặc có thể đã chứng kiến. nhiều trường hợp Homelander lừa đảo. Trong khi một “sát thủ” điển hình có thể coi sự do dự của Vought là vượt quá mức lương của anh ta, thì những mệnh lệnh cụ thể, cứng rắn của Black Noir khiến anh ta không thể lùi lại và hiểu tại sao lệnh giết không bao giờ được đưa ra.
Do đó, Black Noir đã tự mình giải quyết vấn đề, dàn dựng một loạt hành động tàn bạo dưới chiêu bài Homelander. Anh ta tin rằng bằng cách đó anh ta sẽ thể hiện sự thách thức của Homelander và khuyến khích Vought ra lệnh ám sát, cho phép anh ta hoàn thành mục tiêu chính của mình. Thay vì chờ lệnh, Black Noir tạo ra những tình tiết biện minh cho hành động của mình. Sự tập trung duy nhất của anh ấy vào mục tiêu này mạnh mẽ đến mức anh ấy coi ngay cả những hành động tàn ác, chẳng hạn như làm hại trẻ sơ sinh, có thể chấp nhận được.
Tình huống tương tự có thể xảy ra khi triển khai AI. Được biết đến với cái tên “Vấn đề về kẹp giấy”, tình huống này liên quan đến một chương trình AI được giao nhiệm vụ với một chỉ thị có vẻ đơn giản: “Tối đa hóa việc sản xuất kẹp giấy”. Không có thêm bối cảnh, sắc thái hoặc giới hạn, AI không ngừng theo đuổi mục tiêu này, tiêu thụ một cách có hệ thống tất cả các tài nguyên sẵn có, bao gồm cả những tài nguyên quan trọng đối với sự sống còn và hạnh phúc của con người, để tạo ra nhiều kẹp giấy hơn.
Giống như chương trình tiêu diệt Homelander cứng nhắc của Black Noir, AI này thiếu tính linh hoạt để thích ứng hoặc đánh giá lại sứ mệnh của mình trong bối cảnh hoàn cảnh thay đổi hoặc những cân nhắc xã hội rộng hơn. Nghĩa là anh ta không thể hoặc không muốn tính đến các yếu tố phức tạp và đang phát triển. Vì vậy, giống như Black Noir, anh ta sẵn sàng thực hiện bất kỳ hành động nào, bất kể tác hại mà nó gây ra, để đạt được mục tiêu đã định trước.
Tương ứng, Black Noir sẽ đóng vai trò như một lời cảnh báo về sự nguy hiểm của niềm tin mù quáng vào AI.. Điều này không có nghĩa là AI không có lợi thế. Trên thực tế, Black Noir có lẽ là sáng tạo hiệu quả nhất của Vought – anh ta là người duy nhất có khả năng vô hiệu hóa Homelander. Tuy nhiên, việc Vought không thực hiện các biện pháp bảo vệ cần thiết như điều chỉnh giá trị, ranh giới chặt chẽ để ngăn chặn tổn hại cho các bên thứ ba vô tội và hậu quả rõ ràng đối với hành vi không thể chấp nhận được đã chứng tỏ là một thảm họa.
Ví dụ, không có lan can nào để đảm bảo rằng việc làm hại người khác để đạt được mục tiêu của mình sẽ dẫn đến việc ngừng hoạt động. Có lẽ quan trọng nhất là Vough đã bỏ qua việc thiết lập các cơ chế giám sát của con người để giám sát và điều chỉnh hành động của mình, đảm bảo rằng anh ta không sử dụng các biện pháp cực đoan. Những đảm bảo cơ bản tương tự này sẽ định hướng cho việc phát triển và ứng dụng các công nghệ trí tuệ nhân tạo. Không có chúng, như Black Noir đã chứng minh trong Con traitình hình có thể vượt khỏi tầm kiểm soát.