जबकि होमलैंडर और द सेवन केंद्र में हैं लड़के मुख्य खलनायक के रूप में, श्रृंखला को चलाने वाली असली बुराई वॉट इंटरनेशनल है, जो एक शक्तिशाली निगम है जिसने सुपरहीरो की अवधारणा को अपने साथ ले लिया है, और इसे सत्ता, प्रभाव और धन के लिए अपनी अतृप्त लालसा को संतुष्ट करने के लिए एक उपकरण में बदल दिया है। इन वर्षों में, सुपरहीरो उद्योग में वॉट के प्रभुत्व ने न केवल भारी मुनाफा कमाया, बल्कि सर्वशक्तिमानता की एक भ्रमपूर्ण भावना को भी बढ़ावा दिया।
कई मायनों में कृत्रिम बुद्धिमत्ता प्रौद्योगिकी विकसित करने वाली बड़ी तकनीकी कंपनियाँ वास्तविक जीवन में आईना दिखाती हैं. हालांकि यह आवश्यक रूप से बुरा नहीं है, उन्होंने कृत्रिम बुद्धिमत्ता की अवधारणा – जिसे अब आमतौर पर एआई कहा जाता है – का अपहरण कर लिया है और इसका उपयोग शक्ति, प्रभाव और धन इकट्ठा करने के लिए किया है। चूँकि वे इस तकनीक को विकसित करने और प्रबंधित करने के लिए संसाधनों वाले एकमात्र संगठन हैं, इस क्षेत्र में उनके प्रभुत्व ने भारी मुनाफा और सर्वशक्तिमानता की एक अचूक हवा ला दी है।
आज की बड़ी टेक कंपनियों के सामने एक नई चुनौती है
लड़के साबित करते हैं कि आम समस्याओं के हाई-टेक समाधान अचूक नहीं हैं।
यदि बड़ी तकनीकी कंपनियां और एआई प्रौद्योगिकियां कभी वास्तविक दुनिया की वॉट्स बन जाती हैं, लड़के यह उनके और जनता दोनों के लिए एक महत्वपूर्ण सबक है।: एक “महान समाधान” पर आँख मूंदकर विश्वास करने से सावधान रहें। इसका एक उदाहरण होमलैंडर समस्या पर वॉट का दृष्टिकोण था। वॉट ने सत्ता पदानुक्रम के शीर्ष पर कंपनी के प्रभुत्व को मजबूत करने के लिए होमलैंडर बनाया। उन्होंने अपरिहार्य जोखिम के बावजूद ऐसा किया कि इतना शक्तिशाली व्यक्ति एक दिन उनके खिलाफ खड़ा हो सकता है। वॉट ने अपना विकास जारी रखा, इस विश्वास के साथ कि वे उसकी वफादारी सुनिश्चित कर सकते हैं या अन्यथा उस पर नियंत्रण बनाए रख सकते हैं।
यदि होमलैंडर पर सीधा नियंत्रण असंभव साबित हुआ, तो वॉट का मानना था कि उसके पास सबसे विश्वसनीय विकल्प था: ब्लैक नॉयर, उसका क्लोन। हालाँकि, होमलैंडर के निर्माण को बढ़ावा देने वाले अहंकार और स्वार्थी उद्देश्यों ने ब्लैक नॉयर के विकास में भी बाधा उत्पन्न की। जिस तरह वॉट होमलैंडर में एक ईश्वर-सदृश प्राणी बनाने के निहितार्थ को पूरी तरह से समझने में विफल रहे, उसी तरह वे होमलैंडर की देखभाल करने के लिए एक ईश्वर-स्तरीय हत्यारे को बनाने के गहन निहितार्थ को समझने से चूक गए, क्या उन्हें उनके नियंत्रण से “मुक्त” होना चाहिए।
इस “अंतिम समाधान” को सुविधाजनक बनाने के लिए, ब्लैक नॉयर को सेवन का एक प्रमुख सदस्य नियुक्त किया गया था, जो अक्सर अपने मिशन के दौरान महत्वपूर्ण सहायता प्रदान करता था। हालाँकि, टीम में उनकी मुख्य भूमिका चुपचाप लेकिन लगातार होमलैंडर की निगरानी करना थी। सबसे बढ़कर, ब्लैक नॉयर का मुख्य निर्देश होमलैंडर को नष्ट करना था यदि वह कभी भी “दुष्ट” हो जाए। हालाँकि यह योजना कागज़ पर उचित लग सकती थी, अंततः इसने एक विशिष्ट वॉट दोष प्रदर्शित किया: उनकी रचनाओं के अनपेक्षित परिणामों की अनदेखी करना, कम आंकना और पूर्वानुमान लगाने में असफल होना। इस मामले में, उन्होंने ब्लैक नॉयर को इतना कठोर और संकीर्ण रूप से परिभाषित जनादेश देने के परिणामों को नजरअंदाज कर दिया।
लड़कों के लिए ब्लैक नॉयर बिना किसी बाधा के एक समाधान था जो एक समस्या से कहीं अधिक बन गया
ब्लैक नॉयर के साथ समस्या यह थी कि, वॉट के आग्रहपूर्ण संकेतों के बावजूद कि उसे एक पल के नोटिस पर होमलैंडर को मारने के लिए तैयार रहना चाहिए, होमलैंडर की ओर से सेवा के वर्षों में वॉट ने उसकी हत्या के आदेश को हरी झंडी नहीं दी – भले ही हर कोई जानता था या शायद देखा था होमलैंडर के दुष्ट होने के अनेक मामले। जबकि एक विशिष्ट “हिटमैन” ने वॉट की झिझक को अपने वेतन ग्रेड से परे माना होगा, ब्लैक नॉयर के सख्त, विशिष्ट आदेशों ने उसके लिए पीछे हटना और यह समझना असंभव बना दिया कि हत्या का आदेश कभी क्यों नहीं दिया गया था।
नतीजतन, ब्लैक नॉयर ने होमलैंडर की आड़ में अत्याचारों की एक श्रृंखला शुरू करते हुए मामले को अपने हाथों में ले लिया। उसका मानना था कि ऐसा करके वह होमलैंडर की अवज्ञा को प्रदर्शित करेगा और वॉट को हत्या का आदेश देने के लिए प्रोत्साहित करेगा, जिससे उसे अपना मुख्य लक्ष्य पूरा करने में मदद मिलेगी। आदेशों की प्रतीक्षा करने के बजाय, ब्लैक नॉयर ने ऐसी परिस्थितियाँ बनाईं जो उसके कार्यों को उचित ठहराती थीं। इस लक्ष्य पर उनका एकमात्र ध्यान इतना मजबूत था कि उन्होंने शिशुओं को नुकसान पहुंचाने जैसे जघन्य कृत्यों को भी स्वीकार्य माना।
एआई को तैनात करते समय भी ऐसी ही स्थिति उत्पन्न हो सकती है। “पेपर क्लिप समस्या” के रूप में जाना जाता है, इस परिदृश्य में एक एआई प्रोग्राम शामिल है जिसे एक सरल निर्देश के साथ काम सौंपा गया है: “पेपर क्लिप उत्पादन को अधिकतम करें।” आगे के संदर्भ, बारीकियों या सीमाओं के बिना, एआई लगातार इस लक्ष्य का पीछा करता है, और अधिक पेपर क्लिप बनाने के लिए मानव अस्तित्व और कल्याण के लिए महत्वपूर्ण संसाधनों सहित सभी उपलब्ध संसाधनों का व्यवस्थित रूप से उपभोग करता है।
होमलैंडर को नष्ट करने के लिए ब्लैक नॉयर के कठोर कार्यक्रम की तरह, इस एआई में बदलती परिस्थितियों या व्यापक सामाजिक विचारों के आलोक में अपने मिशन को अनुकूलित करने या पुनर्मूल्यांकन करने के लचीलेपन का अभाव है। अर्थात्, वह जटिल और विकसित हो रहे कारकों को ध्यान में रखने में असमर्थ या अनिच्छुक है। इस प्रकार, ब्लैक नॉयर की तरह, वह पूर्व निर्धारित लक्ष्य को प्राप्त करने के लिए, चाहे इससे होने वाले नुकसान की परवाह किए बिना, कोई भी कार्रवाई करने को तैयार है।
क्रमश, ब्लैक नॉयर को एआई में अंध विश्वास के खतरों के बारे में एक चेतावनी के रूप में काम करना चाहिए।. इसका मतलब यह नहीं है कि AI के फायदे नहीं हैं। वास्तव में, ब्लैक नॉयर शायद वॉट की सबसे प्रभावी रचना थी – वह होमलैंडर को बेअसर करने में सक्षम एकमात्र व्यक्ति था। हालाँकि, मूल्य संरेखण, निर्दोष तीसरे पक्षों को नुकसान रोकने के लिए मजबूत सीमाएं और अस्वीकार्य व्यवहार के स्पष्ट परिणाम जैसे आवश्यक सुरक्षा उपायों को लागू करने में वॉट की विफलता विनाशकारी साबित हुई है।
उदाहरण के लिए, यह सुनिश्चित करने के लिए कोई रेलिंग नहीं थी कि अपने लक्ष्यों को प्राप्त करने के लिए दूसरों को नुकसान पहुँचाने का परिणाम डीकमीशनिंग होगा। शायद सबसे गंभीर रूप से, वॉट ने अपने कार्यों की निगरानी और विनियमन के लिए मानव निरीक्षण तंत्र स्थापित करने की उपेक्षा की, यह सुनिश्चित करते हुए कि उन्होंने अत्यधिक उपायों का सहारा नहीं लिया। इन्हीं मूलभूत गारंटियों को कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के विकास और अनुप्रयोग का मार्गदर्शन करना चाहिए। उनके बिना, जैसा कि ब्लैक नॉयर ने प्रदर्शित किया था लड़केस्थिति नियंत्रण से बाहर हो सकती है.