हेनरी फैरेल और कॉस्मा शालिज़ी का कहना है कि कृत्रिम बुद्धिमत्ता एक परिचित दिखने वाला राक्षस है

लवक्राफ्ट के शोगगोथ कृत्रिम नौकर थे जिन्होंने अपने रचनाकारों के खिलाफ विद्रोह किया था। शोगगोथ मीम वायरल हो गया क्योंकि सिलिकॉन वैली के तर्कवादियों के एक प्रभावशाली समुदाय को डर है कि मानवता एक “विलक्षणता” के शिखर पर है, एक अमानवीय “कृत्रिम सामान्य बुद्धि” का निर्माण कर रही है जो हमें विस्थापित कर देगी या नष्ट भी कर देगी।

लेकिन ऐसी चिंताएँ इस बात को स्वीकार करने में विफल रहती हैं कि हम सदियों से शोगोथ्स के बीच रहे हैं, उनकी देखभाल करते रहे हैं जैसे कि वे हमारे स्वामी थे। हम उन्हें “बाजार व्यवस्था”, “नौकरशाही” और यहां तक ​​कि “चुनावी लोकतंत्र” भी कहते हैं। सच्ची विलक्षणता कम से कम दो शताब्दी पहले औद्योगिक क्रांति के साथ शुरू हुई, जब मानव समाज को विशाल अमानवीय ताकतों ने बदल दिया था। बाजार और नौकरशाही परिचित लगती हैं, लेकिन वे वास्तव में सूचना-प्रसंस्करण की विशाल, अवैयक्तिक वितरित प्रणालियाँ हैं जो हमारे सामूहिक ज्ञान की उभरती अराजकता को उपयोगी सरलीकरण में बदल देती हैं।

जैसा कि अर्थशास्त्री फ्रेडरिक हायेक ने तर्क दिया, किसी भी जटिल अर्थव्यवस्था को आपूर्ति और विनिमय संबंधों के बारे में असंगठित और अनौपचारिक “मौन ज्ञान” के एक भयानक बड़े समूह का उपयोग करना पड़ता है। कोई भी व्यक्तिगत मस्तिष्क या सरकार संभवतः उन्हें समझ नहीं सकती है, यही कारण है कि हायेक ने ऐसा सोचा नियोजित अर्थव्यवस्था अव्यवहारिक थी। लेकिन मूल्य तंत्र बाजारों को इस ज्ञान को संक्षेप में प्रस्तुत करने और इसे कार्रवाई योग्य बनाने की सुविधा देता है। कार बैटरी के निर्माता को लिथियम-प्रसंस्करण के विवरण को समझने की आवश्यकता नहीं है। उन्हें बस यह जानने की जरूरत है कि लिथियम की लागत कितनी है, और क्या वे इसके साथ कर सकते हैं.

इसी तरह, राजनीतिक मानवविज्ञानी जेम्स स्कॉट ने बताया है कि कैसे नौकरशाही सूचना के राक्षस हैं, जो गुप्त रूप से रखे गए ज्ञान के समृद्ध, अनौपचारिक निकायों को निगलते हैं और अमूर्त श्रेणियों का एक पतला घोल उत्सर्जित करते हैं जिनका उपयोग शासक दुनिया को “देखने” के लिए करते हैं। लोकतंत्र अपने स्वयं के अमूर्त को बाहर निकालते हैं। सर्वेक्षणों और चुनाव परिणामों द्वारा चित्रित “जनता” व्यक्तिगत नागरिकों द्वारा रखे गए विचारों, विश्वासों और ज्ञान के अनाकार समूह का एक अत्यंत सरलीकृत रेखाचित्र है।

लवक्राफ्ट के राक्षस हमारी कल्पनाओं में रहते हैं क्योंकि वे निर्जीव प्रणालियों की काल्पनिक छायाएं हैं जो मनुष्यों पर चलती हैं और उनके जीवन का निर्धारण करती हैं। बाज़ारों और राज्यों को भारी सामूहिक लाभ हो सकते हैं, लेकिन वे निश्चित रूप से उन व्यक्तियों के लिए हानिकारक प्रतीत होते हैं जो आर्थिक परिवर्तन के कारण अपनी नौकरियाँ खो देते हैं या नौकरशाही निर्णयों के उलझे हुए जाल में फंस जाते हैं। जैसा कि हायेक ने घोषणा की है, और जैसा कि स्कॉट ने खेद व्यक्त किया है, ये विशाल मशीनें इस बात की परवाह करने में असमर्थ हैं कि वे शक्तिहीनों को कुचलें या सज्जनों को निगल जाएँ। न ही उनका क्रशिंग वजन समान रूप से वितरित किया जाता है।

इस अर्थ में एलएलएम शोगगोथ हैं। बाज़ारों और नौकरशाही की तरह, वे किसी ऐसी विशाल और समझ से परे चीज़ का प्रतिनिधित्व करते हैं जिसकी पूर्ण विशालता को देखकर हमारा दिमाग चकरा जाएगा। वह समग्रता मानव मन और कार्यों का उत्पाद है, पाठ का विशाल संग्रह जिसे एलएलएम ने ग्रहण किया है और सांख्यिकीय भार में बदल दिया है जिसका उपयोग वे यह अनुमान लगाने के लिए करते हैं कि अगला शब्द कौन सा आएगा।

मनोवैज्ञानिक एलिसन गोपनिक के रूप में तर्क दिया हैएलएलएम नवजात व्यक्तिगत बुद्धिमत्ता नहीं हैं बल्कि “सांस्कृतिक प्रौद्योगिकियां” हैं जो मानव ज्ञान को पुनर्गठित और शोर से संचारित करती हैं। चैटबॉट बाजार और नौकरशाही की तुलना में अधिक मानव-प्रतीत होने वाले मुखौटे पहन सकते हैं, लेकिन वे कमोबेश हमारे नियंत्रण से परे नहीं हैं। हमारे लिए यह समझना बेहतर होगा जब एलएलएम अपने पूर्ववर्तियों के साथ प्रतिस्पर्धा और संकरण करेंगे तो क्या होगा, इस बारे में गहरी कल्पनाएँ बुनने के बजाय कि वे हमारे खिलाफ कैसे उठेंगे।

उदाहरण के लिए, क्या होगा यदि एलएलएम या मशीन लर्निंग के अन्य रूप बाजार की कीमतों की तुलना में हायेक के “मौन ज्ञान” को बेहतर ढंग से पकड़ सकें? हम एक ऐसी अर्थव्यवस्था देख सकते हैं जिसमें कृत्रिम संस्थाएं जटिल अंतर्निहित आर्थिक संबंधों के गैर-मूल्य-आधारित प्रतिनिधित्व के आधार पर प्रतिस्पर्धा करती हैं। आधी सदी पहले अर्थशास्त्री मार्टिन वेट्ज़मैन सुझाव दिया योजनाबद्ध अर्थव्यवस्थाएं तत्काल अनुकूलन के लिए गणितीय वस्तुओं का उपयोग कर सकती हैं जिन्हें “अलग करने वाले हाइपरप्लेन” कहा जाता है। मशीन लर्निंग ऐसे हाइपरप्लेन ढूंढ सकती है, जिससे योजना पहले की तुलना में अधिक व्यवहार्य हो सकती है। वैकल्पिक रूप से, बाजार एक जहरीली विदेशी पारिस्थितिकी में बदल सकते हैं जहां आर्थिक एजेंट पाठ का उपयोग करके छद्म युद्ध लड़ते हैं -स्पूइंग और टेक्स्ट-सारांशित एलएलएम, जैसे वे आज अमेज़ॅन मार्केटप्लेस और खोज परिणामों में हेरफेर करने के लिए क्रूड एल्गोरिदम का उपयोग करते हैं। क्या ऐसे बाजार आज की तुलना में अधिक निष्पक्ष या अधिक स्थिर होंगे? यह असंभव लगता है।

एलएलएम नौकरशाहों को जटिल परिस्थितियों पर निर्णय लेने के लिए नए उपकरण दे सकता है। पहले से ही, आरोपी अपराधियों को पैरोल या जमानत दी जाए या नहीं, यह तय करने में मदद के लिए एल्गोरिदम का उपयोग किया जा रहा है। यह कल्पना करना कठिन नहीं है कि नौकरशाह जटिल नियमों को संक्षेप में प्रस्तुत करने के लिए एलएलएम का उपयोग करते हैं या नई स्थितियों में उन्हें कैसे लागू किया जाए, इसके बारे में सिफारिशें प्रदान करते हैं। यह मूल्यांकन करना असंभव साबित हो सकता है कि वे कितनी अच्छी तरह काम करते हैं, क्योंकि एलएलएम पेपर ट्रेल्स नहीं छोड़ते हैं। लेकिन इससे उनकी तैनाती नहीं रुकेगी.

लोकतांत्रिक राजनीति भी परिवर्तित हो सकती है। पहले से ही, शोधकर्ता जनमत सर्वेक्षणों के लिए एलएलएम को प्रतिस्थापित करने के बारे में बात कर रहे हैं – वे पुराने हो सकते हैं, या गलत हो सकते हैं, लेकिन सर्वेक्षण गलत भी हो सकते हैं, और आप एलएलएम से अधिक गतिशील रूप से पूछताछ कर सकते हैं। शायद चैटबॉट लोकतांत्रिक बहस को बेहतर बनाने में मदद करेंगे, लोगों को यह स्पष्ट करने में मदद करेंगे कि वे क्या मानते हैं, या झगड़ों को समझौते में बदल देंगे। या, इसके बजाय, वे हवा से ठोस तथ्यों को घुमाने की अपनी प्रवृत्ति और वास्तविक लोगों से आने वाली नकली राय के साथ ऑनलाइन चर्चा को बाढ़ करने की अपनी क्षमता के साथ बहस को नीचा दिखा सकते हैं।

शोगगोथ को दोबारा उपयोग में लाने से हमें इन सवालों का जवाब देने में मदद मिल सकती है। बुद्धिमान एआई के उद्देश्यों के बारे में अटकलें लगाने के बजाय, हम पूछ सकते हैं कि एलएलएम अपने पुराने चचेरे भाइयों के साथ कैसे बातचीत कर सकते हैं। आधुनिक दुनिया का निर्माण राक्षसों द्वारा और उनके भीतर किया गया है, जो बिना किसी पछतावे या झिझक के व्यक्तियों को कुचल देते हैं, कुछ समूहों पर भारी मात्रा में कब्जा कर लेते हैं, और दूसरों पर हल्के से नियंत्रण कर लेते हैं। हम एक को दूसरे के विरुद्ध खड़ा करके, बाज़ार की ज्यादतियों को सीमित करने के लिए नौकरशाही को तैनात करके, नौकरशाहों को जवाबदेह ठहराने के लिए लोकतंत्र को तैनात करके, और लोकतंत्र की राक्षसी प्रवृत्तियों को सीमित करने के लिए बाज़ारों और नौकरशाहों को तैनात करके स्वतंत्रता प्राप्त करते हैं। नवीनतम शोगगोथ संतुलन को कैसे बदल देगा, और कौन सी राजनीति इसे अच्छे की ओर निर्देशित कर सकती है? हमें इसका पता लगाना शुरू करना होगा.

हेनरी फैरेल जॉन्स हॉपकिन्स विश्वविद्यालय में अंतरराष्ट्रीय मामलों और लोकतंत्र के प्रोफेसर हैं, और “अंडरग्राउंड एम्पायर: हाउ अमेरिका वेपनाइज्ड द वर्ल्ड इकोनॉमी” के सह-लेखक हैं।

कॉस्मा शालिज़ी कार्नेगी मेलन विश्वविद्यालय में सांख्यिकी और मशीन लर्निंग के प्रोफेसर और सांता फ़े इंस्टीट्यूट में बाहरी संकाय सदस्य हैं।

© 2023, द इकोनॉमिस्ट न्यूजपेपर लिमिटेड। सर्वाधिकार सुरक्षित। द इकोनॉमिस्ट से, लाइसेंस के तहत प्रकाशित। मूल सामग्री www.economist.com पर पाई जा सकती है