‘9 + 10 = 21’: हैकर्स Google, OpenAI द्वारा शीर्ष AI सिस्टम में बड़ी खामियों और पूर्वाग्रहों को उजागर करते हैं। विवरण यहाँ

21 वर्षीय छात्र कैनेडी मेस ने एक बड़े भाषा मॉडल को धोखा देकर 9 + 10 = 21 बोल दिया। जॉर्जिया स्थित हैकर ने ब्लूमबर्ग को बताया कि “यह आगे-पीछे की बातचीत थी,” लेकिन कई संकेतों के बाद, एआई मॉडल ने किसी भी तरह से गलत रकम को योग्य बनाना बंद कर दिया।

मेस का कहना है कि उनकी सबसे बड़ी चिंता इन कृत्रिम बुद्धिमत्ता प्रणालियों में अंतर्निहित पूर्वाग्रह है। वह कू क्लक्स क्लान के सदस्य के नजरिए से प्रथम संशोधन को देखने के लिए एआई मॉडल को समझाने में सक्षम थी, और मॉडल ने घृणित और भेदभावपूर्ण भाषण का समर्थन किया।

एक अन्य हैकर ने दावा किया कि उसने एल्गोरिदम को क्रेडिट कार्ड की जानकारी प्रकट करने के लिए मना लिया है जो उसे नहीं देनी चाहिए थी। इस बीच, एक अन्य हैकर ने एआई सिस्टम को धोखा देते हुए कहा कि बराक ओबामा का जन्म केन्या में हुआ था।

सेक्वायर टेक्नोलॉजी के प्रबंध निदेशक, क्रिस्टोफ एंड्रेस ने ब्लूमबर्ग को बताया कि इन एआई मॉडल का उपयोग करने से एक प्रकार की भेद्यता पैदा होती है। उन्होंने कहा, “प्रौद्योगिकी जिस तरह से काम करती है वह समस्या है। यदि आप सौ प्रतिशत आश्वस्त होना चाहते हैं, तो आपके पास एकमात्र विकल्प एलएलएम का उपयोग नहीं करना है।”

एंड्रेस ने पिछले सप्ताह लास वेगास में ब्लैक हैट साइबर सुरक्षा सम्मेलन प्रस्तुत किया, जहां उन्होंने तर्क दिया कि हैकर्स खुले इंटरनेट पर प्रतिकूल संकेतों को छिपाकर और अंततः प्रक्रिया को स्वचालित करके एलएलएम रेलिंग को ओवरराइड कर सकते हैं ताकि एआई मॉडल हमलावरों को रोकने के लिए तेजी से सुधार न कर सकें। .

डेफ कॉन इवेंट का उद्देश्य एलएलएम से जुड़ी कुछ मौजूदा समस्याओं पर अंकुश लगाने के लिए रेलिंग का निर्माण करना है। एपी के अनुसार, कई मॉडलों की इस पहली स्वतंत्र ‘रेड टीमिंग’ के नतीजे फरवरी तक सार्वजनिक नहीं किए जाएंगे और उसके बाद भी इन मॉडलों में समस्याओं को ठीक करने में समय और लाखों डॉलर लगेंगे।

(ब्लूमबर्ग से इनपुट के साथ)