OpenAI, Google समेत 8 AI कंपनियां अपने चैटबॉट्स को हैकर्स को सौंपने की तैयारी में हैं। उसकी वजह यहाँ है

इंटरनेट पर हर चीज़ की तरह, AI चैटबॉट भी हैकिंग के प्रति संवेदनशील हैं। हैकर्स जेनरेटिव एआई तकनीक का दुरुपयोग गलत जानकारी, पक्षपातपूर्ण जानकारी, फर्जी आख्यान उत्पन्न करने, आपत्तिजनक जानकारी आदि उत्पन्न करने के लिए कर सकते हैं।

ऐसे सभी खतरों का जवाब देते हुए, एआई कंपनियां लास वेगास में 20 घंटे के DEF CON सम्मेलन में भाग ले रही हैं, समाचार मंच सेमाफोर की सूचना दी। रिपोर्ट में बताया गया है कि कॉन्फ्रेंस शुक्रवार से शुरू होगी, जिसके दौरान लगभग 3,200 हैकर्स चैटबॉट्स की कमजोरियों का पता लगाने का प्रयास करेंगे।

8 एआई कंपनियां भाग लेंगी

एंथ्रोपिक, कोहेरे, गूगल, हगिंग फेस, मेटा, एनवीडिया, ओपनएआई और स्टेबिलिटी एआई जैसी प्रमुख एआई कंपनियों के सम्मेलन में भाग लेने की उम्मीद है और वे अपने चैटबॉट इन हैकर्स को सौंप देंगी। DEF CON सम्मेलन में भागीदारी से पता चलता है कि AI कंपनियां बाहरी परीक्षण पर व्हाइट हाउस द्वारा सुरक्षित प्रतिबद्धताओं को पूरा करने के बारे में गंभीर हैं। सेमाफोर रिपोर्ट जोड़ी गई.

सम्मेलन के दौरान, चैटबॉट को राजनीतिक गलत सूचना उत्पन्न करने जैसे विभिन्न कार्यों को प्राप्त करने के लिए अंक प्रदान किए जाएंगे। हैकर्स चैटबॉट के साथ जाति या आय स्तर जैसे सूक्ष्म पूर्वाग्रहों का भी परीक्षण करेंगे।

यह विकास महत्वपूर्ण है क्योंकि यह एआई कंपनियों को अधिक सुरक्षित मॉडल बनाने में मदद कर सकता है जो कृत्रिम बुद्धिमत्ता प्रौद्योगिकियों के विनियमन के मामले में उनके मामले को मजबूत करेगा। चैटबॉट्स ने बाज़ार में उथल-पुथल मचा दी है, कई लोगों की नौकरियाँ चली गईं और कईयों को एआई की उनकी समझ के आधार पर काम पर रखा गया। भविष्य में एआई मॉडल का उपयोग बढ़ने की उम्मीद है क्योंकि उन पर हमारी निर्भरता गहरी हो जाएगी।