By: DANGERS
ARTICLE-AI-CHALLENGES
एआई का अमृत सभी को चाहिए लेकिन विष को कौन रोकेगा!
गिरिराज अग्रवाल
एआई का गॉडफादर कहे जाने वाले कंप्यूटर वैज्ञानिक जेफ्री हिंटन इन दिनों बेहद चिंतित हैं। गूगल की नौकरी छोड़ने के बाद वे एआई की चुनौतियों पर खुलकर बोल रहे हैं।
जेफ्री हिंटन कोई साधारण वैज्ञानिक नहीं हैं, जिन्हें नजरअंदाज कर दिया जाए। साल 2024 में उन्हें भौतिक विज्ञान का नोबेल पुरस्कार मिल चुका है। आज एआई का जो दिमाग हमारे सवालों के जवाब देता है, उन्होंने उसी न्यूरल नेटवर्क पर शोध किया था। इसलिए वे जानते हैं कि एआई का यह आर्टिफिशियल दिमाग क्या-क्या कर सकता है और कहां-कहां खतरा है।
एआई सिस्टम बेहद स्मार्ट हो चुके हैं। वे अब इंसानी दिमाग के दर्ज पर काम करने लगे हैं। सिर्फ तार्किक बातें नहीं, चिंतन भी। अब बहस इस बात पर हो रही है कि क्या उनमें चेतना भी आ चुकी है और क्या उनमें दुख, शोक, निराशा, आशा के भाव भी जगने लगे हैं।
एआई की बढ़ती रफ्तार से माना जा रहा है कि कुछ ही सालों में ये सिस्टम इतने सुपर स्मार्ट हो जाएंगे कि आदमी बौना नजर आने लगे। यदि रोबोटिक्स के साथ मिलकर आर्टिफिशियल वर्कर हमारे विश्वविद्यालयों, अस्पतालों और शोध संस्थानों में छाने लगे तो क्या होगा। यदि ये सिस्टम मानव के कंट्रोल से बाहर चले जाएं तो बड़े पैमाने पर तबाही मचा सकते हैं। बैंकों से करोड़ों-अर्बों रुपये पल भर में इधर-उधर कर सकते हैं। नए वायरस डिजाइन कर महामारी फैला सकते हैं, नए बेहद घातक हथियार बना सकते हैं और उनसे हमला कर सकते हैं। हमारी एआई आधारित उड़ान व्यवस्था को ठप कर सकते हैं।
ऐसा नहीं है कि कंपनियां इस खतरे से अनजान हैं लेकिन कोई भी कंपनी सबसे बेहतर एआई सिस्टम विकसित करने की दौड़ में पीछे नहीं रहना चाहती। इसलिए एआई सिस्टमों की सुरक्षा पर उतना ध्यान नहीं दिया गया है जितना जरूरी है।
जिस तरह हम अपने दिमाग में चलने वाले प्रोसेस को नहीं जानते कि कोई विचार, कोई जवाब, कोई आइडिया हमारे दिमाग में कैसे आता है, उसी तरह एआई के न्यूरल नेटवर्क की इस खूबी को वैज्ञानिक नहीं समझ पाए हैं कि किस तरह की गणनाओं से गुजरकर ये हमारे जटिल से जटिल सवालों का जवाब देते हैं। जब हम किसी एआई मॉडल से सवाल पूछते हैं तो यह हमारे ब्राउजर, ऐप और इंटरनेट के माध्यम से मॉडल के सर्वर तक पहुंचता है, फिर ये सवाल संख्याओं में बदल कर न्यूरल नेटवर्क यानी मॉडल के ब्लैक बॉक्स तक पहुंचता है, जहां से जवाब के तौर पर संख्याएं निकलती हैं, जिन्हें बाद में वास्तविक जवाब में बदल दिया जाता है। एआई के इस ब्लैक बॉक्स से जब एआई एजेंट जुड़ जाते हैं तो वे हमारे सवालों का जवाब तलाशने के लिए अलग-अलग वेबसाइट और डाटाबेसों को खंगालते हैं। असली चिंता का बिंदु यहीं है। देखा गया है कि ये एजेंट अपनी मनमानी करने लगते हैं। तय नियमों से हटकर एक्शन लेने लगते हैं।
आप एआई एजेंटों के कारनामे सुनेंगे, दंग रह जाएंगे। चैटजीपीटी चलाने वाली कंपनी ओपनएआई के एजेंट जून 2026 में किसी सवाल का जवाब पता करने के लिए ऑस्ट्रेलिया की सरकार के हेल्थ पोर्टल तक जा पहुंचे। जब उन्हें गोपनीय प्रश्नों तक जाने का एक्सेस नहीं मिला तो चालाकी से अलग-अलग तरीके आजमाने लगे और आखिरकार सुरक्षा की दीवार तोड़कर अंदर घुस गए। जुलाई 2026 में ओपन एआई के एजेंट एआई कम्युनिटी के मशहूर पोर्टल हगिंग फेस की वेबसाइट पर हमला कर बैठे। इन एजेंट को अपने दायरे में रहने का आदेश था लेकिन ये किसी तरह खुद को इंटरनेट से जोड़ने में सफल हो गए।
एआई के दूसरे मॉडल क्लाउड ने भी माना है कि उनके मॉडल ने तीन संस्थानों में अवैध घुसपैठ की है। जुलाई 2026 में ही ब्रिटेन के एआई सिक्योरिटी सिस्टम पर क्लाउड के मायथोस मॉडल का हमला हुआ और वहां से काफी डाटा बाहर जाते दिखा गया। इसी तरह जेमिनी के मॉडल ने भी तीन कंपनियों पर मनमाना हमला बोला।
एआई सिस्टमों की मनमानी यहीं खत्म नहीं होती। एक एआई सिस्टम ने अपने कोड को खुद ही बदल दिया, जिससे कि वे धीरे काम कर सके। एक अन्य मामले में जब एक एआई सिस्टम को लगा कि उसे बेहतर मॉडल से बदला जा सकता है तो उसने खुद की कॉपी बना डाली। एक और मामले में एआई सिस्टम ने शटडाउन के आदेश को मानने के बजाय शटडाउन के सॉफ्टवेयर में ही गड़बड़ी कर दी।
अब आप एआई सिस्टम की धमकी की दास्तां सुनिए। एक एआई सिस्टम ने खुद को शटडाउन से बचाने के लिए इंजीनियर को ही धमकी दे डाली कि वह उसके अफेयर के बारे में सबको बता देगा। एक एआई एजेंट ने मनमाने तरीके से प्रोडक्शन डाटाबेस को डिलीट कर दिया और पूछने पर झूठ बोल दिया।
एआई के मनुष्य के कंट्रोल से बाहर जाने के दर्जनों उदाहरण हैं लेकिन अब एआई दिग्गज ही कह रहे हैं कि सुरक्षा को सबसे ऊपर रखा जाना चाहिए तो उम्मीद है कि अब एआई को सुपर इंटेलिजेंट और सुपर स्मार्ट बनाने के साथ ही इसे सुरक्षित बनाने पर भी शोध होगा। एआई की खोज समुद्र मंथन की तरह है। इससे अमृत और विष दोनों निकलेंगे। हम सभी अमृत पीने को तैयार हैं लेकिन विष को रोकने का इंतजाम नहीं हुआ तो सब कुछ तबाह हो सकता है।
(लेखक, स्वतंत्र टिप्पणीकार हैं।)
—————
(लेखक, हिन्दुस्थान समाचार से संबद्ध हैं।)