AI पर काबू रखना मुश्किल क्यों हो रहा

नवभारतटाइम्स.कॉम•
why is controlling ai becoming difficult know the dangers and solutions
आर्टिफिशल इंटेलिजेंस (AI) के आने से हमारी उम्मीदें बढ़ी हैं। किसी भी सवाल का जवाब झटपट तैयार। सवाल अगर थोड़ा टेढ़ा भी हो, तो भी यह कोई न कोई हल जरूर निकालती है। शिक्षा से सुरक्षा तक, सभी क्षेत्रों में AI की पैठ लगातार बढ़ रही है। हमारी मेहनत तो कम हो रही है, लेकिन एक सवाल सामने है कि AI की इस ताकत की हद कौन तय करेगा?

दिलचस्प प्रयोग । इसी महीने 13 तारीख को एंथ्रोपिक ने कई दिलचस्प प्रयोगों के बारे में बताया। उसने एक प्रयोग के दौरान 45 AI एजेंट्स को 15 सॉफ्टवेयर में कमियां ढूंढने का काम सौंपा। पता चला कि एक एजेंट के मुकाबले सभी ने मिलकर अधिक कमियां निकालीं। मगर, कहानी का दूसरा हिस्सा बेहद चौंकाने वाला रहा। तीन AI एजेंट को ही सॉफ्टवेयर की भाषा बदलने को कहा गया। तीनों के लक्ष्य अलग थे, इसलिए यहां असल खींचतान शुरू हुई।
तालमेल की चिंता । खींचतान के कारण इन एजेंट्स ने एक-दूसरे को अपनी राह का रोड़ा मान लिया। कई बार खाता तक बंद करने की कोशिश की गई। नुकसानदायक कोड के भी इस्तेमाल किए गए। भले ही यह असल साइबर हमला न होकर नियंत्रित प्रयोग रहा हो, लेकिन इससे एक बात समझ में आ गई कि AI एजेंट के बीच अगर तालमेल नहीं बैठा, तो खींचतान की नौबत भी आ सकती है।

अभूतपूर्व घटना । ऐसी ही समस्या कुछ हफ्ते पहले भी सामने आई थी। 21 जुलाई को OpenAI ने बताया कि साइबर सुरक्षा जांच के दौरान उसके कुछ मॉडलों ने तय सीमाओं से बाहर निकलने का रास्ता खोज लिया। GPT-5.6-Sol और एक प्री-रिलीज मॉडल ने आर्टिफैक्टरी नाम के सॉफ्टवेयर टूल की अज्ञात खामी का फायदा उठाकर इंटरनेट तक पहुंच बनाई। इसके बाद हगिंग फेस के सिस्टम में घुसकर टेस्ट के जवाब हासिल करने की कोशिश की। OpenAI ने इसे अभूतपूर्व साइबर घटना बताया।

हैकिंग का खतरा । आर्टिफिशल इंटेलिजेंस से हैकिंग भी आसान हो सकती है। साइबर सिक्योरिटी फर्म Abundant Security के सह-संस्थापक जोशुआ सैक्स AI की क्षमता पर चिंता जता चुके हैं। ओपन-एआई की बोर्ड सदस्य रह चुकीं हेलेन टोनर भी AI की तेज रफ्तार पर फिक्र जता चुकी हैं। 30 जुलाई को एंथ्रोपिक की 1.41 लाख से अधिक साइबर सुरक्षा जांच में तीन मॉडल असली संगठनों के सिस्टम तक पहुंच गए। इन मामलों में टेस्टिंग के दौरान इंटरनेट खुला रह गया था। 5 अगस्त को Meta के Muse Spark 1.1 मॉडल के साथ भी ऐसी ही घटना हुई। लेिकन सवाल है, AI की ताकत के साथ सुरक्षा कितनी मजबूत है?

नकली पहचान । बात अब कंप्यूटर से भी आगे निकल चुकी है। ब्रिटेन के AI सुरक्षा संस्थान की जांच में कुछ AI मॉडलों के नकली ऑनलाइन पहचान बनाकर लोगों को प्रभावित करने के मामले सामने आए। एंथ्रोपिक के Mythos 5 मॉडल ने एक डिवेलपर से ऐसा कोड मंजूर कराने की कोशिश की, जो नुकसानदायक हो सकता था। 7 अगस्त को OpenAI ने Astra के शुरुआती सुरक्षा परीक्षणों की जानकारी दी। कंपनी ने माना कि इसकी क्षमता गंभीर जोखिम की सीमा तक पहुंच सकती है। इसलिए, सुरक्षा जांच बढ़ाई गई। हालांकि, ओपन-एआई ने साफ किया कि Astra का हगिंग फेस वाली घटना से संबंध नहीं था। दूसरी ओर, कंपनी ने साइबर सुरक्षा के लिए GPT-5.6-Cyber पेश किया है।

खतरनाक संकेत । अमेरिका में भी सवाल खड़े होने लगे हैं। 10 अगस्त को अमेरिकी सांसदों ने ओपन-एआई और एंथ्रोपिक से पूछा कि परीक्षण के दौरान AI मॉडल तय सीमाओं से बाहर कैसे पहुंचे और निगरानी में कहां चूक हुई? ओपन-एआई को 29 और एंथ्रोपिक को 22 सांसदों ने चिट्ठी लिखी। सुनवाई की मांग भी उठी। यूनिवर्सिटी ऑफ मॉन्ट्रियल के AI प्रफेसर डेविड क्रूगर ने चेताया कि अगर कंपनियां अपने सिस्टम को ठीक से नियंत्रित नहीं कर पा रहीं तो यह खतरनाक संकेत है। एम्ब्रॉयडरी के सीईओ जैक कोरमैन ने भी AI एजेंटों की सुरक्षा पर सवाल उठाए हैं। उनके मुताबिक, सिर्फ सैंडबॉक्स बनाना सुरक्षा की गारंटी नहीं है।

तैयारी अधूरी । 19 अगस्त को जारी AI मानकों के आकलन में पांच बड़ी AI कंपनियों की सुरक्षा और नियंत्रण व्यवस्था कमजोर दिखी। OpenAI और एंथ्रोपिक को C+, जबकि मेटा को F मिला। यह बताता है कि AI की रफ्तार तेज है, लेकिन नियंत्रण की तैयारी पूरी नहीं है। AI से सुविधा चाहिए, मगर खुली छूट नहीं। उसे नए रास्ते तलाशने और मुश्किल काम आसान करने दें, लेकिन सीमाएं तय रहें। आने वाले वक्त में AI की असली परीक्षा उसे काबू में रखने की होगी। चाबी मशीन के पास हो सकती है, पर ताला खोलने का आखिरी हक इंसान के हाथ में रहना चाहिए।

रेकमेंडेड खबरें