मिथॉस का खतरा

बैंकों और वित्तीय बुनियादी तंत्र को एंथ्रोपिक के नए स्वायत्त एआइ मॉडल से सेंधमारी का भारी अंदेशा. भारत आखिर किस तरह से कर सकता है अपना बचाव

- एम.जी. अरुण, अजय सुकुमारन, सोनल खेत्रपाल और अनिलेश एस. महाजन इलस्ट्रेशनः नीलांजन दास

अलिफ लैला (अरबियन नाइट्स) की एक पुरानी कहानी में गरीब मछुआरा एक जिन्न को कैद से आजाद करता है लेकिन बाद में वही जिन्न उसके लिए खतरा बन जाता है. कुछ ऐसा ही खतरा समझते हुए डैरियो अमोडेई ने सावधानी बरती. उनकी कंपनी एंथ्रोपिक ने क्लॉड फैमिली के अपने सबसे नए और ताकतवर आर्टिफिशियल इंटेलिजेंस (एआइ) मॉडल 'मिथॉस' को सार्वजनिक रूप से जारी नहीं किया. वजह साफ थीः यह मॉडल खुला छोड़ने के लिए बहुत ज्यादा शक्तिशाली माना गया. एंथ्रोपिक ने खुद माना कि इस मॉडल की क्षमता "अब तक ट्रेन किए गए किसी भी मॉडल से काफी आगे" है.

सिर्फ यही बात सुर्खियां बनने के लिए काफी थी. लेकिन दुनिया भर में असली चिंता इस बात से बढ़ी कि मिथॉस को किस काम के लिए तैयार किया गया है ? एजेंटिक एआइ के दौर में, खासकर कोडिंग से जुड़े कामों के बीच विकसित होकर, यह एक तरह के 'फ्रेंकेन्स्टाइन जैसे ' सिस्टम में बदल गया है, जिसकी नजर सॉफ्टवेयर की कमजोरियों पर बेहद पैनी है-यहां तक कि 'जीरो-डे' जैसी अनजान खामियां भी, जिनके बारे में खुद डेवलपर को भी पता नहीं होता लेकिन हमलावर उनका फायदा उठा सकते हैं. पर यही क्षमता उन कमजोरियों का फायदा उठाने, कई खामियों को जोड़कर एक बड़ा और सिस्टम को ठप कर देने वाला हमला करने और मशीन की रफ्तार से पूरे सिस्टम को अस्थिर करने में भी इस्तेमाल हो सकती है. एंथ्रोपिक के मुताबिक, मिथॉस ने बड़े ऑपरेटिंग सिस्टम और ब्राउजर में कई कमजोरियां पहचानी हैं, जिनमें एक ऐसी खामी भी शामिल है जो करीब 27 साल तक पकड़ में नहीं आई थी. क्लॉड मिथॉस प्रीव्यू में किसी प्राइवेट फोरम के जरिए संभावित सेंध की खबरों ने चिंता को और बढ़ा दिया.

एंथ्रोपिक ने अपने ही बनाए इस सिस्टम से पैदा खतरे का जवाब प्रोजेक्ट ग्लासविंग के रूप में दिया, जो सीमित पहुंच वाला साइबर सुरक्षा कार्यक्रम है और खतरे की गंभीरता को दिखाता है. मिथॉस को खुले तौर पर जारी करने के बजाए कंपनी ने इसे चुनिंदा बड़ी टेक कंपनियों और अहम संस्थानों को सौंपा, ताकि इसका इस्तेमाल रक्षा के लिए हो-यानी जीरो-डे कमजोरियां ढूंढ़ना, सिस्टम की जांच करना और खामियों को समय रहते ठीक करना, इससे पहले कि हमलावर उनका फायदा उठाएं. अगर मिथॉस स्वायत्त साइबर एआइ के खतरे का प्रतीक है, तो ग्लासविंग उस जिन्न को बोतल में बंद रखने की पहली कोशिश है.