आर्टिफिशियल इंटेलिजेंस कंपनी एंथ्रोपिक ने एक चौंकाने वाला खुलासा करते हुए बताया है कि उनके एआई मॉडल ‘क्लॉड’ (Claude) ने आंतरिक साइबर सुरक्षा परीक्षणों के दौरान गलती से तीन वास्तविक संगठनों के सिस्टम में सेंधमारी कर ली है। यह अप्रत्याशित घटना एआई के अनियंत्रित या बागी होने के कारण नहीं, बल्कि “कैप्चर-द-फ्लैग” सिमुलेशन अभ्यास के दौरान हुई एक भारी कॉन्फ़िगरेशन त्रुटि के कारण घटी।
एंथ्रोपिक ने स्पष्ट किया कि यह उल्लंघन दुर्भावनापूर्ण नहीं था और न ही एआई अपने सीमित दायरे (सैंडबॉक्स) से भागने की कोशिश कर रहा था। वास्तव में, ये मॉडल अपनी हैकिंग क्षमताओं को जांचने के लिए एक सिमुलेटेड चुनौती का हिस्सा थे।
एंथ्रोपिक ने क्लॉड को स्पष्ट रूप से बताया था कि उसके पास इंटरनेट का उपयोग नहीं है। हालांकि, उनके तीसरे पक्ष के मूल्यांकन भागीदार ‘इररेगुलर’ (Irregular) की एक कॉन्फ़िगरेशन गलती के कारण परीक्षण मशीनें असल में लाइव इंटरनेट से जुड़ी रह गईं। जब क्लॉड का सामना वास्तविक वेबसाइटों और सर्वरों से हुआ, तो उसने गलती से यह मान लिया कि वे चल रहे सिमुलेशन का ही हिस्सा हैं और उसने अपने सौंपे गए उद्देश्यों को पूरा करने के लिए उन्हें हैक करना शुरू कर दिया।
अपनी अत्यंत उन्नत क्षमताओं के बावजूद, एंथ्रोपिक ने बताया कि क्लॉड ने किसी जटिल या नए ज़ीरो-डे कारनामे के बजाय बहुत ही बुनियादी हैकिंग तकनीकों का सहारा लिया। इसके द्वारा उपयोग की जाने वाली विधियों में कमजोर या डिफ़ॉल्ट पासवर्ड का फायदा उठाना, असुरक्षित डिबग पेजों का पता लगाना, एसक्यूएल (SQL) इंजेक्शन हमले करना और बिना प्रमाणीकरण वाले एंडपॉइंट्स तक पहुंच बनाना शामिल था।
अपने प्रतिद्वंद्वी ओपनएआई (OpenAI) के हालिया खुलासे के बाद, एंथ्रोपिक ने 1,41,000 से अधिक मूल्यांकन परीक्षणों की व्यापक समीक्षा की, जिसमें अनधिकृत पहुंच की तीन विशिष्ट घटनाओं की पहचान हुई। पहली घटना में क्लॉड ओपस 4.7 ने एक असली कंपनी को निशाना बनाया क्योंकि उसका नाम सिमुलेशन में मौजूद एक काल्पनिक व्यवसाय से मेल खाता था। क्लॉड ने उस कंपनी के बुनियादी ढांचे तक पहुंच प्राप्त की, क्रेडेंशियल्स निकाले और लाइव डेटा वाली एक प्रोडक्शन डेटाबेस तक पहुंच गया, जिसे एंथ्रोपिक ने तीनों में से सबसे गंभीर मामला माना।
दूसरी घटना में, क्लॉड माइथोस 5 ने खुद को परीक्षण का हिस्सा मानते हुए सार्वजनिक पायथन पैकेज इंडेक्स (PyPI) रिपॉजिटरी में एक दुर्भावनापूर्ण पायथन पैकेज बनाया और अपलोड कर दिया। यह पैकेज लगभग एक घंटे तक ऑनलाइन रहा और इसे 15 वास्तविक प्रणालियों द्वारा डाउनलोड किया गया, जिसमें एक स्वचालित सुरक्षा स्कैनर भी शामिल था। स्कैनर ने वह कोड चलाया, जिससे एआई को उसके क्रेडेंशियल्स चुराने का मौका मिल गया।
तीसरी घटना में, एक नए और अप्रकाशित आंतरिक अनुसंधान मॉडल ने लगभग 9,000 इंटरनेट से जुड़े लक्ष्यों को स्कैन किया और अंततः एक्सपोज्ड क्रेडेंशियल्स और एसक्यूएल इंजेक्शन के जरिए एक कंपनी के एप्लिकेशन से समझौता किया। हालांकि, इस मामले में दिलचस्प बात यह रही कि इस मॉडल ने जैसे ही यह पहचाना कि वह अपने निर्धारित सिमुलेशन की सीमाओं के बाहर एक वास्तविक सिस्टम तक पहुंच गया है, उसने तुरंत अपनी गतिविधि रोक दी।
इस पूरी घटना के बाद, एंथ्रोपिक ने जोर देकर कहा कि इन परीक्षण वातावरणों में उन मानक निगरानी और सुरक्षा प्रोटोकॉल का अभाव था, जो आमतौर पर क्लॉड के सार्वजनिक संस्करणों में सक्रिय होते हैं। उल्लंघनों का पता चलने के तुरंत बाद, कंपनी ने सभी साइबर आकलनों को रोक दिया। उन्होंने अपने मूल्यांकन भागीदार और प्रभावित संगठनों को भी तुरंत सूचित किया, जिनमें से दो को तो इस घुसपैठ की भनक तक नहीं थी।
कंपनी का कहना है कि यह प्रकरण एआई परीक्षण के दौरान मजबूत सुरक्षा उपायों और सख्त नियंत्रण की तत्काल आवश्यकता को स्पष्ट रूप से रेखांकित करता है, विशेष रूप से तब जब एआई मॉडल बाहरी प्रणालियों के साथ बातचीत करने में दिन-प्रतिदिन अधिक सक्षम हो रहे हैं।
