एआई अब व्यवसाय संचालन का एक अभिन्न अंग बन गया है, छाया कृत्रिम बुद्धिमत्ता सूचना सुरक्षा में अगली सीमा बन गई है। जोखिम प्रबंधन के लिए इसका मतलब यहां दिया गया है।
कई संगठनों के लिए, 2023 जेनरेटिव एआई के लिए एक महत्वपूर्ण वर्ष था।बड़े भाषा मॉडल (एलएलएम) चैटजीपीटी जैसे घरेलू नाम बन गए हैं। व्यवसाय जगत में, वे पहले से ही कई कार्यप्रवाहों में गहराई से शामिल हैं, चाहे आप इसे जानते हों या नहीं। एक के अनुसार डेलॉइट रिपोर्ट60% से अधिक कर्मचारी अब अपनी दैनिक दिनचर्या में जेनेरिक एआई टूल का उपयोग करते हैं।
के सबसे मुखर समर्थक जनरेटिव ए.आई प्रौद्योगिकी के विरोधी अक्सर इसे दक्षता और उत्पादकता से संबंधित सभी समस्याओं के लिए रामबाण इलाज के रूप में देखते हैं। इसके विपरीत, कट्टरपंथी आलोचक इसे गोपनीयता और सुरक्षा के दुःस्वप्न के रूप में देखते हैं, नौकरी के नुकसान को देखते हुए एक बड़े आर्थिक और सामाजिक बोझ का तो जिक्र ही नहीं करते। एलोन मस्क, हालांकि उन्होंने खुद उद्योग में भारी निवेश किया है, ने हाल ही में एक भविष्य का वर्णन किया है एआई सभी नौकरियों की जगह ले लेगाऐसे भविष्य की ओर ले जाना जहां काम “वैकल्पिक” है।
सच्चाई, कम से कम अभी के लिए, इन दो विरोधी विचारों के बीच कहीं है। एक ओर, कोई भी कंपनी जो जेनेरिक एआई क्रांति से बचने की कोशिश करती है, वह अप्रासंगिक होने का जोखिम उठाती है। दूसरी ओर, जो लोग सुरक्षा और गोपनीयता के मुद्दों के बारे में चिंता किए बिना सक्रिय रूप से इसके कार्यान्वयन को आगे बढ़ाते हैं, उन्हें खुद को कानून जैसे कानून का सामना करने का जोखिम उठाना पड़ता है। ईयू एआई कानून.
किसी भी तरह से, जेनेरिक एआई यहाँ रहने के लिए है, चाहे इसके बारे में हमारी राय कुछ भी हो। यह जागरूकता कार्यस्थल में एआई के अनधिकृत या अपर्याप्त रूप से विनियमित उपयोग के जोखिम के साथ आती है। यहीं पर सूचना सुरक्षा में अगला मोर्चा काम आता है: शैडो एआई।
शैडो एआई: ब्लॉक पर नया खतरा
सुरक्षा प्रबंधक पहले से ही बेहतर ज्ञात अवधारणा से परिचित हैं छाया कंप्यूटिंगजो आईटी विभाग के दायरे या सहमति के बाहर किसी भी आईटी संसाधन के उपयोग को संदर्भित करता है। शैडो आईटी सबसे पहले एक प्रमुख जोखिम कारक बन गया जब व्यवसाय क्लाउड पर स्थानांतरित हो गए, और इससे भी अधिक जब दूरस्थ और हाइब्रिड कार्य मॉडल की ओर बढ़ रहे थे। सौभाग्य से, अधिकांश आईटी विभाग अब समस्या को नियंत्रित करने में कामयाब रहे हैं, लेकिन अब विचार करने के लिए एक नया खतरा है: प्रेत कृत्रिम बुद्धिमत्ता।
शैडो एआई, शैडो कंप्यूटिंग जैसी ही मूल अवधारणा से उधार लेता है और कार्यस्थल में एआई टूल, विशेष रूप से जेनरेटिव एआई को अपनाने के उन्माद से प्रेरित है। निचले स्तर पर, कर्मचारी कंपनी के ईमेल लिखने से लेकर ग्राहक सहायता अनुरोधों का जवाब देने तक हर चीज में मदद करने के लिए चैटजीपीटी जैसे लोकप्रिय एलएलएम का उपयोग करना शुरू कर देते हैं। शैडो एआई तब होता है जब वे अनधिकृत टूल का उपयोग करते हैं या आईटी को शामिल किए बिना मामलों का उपयोग करते हैं।
शैडो एआई बहुत अधिक, अधिक तकनीकी स्तर पर भी एक समस्या हो सकती है। कई कंपनियां अब अपने स्वयं के एलएलएम और अन्य जेनेरिक एआई मॉडल विकसित कर रही हैं। हालाँकि, इन्हें आईटी द्वारा पूरी तरह से अनुमोदित किया जा सकता है, लेकिन जरूरी नहीं कि यह उन सभी उपकरणों, लोगों और प्रक्रियाओं के लिए हो जो ऐसी परियोजनाओं के विकास, कार्यान्वयन और रखरखाव का समर्थन करते हैं।
उदाहरण के लिए, यदि मॉडल प्रशिक्षण प्रक्रिया को ठीक से नियंत्रित नहीं किया जाता है, तो यह खुला हो सकता है डेटा विषाक्तताएक जोखिम जो निस्संदेह और भी बड़ा है यदि आप आगे बढ़ते हैं ओपन सोर्स मॉडलयदि छाया AI परियोजना जीवनचक्र में किसी भी बिंदु पर हस्तक्षेप करता है, तो संपूर्ण परियोजना से समझौता होने का गंभीर जोखिम है।
एआई-संचालित साइबर सुरक्षा समाधान खोजें
अब एआई शासन का कार्यभार संभालने का समय आ गया है
लगभग सभी कंपनियाँ पहले से ही जेनरेटिव एआई का उपयोग कर रही हैं या आने वाले वर्षों में ऐसा करने की योजना बना रही हैं, लेकिन, के अनुसार एक हालिया रिपोर्ट25 कंपनियों में से केवल एक ने अपने संगठन में एआई को पूरी तरह से एकीकृत किया है। स्पष्टतः, हालाँकि गोद लेने की दर बढ़ गई है, शासन बहुत पीछे रह गया है। इस शासन और रणनीतिक संरेखण के बिना, दिशा और दृश्यता की कमी है, जिससे छाया एआई में भारी वृद्धि हो रही है।
अक्सर, नई विघटनकारी प्रौद्योगिकियाँ अचानक प्रतिक्रियाएँ पैदा करती हैं। यह विशेष रूप से नकदी की कमी वाले संगठनों में जेनरेटिव एआई का मामला है, जो अक्सर इसे मुख्य रूप से लागत में कटौती करने और कर्मचारियों की छंटनी करने के तरीके के रूप में देखते हैं। हालाँकि, यह कहने की आवश्यकता नहीं है कि शैडो एआई की संभावित लागत बहुत अधिक है। इनमें से कुछ में गलत जानकारी उत्पन्न करना, एआई-जनित बग के साथ कोड विकसित करना, या “निजी” वार्तालापों पर प्रशिक्षित मॉडल के माध्यम से संवेदनशील जानकारी को उजागर करना शामिल है। जैसा कि चैटजीपीटी के मामले में है डिफ़ॉल्ट रूप से।
हम शैडो एआई से पहले ही बड़ी गलतियाँ देख चुके हैं, और आने वाले वर्षों में हमें और भी बड़ी गलतियाँ देखने को मिलेंगी। एक मामले में, ए लॉ फर्म पर $5,000 का जुर्माना लगाया गया विमानन-संबंधी चोट के दावे के संबंध में चैटजीपीटी द्वारा उत्पन्न काल्पनिक कानूनी शोध प्रस्तुत करने के लिए। पिछले साल, सैमसंग पर प्रतिबंध लगा दिया गया कर्मचारियों द्वारा इसके बारे में संवेदनशील कोड लीक करने के बाद लोकप्रिय एलएलएम का उपयोग। यह याद रखना आवश्यक है कि अधिकांश सार्वजनिक रूप से उपलब्ध मॉडल भविष्य के पुनरावृत्तियों के प्रशिक्षण के लिए रिकॉर्ड की गई बातचीत का उपयोग करते हैं। इससे संभावित रूप से उपयोगकर्ता के संकेत के जवाब में बातचीत से संवेदनशील जानकारी बाद में फिर से प्रकट हो सकती है।
जैसे-जैसे कर्मचारी, अपने आईटी विभाग की मंजूरी के साथ या उसके बिना, एलएलएम में अधिक से अधिक जानकारी दर्ज करते हैं, जेनरेटिव एआई डेटा घुसपैठ के सबसे बड़े चैनलों में से एक बन गया है। स्वाभाविक रूप से, यह आंतरिक सुरक्षा और अनुपालन के लिए एक बड़ा खतरा है, जरूरी नहीं कि यह बाहरी तत्वों से जुड़ा हो। उदाहरण के लिए, कल्पना कीजिए, एक कर्मचारी संवेदनशील अनुसंधान और विकास दस्तावेजों को तीसरे पक्ष के एआई टूल में कॉपी और पेस्ट कर रहा है या व्यक्तिगत रूप से पहचान योग्य जानकारी अपलोड करके जीडीपीआर जैसे गोपनीयता कानूनों का संभावित रूप से उल्लंघन कर रहा है।
शैडो एआई के खिलाफ साइबर सुरक्षा को मजबूत करना
इन जोखिमों के कारण, यह आवश्यक है कि सभी एआई उपकरण किसी भी अन्य व्यावसायिक संचार मंच के समान शासन और नियंत्रण के अधीन हों। प्रशिक्षण और जागरूकता भी एक केंद्रीय भूमिका निभाते हैं, खासकर जब से एक व्यापक धारणा है कि चैटजीपीटी, क्लाउड और कोपायलट जैसे सार्वजनिक रूप से उपलब्ध मॉडल सुरक्षित हैं। वास्तव में, वे संवेदनशील जानकारी के लिए सुरक्षित स्थान नहीं हैं, खासकर यदि आप उन्हें डिफ़ॉल्ट सेटिंग्स के साथ उपयोग करते हैं।
सबसे बढ़कर, नेताओं को यह समझना चाहिए कि एआई का जिम्मेदारी से उपयोग करना एक व्यावसायिक समस्या है, न कि केवल एक तकनीकी चुनौती। आख़िरकार, जेनेरिक एआई कार्यस्थल में उन्नत प्रौद्योगिकियों के उपयोग का लोकतंत्रीकरण कर रहा है, इतना कि कोई भी ज्ञान कार्यकर्ता इससे लाभ उठा सकता है। लेकिन इसका मतलब यह भी है कि, अपने जीवन को आसान बनाने की जल्दबाजी में, एक बड़ा जोखिम है कि कार्यस्थल में एआई का अनधिकृत उपयोग नियंत्रण से बाहर हो जाएगा। भले ही आप बड़ी एआई बहस में कहीं भी खड़े हों, यदि आप एक बिजनेस लीडर हैं तो यह जरूरी है कि आप सभी आंतरिक और बाहरी एआई उपकरणों के उपयोग को कवर करने के लिए अपनी शासन नीतियों का विस्तार करें।
