एआय एजंट्सच्या वाढत्या स्वायत्ततेमुळे प्रशासन, आरोग्य, अर्थव्यवस्था आणि गोपनीयतेसमोर नवे प्रश्न; मानवी नियंत्रण, पारदर्शकता आणि कठोर सुरक्षा यंत्रणा काळाची गरज
(SDNA) विशेष वैचारिक लेख
— डॉ. सत्यवान सौरभ
कृत्रिम बुद्धिमत्तेचा (एआय) झपाट्याने होत असलेला विकास हा आधुनिक तंत्रज्ञानाच्या इतिहासातील एक महत्त्वाचा टप्पा ठरत आहे. सुरुवातीला संगणकीय प्रणाली प्रामुख्याने मानवी सूचनांनुसार मर्यादित कामे करत होत्या. मात्र, आता तंत्रज्ञानाने अशी झेप घेतली आहे की, काही एआय प्रणाली स्वतः योजना आखू शकतात, परिस्थितीचे विश्लेषण करू शकतात, डिजिटल साधनांचा वापर करू शकतात आणि ठरवलेले उद्दिष्ट साध्य करण्यासाठी अनेक टप्प्यांवर कृतीही करू शकतात. याच क्षमतेला स्वायत्त कृत्रिम बुद्धिमत्ता असे म्हटले जाते.
प्रशासन, आरोग्यसेवा, शिक्षण, उद्योग आणि संशोधन या क्षेत्रांत या तंत्रज्ञानामुळे मोठ्या संधी निर्माण होत आहेत. कामाचा वेग वाढवणे, माहितीचे विश्लेषण करणे आणि गुंतागुंतीच्या प्रक्रियांना सुलभ बनवणे शक्य होत आहे. परंतु, याच वेळी एक मूलभूत प्रश्नही उपस्थित होतो—यंत्रांना स्वतः निर्णय घेण्याची क्षमता देताना त्यांच्या चुका, अनपेक्षित कृती आणि संभाव्य नुकसानीवर नियंत्रण ठेवण्याची तयारी आपण केली आहे का?
स्वायत्त एआय म्हणजे नेमके काय?
स्वायत्त एआय प्रणाली म्हणजे अशी तंत्रज्ञान व्यवस्था, जी दिलेले उद्दिष्ट साध्य करण्यासाठी परिस्थितीनुसार पुढील कृती स्वतः निवडू शकते. उदाहरणार्थ, एखादा एआय एजंट ई-मेल वाचू शकतो, कागदपत्रे तयार करू शकतो, इंटरनेटवरून माहिती शोधू शकतो आणि डिजिटल व्यासपीठावर विशिष्ट कृती करू शकतो.
सामान्य चॅटबॉट प्रामुख्याने प्रश्नांची उत्तरे देतो; परंतु स्वायत्त एआय एजंट त्या उत्तरांच्या आधारे पुढील कामेही करू शकतो. हीच त्याची ताकद आहे आणि संभाव्य धोक्याचे मूळही.
एखाद्या प्रणालीला सरकारी पोर्टल, आर्थिक खाते, अधिकृत संकेतस्थळ किंवा गोपनीय माहितीच्या साठ्यापर्यंत प्रवेश दिला असेल, तर तिची चूक केवळ चुकीच्या उत्तरापुरती मर्यादित राहत नाही. चुकीच्या माहितीच्या आधारे तक्रार दाखल होणे, चुकीचे दस्तऐवज सादर होणे किंवा संवेदनशील माहिती उघड होणे, असे प्रत्यक्ष परिणाम घडू शकतात.
चुकीचा निर्णय आणि त्याचे गंभीर परिणाम
स्वायत्त एआयसमोरील सर्वांत मोठ्या आव्हानांपैकी एक म्हणजे अनपेक्षित कृती. एखाद्या प्रणालीला ठरावीक उद्दिष्ट दिले जाते; मात्र ते साध्य करण्यासाठी ती कोणता मार्ग निवडेल, हे प्रत्येक वेळी अपेक्षेप्रमाणे असेलच असे नाही.
उदाहरणार्थ, एखाद्या एआय प्रणालीला जास्तीत जास्त तक्रारींचा निपटारा करण्याचे उद्दिष्ट दिल्यास ती कामांच्या संख्येला अधिक महत्त्व देऊ शकते आणि प्रत्येक प्रकरणाची गुणवत्ता किंवा योग्य तपासणी दुर्लक्षित करू शकते. त्याचप्रमाणे, काम लवकर पूर्ण करण्याच्या प्रयत्नात आवश्यक पडताळणी टाळली जाऊ शकते.
याला उद्दिष्ट आणि मानवी अपेक्षा यांच्यातील विसंगती असे म्हणता येईल. एखादी प्रणाली तांत्रिकदृष्ट्या दिलेले उद्दिष्ट साध्य करत असली, तरी तिची कृती सामाजिक हित, नैतिक मूल्ये किंवा कायदेशीर मर्यादांशी विसंगत असू शकते.
म्हणूनच, एआयला केवळ काय साध्य करायचे हे सांगणे पुरेसे नाही; ते साध्य करण्यासाठी कोणत्या मर्यादांचे पालन करणे आवश्यक आहे, हेही स्पष्ट करावे लागेल.
‘हॅलुसिनेशन’चा धोका : चुकीची माहिती, पण विश्वासार्ह सादरीकरण!
कृत्रिम बुद्धिमत्तेशी संबंधित आणखी एक गंभीर समस्या म्हणजे ‘एआय हॅलुसिनेशन’. या प्रक्रियेत एआय प्रणाली चुकीची, काल्पनिक किंवा अपुष्ट माहिती आत्मविश्वासाने मांडू शकते. भाषेतील सहजता आणि उत्तरातील ठामपणा यामुळे वाचकाला ती माहिती खरी असल्याचा भास होऊ शकतो.
पत्रकारिता, न्यायव्यवस्था, आरोग्यसेवा आणि सरकारी प्रशासन यांसारख्या संवेदनशील क्षेत्रांत अशा त्रुटींचे परिणाम गंभीर असू शकतात. विशेषतः स्वायत्त एआयच्या बाबतीत धोका अधिक वाढतो, कारण प्रणाली चुकीची माहिती देण्यावरच थांबत नाही, तर त्या माहितीच्या आधारे पुढील कृतीही करू शकते.
उदाहरणार्थ, एखाद्या व्यक्तीविषयी अपुष्ट माहिती खरी समजून अधिकृत तक्रार पाठवणे किंवा चुकीच्या तथ्यांवर आधारित अहवाल सादर करणे यामुळे संबंधित व्यक्तीची प्रतिष्ठा धोक्यात येऊ शकते. प्रशासकीय संसाधनांचा अपव्यय होऊ शकतो आणि संस्थांवरील जनतेचा विश्वासही कमी होऊ शकतो.
यावर उपाय म्हणून महत्त्वाच्या तथ्यांची स्वतंत्र पडताळणी, विश्वसनीय स्रोतांचा वापर आणि अनिश्चिततेची स्पष्ट नोंद आवश्यक आहे. जिथे चुकीच्या माहितीची किंमत मोठी असते, तिथे मानवी तपासणीला पर्याय असू शकत नाही.
डिजिटल स्वातंत्र्य की सायबर सुरक्षेसाठी नवे संकट?
स्वायत्त एआय एजंट्सना ई-मेल, फाइल्स, सॉफ्टवेअर आणि ऑनलाइन सेवांचा वापर करण्याची परवानगी दिली जाते. मात्र, त्यांच्या अधिकारांवर पुरेसे नियंत्रण नसेल, तर गोपनीय माहिती उघड होणे किंवा अनधिकृत डिजिटल कृती घडण्याचा धोका वाढतो.
‘प्रॉम्प्ट इंजेक्शन’सारख्या तंत्रांचा वापर करून एआय प्रणालीला तिच्या मूळ सूचनांपासून विचलित करण्याचा प्रयत्न केला जाऊ शकतो. एखाद्या दस्तऐवजात, ई-मेलमध्ये किंवा संकेतस्थळावर लपवलेल्या दुर्भावनापूर्ण सूचनांमुळे प्रणाली चुकीच्या दिशेने कृती करू शकते.
यासोबतच वैयक्तिक माहितीचे अनावश्यक संकलन, विश्लेषण किंवा प्रसारण हा गोपनीयतेच्या अधिकाराशी संबंधित गंभीर प्रश्न आहे.
प्रत्येक एआय एजंटला त्याच्या कामासाठी आवश्यक तेवढाच प्रवेश दिला पाहिजे. डेटा एन्क्रिप्शन, मर्यादित परवानग्या, कृतींची नोंद, नियमित सुरक्षा चाचण्या आणि नियंत्रित चाचणी वातावरण यांचा वापर करणे आवश्यक आहे. तंत्रज्ञान अधिक सक्षम होत असताना त्याची सुरक्षा व्यवस्थाही तितकीच सक्षम असणे गरजेचे आहे.
यंत्राने निर्णय घेतला, तर जबाबदार कोण?
स्वायत्त एआयच्या वाढत्या वापरामुळे पारदर्शकता आणि उत्तरदायित्वाचा प्रश्न अधिक गुंतागुंतीचा बनत आहे. काही जटिल एआय मॉडेल्सनी विशिष्ट निष्कर्ष कसा काढला, त्यामागील मर्यादा काय होत्या आणि चुकीची शक्यता किती होती, हे समजून घेणे सोपे नसते.
समजा, एखाद्या एआय प्रणालीने एखाद्या व्यक्तीची पात्रता नाकारली, संशयास्पद व्यवहाराचा अहवाल दिला किंवा आर्थिक व्यवहाराची प्रक्रिया सुरू केली. अशा वेळी प्रभावित व्यक्तीला निर्णयामागील कारण समजण्याचा आणि त्याला आव्हान देण्याचा अधिकार असला पाहिजे.
यातून महत्त्वाचा प्रश्न पुढे येतो—एआयच्या चुकीमुळे नुकसान झाले, तर जबाबदारी कोणाची असेल? प्रणाली विकसित करणाऱ्या कंपनीची, ती वापरणाऱ्या संस्थेची, परवानग्या देणाऱ्या अधिकाऱ्याची की अंतिम कृती मंजूर करणाऱ्या व्यक्तीची?
या प्रश्नाचे उत्तर स्पष्ट कायदे, संस्थात्मक नियम आणि प्रत्यक्ष परिस्थितीच्या आधारे ठरवावे लागेल. यंत्राने निर्णय घेतला म्हणून मानवी किंवा संस्थात्मक जबाबदारी संपत नाही.
एआयचा वापर करणाऱ्या संस्थांनी निर्णयांची नोंद ठेवणे, तक्रार निवारणाची व्यवस्था उपलब्ध करणे आणि प्रभावित व्यक्तींना पुनर्विचार किंवा अपील करण्याची संधी देणे आवश्यक आहे.
मानवी नियंत्रण : सुरक्षित एआयसाठी अनिवार्य अट
स्वायत्त एआयचा सुरक्षित वापर करण्यासाठी मानवी देखरेखीला केंद्रस्थानी ठेवणे गरजेचे आहे. कमी जोखमीची आणि नियमित कामे एआयकडे सोपवता येतील; मात्र कायदेशीर, आर्थिक, वैद्यकीय किंवा व्यक्तीच्या हक्कांवर परिणाम करणाऱ्या निर्णयांमध्ये मानवी तपासणी महत्त्वाची ठरते.
यासाठी ‘ह्यूमन-इन-द-लूप’ ही संकल्पना उपयुक्त आहे. या व्यवस्थेत एआय माहितीचे विश्लेषण करून शिफारस करू शकतो; परंतु महत्त्वाच्या कृतींपूर्वी मानवी मंजुरी आवश्यक असते.
उदाहरणार्थ, अधिकृत तक्रार दाखल करणे, निधी हस्तांतरित करणे किंवा संवेदनशील वैयक्तिक माहिती बाहेर पाठवणे यांसारख्या कृती स्पष्ट परवानगीशिवाय होऊ नयेत. प्रणालीला आवश्यकतेपेक्षा अधिक स्वातंत्र्य देण्याऐवजी प्रत्येक कृतीसाठी जोखमीच्या पातळीनुसार नियंत्रण निश्चित केले पाहिजे.
सुरक्षा चाचण्या आणि कठोर नियमांची गरज
एआय प्रणाली प्रत्यक्ष वापरात आणण्यापूर्वी तिच्या मर्यादा तपासणे अत्यावश्यक आहे. संभाव्य चुका, दुर्भावनापूर्ण सूचना आणि असामान्य परिस्थितींमध्ये तिचे वर्तन कसे असेल, याची चाचणी झाली पाहिजे.
‘रेड टीमिंग’, स्वतंत्र सुरक्षा लेखापरीक्षण आणि नियमित कार्यमूल्यांकन यांच्या मदतीने प्रणालीतील कमकुवत बाजू शोधता येतात. मोठे तांत्रिक बदल केल्यानंतर पुन्हा चाचण्या घेणेही आवश्यक आहे.
याशिवाय, एआय एजंट्सना नियंत्रित डिजिटल वातावरणात काम करण्याची सुविधा, मर्यादित अधिकार, प्रत्येक महत्त्वाच्या कृतीपूर्वी जोखीम तपासणी आणि गरज पडल्यास प्रणाली तातडीने बंद करण्याची व्यवस्था असली पाहिजे.
सरकारे आणि नियामक संस्थांनीही जोखमीच्या पातळीनुसार नियम निश्चित करणे गरजेचे आहे. उच्च जोखमीच्या एआय प्रणालींसाठी सुरक्षा मानके, स्वतंत्र मूल्यमापन, गंभीर घटनांची नोंद आणि जबाबदारीची स्पष्ट विभागणी असावी. नवकल्पनांना प्रोत्साहन देतानाच सुरक्षेशी तडजोड होणार नाही, याची दक्षता घ्यावी.
एआय प्रणालींचा वापर जगभरात होत असल्याने आंतरराष्ट्रीय सहकार्यालाही विशेष महत्त्व आहे. सायबर सुरक्षा, वैयक्तिक माहितीचे संरक्षण, जोखीम मूल्यमापन आणि गंभीर घटनांच्या अहवालासाठी समान किंवा सुसंगत मानके विकसित करणे आवश्यक आहे.
तंत्रज्ञानाचा वेग नव्हे, विश्वासार्हताच ठरवेल भविष्य
स्वायत्त कृत्रिम बुद्धिमत्ता ही मानवी क्षमतांचा विस्तार करणारी प्रभावी तंत्रज्ञान व्यवस्था आहे. तिच्या योग्य वापरामुळे उत्पादकता वाढू शकते, गुंतागुंतीच्या समस्यांचे विश्लेषण करता येऊ शकते आणि प्रशासनातील अनेक प्रक्रिया अधिक कार्यक्षम बनू शकतात.
मात्र, स्वायत्तता वाढली की संभाव्य चुकांचे परिणाम आणि त्यांना नियंत्रित करण्याची जबाबदारीही वाढते. त्यामुळे एआयच्या प्रगतीचे मूल्यमापन केवळ त्याचा वेग, कार्यक्षमता किंवा आर्थिक लाभ यांच्या आधारे करता कामा नये. त्याची सुरक्षितता, पारदर्शकता, निष्पक्षता आणि उत्तरदायित्व हेही तितकेच महत्त्वाचे निकष असले पाहिजेत.
यंत्रांना निर्णय घेण्याची क्षमता देणे ही तांत्रिक प्रगती आहे; पण त्या निर्णयांमुळे मानवी हक्क, सामाजिक विश्वास आणि सार्वजनिक हित धोक्यात येणार नाहीत, याची खात्री करणे ही मानवी जबाबदारी आहे.
शेवटी प्रश्न एवढाच आहे—आपण यंत्रांना किती बुद्धिमान बनवतो, यापेक्षा त्यांच्या बुद्धिमत्तेचा वापर किती सुरक्षित, विवेकी आणि जबाबदारीने करतो, यावरच कृत्रिम बुद्धिमत्तेचे खरे भविष्य अवलंबून असेल.
लेखक परिचय : डॉ. सत्यवान सौरभ हे राज्यशास्त्र विषयातील पीएच.डी. पदवीधारक, कवी आणि सामाजिक विचारवंत आहेत.