एआय नैतिकता: अल्गोरिदमिक बायस डिटेक्शनसाठी एक जागतिक मार्गदर्शक

कृत्रिम बुद्धिमत्ता (AI) उद्योगांमध्ये वेगाने बदल घडवत आहे आणि जगभरातील जीवनावर परिणाम करत आहे. एआय प्रणाली अधिक प्रचलित होत असताना, त्या निष्पक्ष, निःपक्षपाती आणि नैतिक तत्त्वांशी सुसंगत असल्याची खात्री करणे महत्त्वाचे आहे. अल्गोरिदमिक बायस, संगणक प्रणालीमधील एक पद्धतशीर आणि पुनरावृत्ती होणारी त्रुटी जी अन्यायकारक परिणाम निर्माण करते, ही एआय नैतिकतेमधील एक मोठी चिंता आहे. हे सर्वसमावेशक मार्गदर्शक अल्गोरिदमिक बायसचे स्रोत, ओळख आणि निवारणासाठीचे तंत्र आणि जागतिक स्तरावर एआय प्रणालींमध्ये निष्पक्षतेला प्रोत्साहन देण्यासाठीच्या धोरणांचे अन्वेषण करते.

अल्गोरिदमिक बायस समजून घेणे

अल्गोरिदमिक बायस तेव्हा होतो जेव्हा एआय प्रणाली काही विशिष्ट गटांसाठी इतरांपेक्षा पद्धतशीरपणे कमी अनुकूल परिणाम देते. हा बायस विविध स्रोतांमधून उद्भवू शकतो, ज्यात पक्षपाती डेटा, सदोष अल्गोरिदम आणि निकालांचे पक्षपाती अर्थ लावणे यांचा समावेश आहे. बायसचे मूळ समजून घेणे हे अधिक निष्पक्ष एआय प्रणाली तयार करण्याच्या दिशेने पहिले पाऊल आहे.

अल्गोरिदमिक बायसचे स्रोत

• पक्षपाती प्रशिक्षण डेटा: एआय मॉडेल्सना प्रशिक्षित करण्यासाठी वापरलेला डेटा अनेकदा विद्यमान सामाजिक पक्षपात दर्शवतो. जर डेटामध्ये विशिष्ट गटांचे विषम प्रतिनिधित्व असेल, तर एआय मॉडेल हे पक्षपात शिकेल आणि ते कायम ठेवेल. उदाहरणार्थ, जर चेहरा ओळखणारी प्रणाली प्रामुख्याने एका वंशाच्या लोकांच्या प्रतिमांवर प्रशिक्षित केली असेल, तर ती इतर वंशांच्या चेहऱ्यांवर खराब कामगिरी करू शकते. याचा कायदा अंमलबजावणी, सुरक्षा आणि इतर अनुप्रयोगांवर महत्त्वपूर्ण परिणाम होतो. कंपास (COMPAS - Correctional Offender Management Profiling for Alternative Sanctions) अल्गोरिदमचा विचार करा, जो कृष्णवर्णीय प्रतिवादींना पुनरागमनासाठी उच्च धोका म्हणून непропорशनलपणे ध्वजांकित करत असल्याचे आढळून आले.
• सदोष अल्गोरिदम डिझाइन: अल्गोरिदम स्वतःच निःपक्षपाती डेटासह देखील बायस निर्माण करू शकतात. वैशिष्ट्यांची निवड, मॉडेलची रचना आणि ऑप्टिमायझेशन निकष या सर्वांचा परिणामांवर प्रभाव पडू शकतो. उदाहरणार्थ, जर एखादे अल्गोरिदम संरक्षित वैशिष्ट्यांशी (उदा. लिंग, वंश) संबंधित असलेल्या वैशिष्ट्यांवर जास्त अवलंबून असेल, तर ते नकळतपणे काही विशिष्ट गटांविरुद्ध भेदभाव करू शकते.
• पक्षपाती डेटा लेबलिंग: डेटा लेबलिंगची प्रक्रिया देखील बायस निर्माण करू शकते. जर डेटा लेबल करणाऱ्या व्यक्तींमध्ये नकळत पूर्वग्रह असतील, तर ते या पूर्वग्रहांना प्रतिबिंबित करणाऱ्या पद्धतीने डेटा लेबल करू शकतात. उदाहरणार्थ, भावना विश्लेषणात, जर भाष्यकर्ते काही भाषिक नमुने विशिष्ट लोकसंख्येच्या गटांशी जोडत असतील, तर मॉडेल त्या गटांनी व्यक्त केलेल्या भावनांचे अन्यायकारकपणे वर्गीकरण करण्यास शिकू शकते.
• फीडबॅक लूप्स: एआय प्रणाली फीडबॅक लूप तयार करू शकतात जे विद्यमान पक्षपाताला आणखी वाढवतात. उदाहरणार्थ, जर एआय-चालित भरती साधन महिलांविरुद्ध पक्षपाती असेल, तर ते मुलाखतींसाठी कमी महिलांची शिफारस करू शकते. यामुळे कमी महिलांची नियुक्ती होऊ शकते, ज्यामुळे प्रशिक्षण डेटामधील पक्षपात आणखी दृढ होतो.
• विकास संघांमध्ये विविधतेचा अभाव: एआय विकास संघांची रचना एआय प्रणालींच्या निष्पक्षतेवर लक्षणीय प्रभाव टाकू शकते. जर संघांमध्ये विविधतेचा अभाव असेल, तर ते संभाव्य पक्षपात ओळखण्याची आणि त्यांचे निराकरण करण्याची शक्यता कमी असते जे अल्पसंख्याक गटांवर परिणाम करू शकतात.
• संदर्भीय बायस: ज्या संदर्भात एआय प्रणाली तैनात केली जाते, तो संदर्भ देखील बायस निर्माण करू शकतो. एका सांस्कृतिक किंवा सामाजिक संदर्भात प्रशिक्षित केलेले अल्गोरिदम दुसऱ्या संदर्भात तैनात केल्यावर निष्पक्षपणे कार्य करू शकत नाही. सांस्कृतिक नियम, भाषेतील बारकावे आणि ऐतिहासिक पक्षपात हे सर्व भूमिका बजावू शकतात. उदाहरणार्थ, एका देशात ग्राहक सेवा देण्यासाठी डिझाइन केलेला एआय-चालित चॅटबॉट अशी भाषा वापरू शकतो जी दुसऱ्या देशात आक्षेपार्ह किंवा अयोग्य मानली जाऊ शकते.

अल्गोरिदमिक बायस ओळखण्याचे तंत्र

एआय प्रणालींमध्ये निष्पक्षता सुनिश्चित करण्यासाठी अल्गोरिदमिक बायस ओळखणे महत्त्वाचे आहे. एआय विकास जीवनचक्राच्या विविध टप्प्यांवर बायस ओळखण्यासाठी विविध तंत्रांचा वापर केला जाऊ शकतो.

डेटा ऑडिटिंग

डेटा ऑडिटिंगमध्ये पक्षपाताचे संभाव्य स्रोत ओळखण्यासाठी प्रशिक्षण डेटाचे परीक्षण करणे समाविष्ट आहे. यामध्ये वैशिष्ट्यांचे वितरण विश्लेषण करणे, गहाळ डेटा ओळखणे आणि विशिष्ट गटांचे विषम प्रतिनिधित्व तपासणे समाविष्ट आहे. डेटा ऑडिटिंगसाठी तंत्रे खालीलप्रमाणे आहेत:

• सांख्यिकीय विश्लेषण: असमानता ओळखण्यासाठी विविध गटांसाठी सारांश आकडेवारी (उदा. सरासरी, मध्यक, मानक विचलन) मोजणे.
• व्हिज्युअलायझेशन: डेटाचे वितरण तपासण्यासाठी आणि आउटलायर्स ओळखण्यासाठी व्हिज्युअलायझेशन (उदा. हिस्टोग्राम, स्कॅटर प्लॉट्स) तयार करणे.
• बायस मेट्रिक्स: डेटा किती पक्षपाती आहे हे मोजण्यासाठी बायस मेट्रिक्स (उदा. विषम प्रभाव, समान संधी फरक) वापरणे.

उदाहरणार्थ, क्रेडिट स्कोअरिंग मॉडेलमध्ये, आपण संभाव्य असमानता ओळखण्यासाठी विविध लोकसंख्याशास्त्रीय गटांसाठी क्रेडिट स्कोअरच्या वितरणाचे विश्लेषण करू शकता. जर तुम्हाला आढळले की काही गटांचे सरासरी क्रेडिट स्कोअर लक्षणीयरीत्या कमी आहेत, तर हे डेटा पक्षपाती असल्याचे दर्शवू शकते.

मॉडेल मूल्यांकन

मॉडेल मूल्यांकनामध्ये वेगवेगळ्या लोकांच्या गटांवर एआय मॉडेलच्या कामगिरीचे मूल्यांकन करणे समाविष्ट आहे. यामध्ये प्रत्येक गटासाठी स्वतंत्रपणे कामगिरी मेट्रिक्स (उदा. अचूकता, प्रिसिजन, रिकॉल, F1-स्कोअर) मोजणे आणि निकालांची तुलना करणे समाविष्ट आहे. मॉडेल मूल्यांकनासाठी तंत्रे खालीलप्रमाणे आहेत:

• गट निष्पक्षता मेट्रिक्स: मॉडेल विविध गटांमध्ये किती निष्पक्ष आहे हे मोजण्यासाठी गट निष्पक्षता मेट्रिक्स (उदा. लोकसंख्याशास्त्रीय समानता, समान संधी, भविष्यसूचक समानता) वापरणे. लोकसंख्याशास्त्रीय समानतेसाठी मॉडेलने सर्व गटांसाठी समान दराने अंदाज लावणे आवश्यक आहे. समान संधीसाठी मॉडेलने सर्व गटांसाठी समान खरा सकारात्मक दर असणे आवश्यक आहे. भविष्यसूचक समानतेसाठी मॉडेलने सर्व गटांसाठी समान सकारात्मक भविष्यसूचक मूल्य असणे आवश्यक आहे.
• त्रुटी विश्लेषण: पक्षपाताचे नमुने ओळखण्यासाठी मॉडेल विविध गटांसाठी कोणत्या प्रकारच्या त्रुटी करते याचे विश्लेषण करणे. उदाहरणार्थ, जर मॉडेल सातत्याने विशिष्ट वंशाच्या प्रतिमांचे चुकीचे वर्गीकरण करत असेल, तर हे मॉडेल पक्षपाती असल्याचे दर्शवू शकते.
• ॲडव्हर्सरियल टेस्टिंग: मॉडेलची मजबुती तपासण्यासाठी आणि पक्षपाताच्या असुरक्षितता ओळखण्यासाठी ॲडव्हर्सरियल उदाहरणे वापरणे. ॲडव्हर्सरियल उदाहरणे ही अशी इनपुट्स आहेत जी मॉडेलला चुकीचे अंदाज लावण्यासाठी फसवण्यासाठी डिझाइन केलेली आहेत.

उदाहरणार्थ, भरती अल्गोरिदममध्ये, आपण पुरुष आणि महिला उमेदवारांसाठी स्वतंत्रपणे मॉडेलच्या कामगिरीचे मूल्यांकन करू शकता. जर तुम्हाला आढळले की मॉडेलची महिला उमेदवारांसाठी अचूकता दर लक्षणीयरीत्या कमी आहे, तर हे मॉडेल पक्षपाती असल्याचे दर्शवू शकते.

स्पष्टीकरणीय एआय (XAI)

स्पष्टीकरणीय एआय (XAI) तंत्रे मॉडेलच्या अंदाजांमध्ये सर्वात प्रभावी असलेल्या वैशिष्ट्ये ओळखण्यात मदत करू शकतात. मॉडेलचे निर्णय कोणत्या वैशिष्ट्यांमुळे घेतले जात आहेत हे समजून घेऊन, आपण पक्षपाताचे संभाव्य स्रोत ओळखू शकता. XAI साठी तंत्रे खालीलप्रमाणे आहेत:

• वैशिष्ट्य महत्त्व: मॉडेलच्या अंदाजांमध्ये प्रत्येक वैशिष्ट्याचे महत्त्व निश्चित करणे.
• SHAP व्हॅल्यूज: वैयक्तिक उदाहरणांसाठी मॉडेलच्या अंदाजांमध्ये प्रत्येक वैशिष्ट्याच्या योगदानाचे स्पष्टीकरण देण्यासाठी SHAP (SHapley Additive exPlanations) व्हॅल्यूज मोजणे.
• LIME: मॉडेलचे स्थानिक रेषीय अंदाजे तयार करून वैयक्तिक उदाहरणांसाठी मॉडेलच्या अंदाजांचे स्पष्टीकरण देण्यासाठी LIME (Local Interpretable Model-agnostic Explanations) वापरणे.

उदाहरणार्थ, कर्ज अर्ज मॉडेलमध्ये, आपण कर्ज मंजूर किंवा नाकारण्याच्या मॉडेलच्या निर्णयावर सर्वात जास्त प्रभाव टाकणारी वैशिष्ट्ये ओळखण्यासाठी XAI तंत्रांचा वापर करू शकता. जर तुम्हाला आढळले की वंश किंवा वांशिकतेशी संबंधित वैशिष्ट्ये अत्यंत प्रभावी आहेत, तर हे मॉडेल पक्षपाती असल्याचे दर्शवू शकते.

निष्पक्षता ऑडिटिंग साधने

अल्गोरिदमिक बायस ओळखण्यात आणि कमी करण्यात मदत करण्यासाठी अनेक साधने आणि लायब्ररी उपलब्ध आहेत. ही साधने अनेकदा विविध बायस मेट्रिक्स आणि निवारण तंत्रांची अंमलबजावणी प्रदान करतात.

• AI Fairness 360 (AIF360): आयबीएमने विकसित केलेले एक ओपन-सोर्स टूलकिट जे एआय प्रणालींमध्ये बायस ओळखण्यासाठी आणि कमी करण्यासाठी मेट्रिक्स आणि अल्गोरिदमचा एक व्यापक संच प्रदान करते.
• Fairlearn: मायक्रोसॉफ्टने विकसित केलेले एक पायथन पॅकेज जे मशीन लर्निंग मॉडेल्समध्ये निष्पक्षतेचे मूल्यांकन आणि सुधारणा करण्यासाठी साधने प्रदान करते.
• Responsible AI Toolbox: संस्थांना जबाबदारीने एआय प्रणाली विकसित आणि तैनात करण्यात मदत करण्यासाठी मायक्रोसॉफ्टने विकसित केलेला साधने आणि संसाधनांचा एक व्यापक संच.

अल्गोरिदमिक बायस कमी करण्याच्या धोरणे

एकदा अल्गोरिदमिक बायस ओळखल्यानंतर, ते कमी करण्यासाठी पावले उचलणे महत्त्वाचे आहे. एआय प्रणालींमधील बायस कमी करण्यासाठी विविध तंत्रांचा वापर केला जाऊ शकतो.

डेटा प्रीप्रोसेसिंग

डेटा प्रीप्रोसेसिंगमध्ये बायस कमी करण्यासाठी प्रशिक्षण डेटामध्ये बदल करणे समाविष्ट आहे. डेटा प्रीप्रोसेसिंगसाठी तंत्रे खालीलप्रमाणे आहेत:

• री-वेटिंग: विषम प्रतिनिधित्वाची भरपाई करण्यासाठी प्रशिक्षण डेटामधील वेगवेगळ्या उदाहरणांना वेगवेगळे वजन देणे.
• सॅम्पलिंग: डेटा संतुलित करण्यासाठी बहुसंख्य वर्गाचे अंडर-सॅम्पलिंग किंवा अल्पसंख्य वर्गाचे ओव्हर-सॅम्पलिंग करणे.
• डेटा ऑगमेंटेशन: अल्पप्रतिनिधित्व असलेल्या गटांचे प्रतिनिधित्व वाढविण्यासाठी नवीन कृत्रिम डेटा पॉइंट्स तयार करणे.
• पक्षपाती वैशिष्ट्ये काढून टाकणे: संरक्षित वैशिष्ट्यांशी संबंधित असलेली वैशिष्ट्ये काढून टाकणे. तथापि, सावधगिरी बाळगा कारण वरवर निरुपद्रवी वाटणारी वैशिष्ट्ये अप्रत्यक्षपणे संरक्षित गुणधर्मांशी (प्रॉक्सी व्हेरिएबल्स) संबंधित असू शकतात.

उदाहरणार्थ, जर प्रशिक्षण डेटामध्ये पुरुषांपेक्षा महिलांची उदाहरणे कमी असतील, तर आपण महिलांच्या उदाहरणांना अधिक वजन देण्यासाठी री-वेटिंगचा वापर करू शकता. किंवा, आपण महिलांची नवीन कृत्रिम उदाहरणे तयार करण्यासाठी डेटा ऑगमेंटेशनचा वापर करू शकता.

अल्गोरिदम बदल

अल्गोरिदम बदलामध्ये बायस कमी करण्यासाठी अल्गोरिदममध्येच बदल करणे समाविष्ट आहे. अल्गोरिदम बदलासाठी तंत्रे खालीलप्रमाणे आहेत:

• निष्पक्षता निर्बंध: मॉडेल काही निष्पक्षता निकष पूर्ण करते याची खात्री करण्यासाठी ऑप्टिमायझेशन उद्दिष्टात निष्पक्षता निर्बंध जोडणे.
• ॲडव्हर्सरियल डिबायसिंग: मॉडेलच्या प्रतिनिधित्वातून पक्षपाती माहिती काढून टाकण्यासाठी ॲडव्हर्सरियल नेटवर्कला प्रशिक्षण देणे.
• नियमितीकरण (Regularization): अन्यायकारक अंदाजांना दंड करण्यासाठी लॉस फंक्शनमध्ये नियमितीकरण संज्ञा जोडणे.

उदाहरणार्थ, आपण ऑप्टिमायझेशन उद्दिष्टात एक निष्पक्षता निर्बंध जोडू शकता ज्यासाठी मॉडेलने सर्व गटांसाठी समान अचूकता दर असणे आवश्यक आहे.

पोस्ट-प्रोसेसिंग

पोस्ट-प्रोसेसिंगमध्ये बायस कमी करण्यासाठी मॉडेलच्या अंदाजांमध्ये बदल करणे समाविष्ट आहे. पोस्ट-प्रोसेसिंगसाठी तंत्रे खालीलप्रमाणे आहेत:

• थ्रेशोल्ड समायोजन: इच्छित निष्पक्षता मेट्रिक प्राप्त करण्यासाठी वर्गीकरण थ्रेशोल्ड समायोजित करणे.
• कॅलिब्रेशन: मॉडेलच्या संभाव्यता निरीक्षित परिणामांशी सुसंगत असल्याची खात्री करण्यासाठी त्या कॅलिब्रेट करणे.
• रिजेक्ट ऑप्शन क्लासिफिकेशन: सीमारेषेवरील प्रकरणांसाठी "रिजेक्ट ऑप्शन" जोडणे जिथे मॉडेल त्याच्या अंदाजाबद्दल अनिश्चित आहे.

उदाहरणार्थ, आपण मॉडेलमध्ये सर्व गटांसाठी समान चुकीचा सकारात्मक दर असल्याची खात्री करण्यासाठी वर्गीकरण थ्रेशोल्ड समायोजित करू शकता.

एआय प्रणालींमध्ये निष्पक्षतेला प्रोत्साहन देणे: एक जागतिक दृष्टीकोन

निष्पक्ष एआय प्रणाली तयार करण्यासाठी एक बहुआयामी दृष्टिकोन आवश्यक आहे ज्यात केवळ तांत्रिक उपायच नव्हे तर नैतिक विचार, धोरण आराखडे आणि संघटनात्मक पद्धतींचाही समावेश असतो.

नैतिक मार्गदर्शक तत्त्वे आणि सिद्धांत

विविध संस्था आणि सरकारांनी एआय विकास आणि तैनातीसाठी नैतिक मार्गदर्शक तत्त्वे आणि सिद्धांत विकसित केले आहेत. ही मार्गदर्शक तत्त्वे अनेकदा निष्पक्षता, पारदर्शकता, उत्तरदायित्व आणि मानवी निरीक्षणाच्या महत्त्वावर भर देतात.

• असिलोमार एआय सिद्धांत: एआयच्या जबाबदार विकास आणि वापराला मार्गदर्शन करण्यासाठी संशोधक आणि तज्ञांनी विकसित केलेल्या सिद्धांतांचा संच.
• युरोपियन युनियनची विश्वासार्ह एआयसाठी नैतिक मार्गदर्शक तत्त्वे: विश्वासार्ह एआयच्या विकासाला आणि वापराला प्रोत्साहन देण्यासाठी युरोपियन कमिशनने विकसित केलेल्या मार्गदर्शक तत्त्वांचा संच.
• युनेस्कोची कृत्रिम बुद्धिमत्तेच्या नैतिकतेवरील शिफारस: एआयच्या जबाबदार विकासाला आणि वापराला मार्गदर्शन करण्यासाठी एक जागतिक आराखडा, जो संपूर्ण मानवतेला लाभ देईल याची खात्री करतो.

एआय गव्हर्नन्स आणि नियमन

एआय प्रणाली जबाबदारीने विकसित आणि तैनात केल्या जातील याची खात्री करण्यासाठी सरकार वाढत्या प्रमाणात नियमांचा विचार करत आहेत. या नियमांमध्ये बायस ऑडिट, पारदर्शकता अहवाल आणि उत्तरदायित्व यंत्रणेसाठी आवश्यकता समाविष्ट असू शकतात.

• EU AI कायदा: युरोपियन युनियनमध्ये एआयसाठी कायदेशीर चौकट स्थापित करण्याच्या उद्देशाने प्रस्तावित केलेला एक नियम, जो जोखीम मूल्यांकन, पारदर्शकता आणि उत्तरदायित्व यासारख्या समस्यांचे निराकरण करतो.
• अल्गोरिदमिक अकाउंटेबिलिटी ऍक्ट ऑफ 2022 (यूएस): स्वयंचलित निर्णय प्रणालींच्या संभाव्य हानींचे मूल्यांकन आणि कमी करण्यासाठी कंपन्यांना आवश्यक करण्याच्या उद्देशाने तयार केलेला कायदा.

संघटनात्मक पद्धती

संस्था एआय प्रणालींमध्ये निष्पक्षतेला प्रोत्साहन देण्यासाठी विविध पद्धती लागू करू शकतात:

• विविध विकास संघ: एआय विकास संघ लिंग, वंश, वांशिकता आणि इतर वैशिष्ट्यांच्या बाबतीत विविध असल्याची खात्री करणे.
• हितधारक सहभाग: हितधारकांशी (उदा. प्रभावित समुदाय, नागरी समाज संस्था) संवाद साधून त्यांच्या चिंता समजून घेणे आणि त्यांचा अभिप्राय एआय विकास प्रक्रियेत समाविष्ट करणे.
• पारदर्शकता आणि स्पष्टीकरणक्षमता: विश्वास आणि उत्तरदायित्व निर्माण करण्यासाठी एआय प्रणाली अधिक पारदर्शक आणि स्पष्टीकरणीय बनवणे.
• सतत देखरेख आणि मूल्यांकन: संभाव्य पक्षपात ओळखण्यासाठी आणि त्यांचे निराकरण करण्यासाठी एआय प्रणालींचे सतत निरीक्षण आणि मूल्यांकन करणे.
• एआय नैतिकता मंडळांची स्थापना: एआय विकास आणि तैनातीच्या नैतिक परिणामांवर देखरेख ठेवण्यासाठी अंतर्गत किंवा बाह्य समित्या स्थापन करणे.

जागतिक उदाहरणे आणि केस स्टडीज

निष्पक्ष एआय प्रणाली तयार करण्यासाठी अल्गोरिदमिक बायस आणि निवारण धोरणांची वास्तविक-जगातील उदाहरणे समजून घेणे महत्त्वाचे आहे. जगभरातील काही उदाहरणे येथे आहेत:

• अमेरिकेतील आरोग्यसेवा: अमेरिकेतील रुग्णालयांमध्ये कोणत्या रुग्णांना अतिरिक्त वैद्यकीय सेवेची गरज भासेल याचा अंदाज लावण्यासाठी वापरण्यात येणारा एक अल्गोरिदम कृष्णवर्णीय रुग्णांविरुद्ध पक्षपाती असल्याचे आढळून आले. अल्गोरिदमने आरोग्यसेवा खर्चाचा गरजेसाठी प्रॉक्सी म्हणून वापर केला, परंतु कृष्णवर्णीय रुग्णांना ऐतिहासिकदृष्ट्या आरोग्यसेवेचा कमी लाभ मिळतो, ज्यामुळे कमी खर्च होतो आणि त्यांच्या गरजांचा कमी अंदाज लावला जातो. (Obermeyer et al., 2019)
• अमेरिकेतील गुन्हेगारी न्याय: गुन्हेगारी प्रतिवादींसाठी पुनरागमनाच्या जोखमीचे मूल्यांकन करण्यासाठी वापरला जाणारा कंपास (COMPAS) अल्गोरिदम, कृष्णवर्णीय प्रतिवादींना उच्च धोका म्हणून непропорशनलपणे ध्वजांकित करत असल्याचे आढळून आले, जरी त्यांनी पुन्हा गुन्हा केला नाही तरीही. (Angwin et al., 2016)
• यूकेमध्ये भरती: ॲमेझॉनने आपले एआय भरती साधन रद्द केले कारण त्यांना आढळले की ही प्रणाली महिलांविरुद्ध पक्षपाती होती. ही प्रणाली ऐतिहासिक भरती डेटावर प्रशिक्षित केली गेली होती, ज्यात प्रामुख्याने पुरुष उमेदवार होते, ज्यामुळे एआयने "women's" हा शब्द असलेल्या रिझ्युमेला दंड ठोठावला.
• चीनमध्ये चेहरा ओळख: चीनमध्ये पाळत ठेवणे आणि सामाजिक नियंत्रणासाठी वापरल्या जाणाऱ्या चेहरा ओळख प्रणालींमध्ये, विशेषतः वांशिक अल्पसंख्याकांविरुद्ध, पक्षपाताच्या संभाव्यतेबद्दल चिंता व्यक्त केली गेली आहे.
• भारतात क्रेडिट स्कोअरिंग: भारतातील क्रेडिट स्कोअरिंग मॉडेल्समध्ये पर्यायी डेटा स्रोतांचा वापर केल्यास, जर हे डेटा स्रोत विद्यमान सामाजिक-आर्थिक असमानता प्रतिबिंबित करत असतील तर बायस निर्माण होण्याची शक्यता आहे.

एआय नैतिकता आणि बायस डिटेक्शनचे भविष्य

एआय विकसित होत असताना, एआय नैतिकता आणि बायस डिटेक्शनचे क्षेत्र आणखी महत्त्वाचे होईल. भविष्यातील संशोधन आणि विकास प्रयत्नांनी यावर लक्ष केंद्रित केले पाहिजे:

• अधिक मजबूत आणि अचूक बायस ओळखण्याचे तंत्र विकसित करणे.
• अधिक प्रभावी बायस निवारण धोरणे तयार करणे.
• एआय संशोधक, नीतिशास्त्रज्ञ, धोरणकर्ते आणि सामाजिक शास्त्रज्ञ यांच्यात आंतरशाखीय सहकार्याला प्रोत्साहन देणे.
• एआय नैतिकतेसाठी जागतिक मानके आणि सर्वोत्तम पद्धती स्थापित करणे.
• एआय व्यावसायिक आणि सामान्य जनतेमध्ये एआय नैतिकता आणि बायसबद्दल जागरूकता वाढवण्यासाठी शैक्षणिक संसाधने विकसित करणे.

निष्कर्ष

अल्गोरिदमिक बायस हे एआय नैतिकतेमधील एक मोठे आव्हान आहे, परंतु ते ناقابل विजय नाही. बायसचे स्रोत समजून घेऊन, प्रभावी ओळख आणि निवारण तंत्रांचा वापर करून आणि नैतिक मार्गदर्शक तत्त्वे आणि संघटनात्मक पद्धतींना प्रोत्साहन देऊन, आपण अधिक निष्पक्ष आणि न्याय्य एआय प्रणाली तयार करू शकतो ज्याचा फायदा सर्व मानवतेला होईल. यासाठी संशोधक, धोरणकर्ते, उद्योग नेते आणि जनता यांच्यात सहकार्याची आवश्यकता आहे, जेणेकरून एआय जबाबदारीने विकसित आणि तैनात होईल याची खात्री करता येईल.

संदर्भ:

• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.