இயந்திர கற்றல் நெறிமுறைகள்: பாரபட்சம் கண்டறிதலுக்கான ஒரு உலகளாவிய வழிகாட்டி

இயந்திர கற்றல் (ML) நமது வாழ்க்கையின் பல்வேறு அம்சங்களில், கடன் விண்ணப்பங்கள் முதல் சுகாதார நோயறிதல்கள் வரை, பெருகிய முறையில் ஒருங்கிணைக்கப்படுவதால், இந்த தொழில்நுட்பங்களின் நெறிமுறை தாக்கங்கள் மிக முக்கியமானதாக மாறி வருகின்றன. மிகவும் அழுத்தமான கவலைகளில் ஒன்று ML மாதிரிகளில் பாரபட்சம் இருப்பது, இது நியாயமற்ற அல்லது பாகுபாடுள்ள விளைவுகளுக்கு வழிவகுக்கும். இந்த வழிகாட்டி இயந்திரக் கற்றலில் பாரபட்சம் கண்டறிதலின் விரிவான கண்ணோட்டத்தை வழங்குகிறது, பாரபட்சத்தின் பல்வேறு வகைகள், கண்டறிதல் முறைகள், தணிப்பு உத்திகள் மற்றும் உலகளாவிய அளவில் நியாயமான மற்றும் பொறுப்பான AI அமைப்புகளை உருவாக்குவதற்கான நெறிமுறை பரிசீலனைகளை உள்ளடக்கியது.

இயந்திர கற்றலில் பாரபட்சத்தைப் புரிந்துகொள்வது

இயந்திர கற்றலில் பாரபட்சம் என்பது தற்செயலாக இல்லாத மாதிரியின் கணிப்புகள் அல்லது முடிவுகளில் முறையான பிழைகள் அல்லது சிதைவுகளைக் குறிக்கிறது. இந்த பாரபட்சங்கள் பாரபட்சமான தரவு, குறைபாடுள்ள வழிமுறைகள் அல்லது சமூக தப்பெண்ணங்கள் உட்பட பல்வேறு மூலங்களிலிருந்து எழலாம். பயனுள்ள கண்டறிதல் மற்றும் தணிப்புக்கு பாரபட்சத்தின் பல்வேறு வகைகளைப் புரிந்துகொள்வது அவசியம்.

இயந்திர கற்றலில் பாரபட்சத்தின் வகைகள்

• வரலாற்று பாரபட்சம்: மாதிரிக்கு பயிற்சி அளிக்கப் பயன்படுத்தப்படும் தரவுகளில் ஏற்கனவே உள்ள சமூக ஏற்றத்தாழ்வுகளை பிரதிபலிக்கிறது. உதாரணமாக, வரலாற்று ஆட்சேர்ப்புத் தரவு ஆண் வேட்பாளர்களுக்கு விருப்பம் காட்டினால், இந்தத் தரவில் பயிற்சி பெற்ற ஒரு மாதிரி எதிர்கால ஆட்சேர்ப்பு முடிவுகளில் இந்த பாரபட்சத்தை நிலைநிறுத்தக்கூடும்.
• பிரதிநிதித்துவ பாரபட்சம்: பயிற்சித் தரவுகளில் சில குழுக்கள் குறைவாகவோ அல்லது தவறாகவோ குறிப்பிடப்படும்போது ஏற்படுகிறது. இது அந்தக் குழுக்களுக்கு தவறான கணிப்புகள் அல்லது நியாயமற்ற விளைவுகளுக்கு வழிவகுக்கும். உதாரணமாக, வெளிர் நிறமுடைய தனிநபர்களின் படங்களில் முதன்மையாக பயிற்சி பெற்ற முக அங்கீகார அமைப்பு, கரும் தோல் நிறம் கொண்ட தனிநபர்களிடம் மோசமாக செயல்படக்கூடும்.
• அளவீட்டு பாரபட்சம்: தரவுகளில் துல்லியமற்ற அல்லது நிலையற்ற அளவீடுகள் அல்லது அம்சங்களிலிருந்து எழுகிறது. உதாரணமாக, ஒரு மருத்துவ நோயறிதல் மாதிரி பாரபட்சமான நோயறிதல் சோதனைகளை நம்பியிருந்தால், அது சில நோயாளிக் குழுக்களுக்கு தவறான நோயறிதல்களுக்கு வழிவகுக்கும்.
• திரட்டல் பாரபட்சம்: ஒரு மாதிரி மிகவும் மாறுபட்ட குழுக்களுக்குப் பயன்படுத்தப்படும்போது ஏற்படுகிறது, இது குறிப்பிட்ட துணைக்குழுக்களுக்கு தவறான கணிப்புகளுக்கு வழிவகுக்கிறது. ஒரு குறிப்பிட்ட பகுதியில் உள்ள அனைத்து வாடிக்கையாளர்களையும் ஒரே மாதிரியாக நடத்தும் வாடிக்கையாளர் நடத்தையை கணிக்கும் ஒரு மாதிரியைக் கவனியுங்கள், அந்தப் பகுதிக்குள் இருக்கும் வேறுபாடுகளை புறக்கணிக்கிறது.
• மதிப்பீட்டு பாரபட்சம்: மாதிரியின் மதிப்பீட்டின்போது ஏற்படுகிறது. அனைத்து குழுக்களுக்கும் பொருத்தமானதல்லாத அளவீடுகளைப் பயன்படுத்துவது பாரபட்சமான மதிப்பீட்டு முடிவுகளுக்கு வழிவகுக்கும். உதாரணமாக, ஒட்டுமொத்தமாக அதிக துல்லியத்தன்மை கொண்ட ஒரு மாதிரி சிறுபான்மை குழுவிற்கு மோசமாக செயல்படக்கூடும்.
• அல்காரிதமிக் பாரபட்சம்: அல்காரிதமின் வடிவமைப்பு அல்லது செயல்படுத்தலில் இருந்து எழுகிறது. இதில் பாரபட்சமான குறிக்கோள் செயல்பாடுகள், பாரபட்சமான ஒழுங்குமுறை நுட்பங்கள் அல்லது பாரபட்சமான அம்சம் தேர்வு முறைகள் ஆகியவை அடங்கும்.

பாரபட்சத்தின் தாக்கம்

இயந்திர கற்றலில் பாரபட்சத்தின் தாக்கம் தனிநபர்கள், சமூகங்கள் மற்றும் ஒட்டுமொத்த சமூகத்தையும் பாதிக்கும் அளவுக்கு தொலைநோக்குடனும் தீங்கு விளைவிக்கும் விதமாகவும் இருக்கலாம். பாரபட்சமான மாதிரிகள் பாகுபாட்டை நிலைநிறுத்தலாம், தவறான எண்ணங்களை வலுப்படுத்தலாம் மற்றும் ஏற்கனவே உள்ள ஏற்றத்தாழ்வுகளை அதிகரிக்கலாம். உதாரணமாக:

• குற்றவியல் நீதி: குற்றவியல் நீதித்துறையில் பயன்படுத்தப்படும் பாரபட்சமான இடர் மதிப்பீட்டு கருவிகள் சில இனக் குழுக்களுக்கு நியாயமற்ற தண்டனை மற்றும் விகிதாச்சார சிறைவாச விகிதங்களுக்கு வழிவகுக்கும்.
• நிதி சேவைகள்: பாரபட்சமான கடன் விண்ணப்ப மாதிரிகள் ஓரங்கட்டப்பட்ட சமூகங்களைச் சேர்ந்த தகுதிவாய்ந்த நபர்களுக்கு கடன் மறுக்கலாம், அவர்களின் வாய்ப்புகளை அணுகுவதைக் கட்டுப்படுத்தலாம் மற்றும் பொருளாதார ஏற்றத்தாழ்வுகளை நிலைநிறுத்தலாம்.
• சுகாதாரம்: பாரபட்சமான நோயறிதல் மாதிரிகள் சில நோயாளிக் குழுக்களுக்கு தவறான நோயறிதல் அல்லது தாமதமான சிகிச்சைக்கு வழிவகுக்கும், இதன் விளைவாக பாதகமான சுகாதார விளைவுகள் ஏற்படும்.
• வேலைவாய்ப்பு: பாரபட்சமான ஆட்சேர்ப்பு வழிமுறைகள் குறைவான பிரதிநிதித்துவ குழுக்களைச் சேர்ந்த தகுதிவாய்ந்த வேட்பாளர்களுக்கு எதிராக பாகுபாடு காட்டலாம், அவர்களின் தொழில் வாய்ப்புகளைக் கட்டுப்படுத்தலாம் மற்றும் பணியிட ஏற்றத்தாழ்வுகளை நிலைநிறுத்தலாம்.

பாரபட்சம் கண்டறிதல் முறைகள்

இயந்திர கற்றல் மாதிரிகளில் பாரபட்சத்தைக் கண்டறிவது நியாயமான மற்றும் பொறுப்பான AI அமைப்புகளை உருவாக்குவதற்கான முக்கியமான படியாகும். மாதிரி மேம்பாட்டு செயல்முறையின் வெவ்வேறு நிலைகளில் பாரபட்சத்தை அடையாளம் காண பல்வேறு முறைகளைப் பயன்படுத்தலாம். இந்த முறைகளை பரவலாக முன் செயலாக்கம், உள் செயலாக்கம் மற்றும் பிந்தைய செயலாக்க நுட்பங்களாக வகைப்படுத்தலாம்.

முன் செயலாக்க நுட்பங்கள்

முன் செயலாக்க நுட்பங்கள் மாதிரிக்கு பயிற்சி அளிப்பதற்கு முன் பயிற்சித் தரவுகளில் பாரபட்சத்தை அடையாளம் கண்டு தணிப்பதில் கவனம் செலுத்துகின்றன. இந்த நுட்பங்கள் விளைந்த மாதிரியில் பாரபட்சம் ஏற்படும் அபாயத்தைக் குறைக்கும் மேலும் பிரதிநிதித்துவ மற்றும் சமநிலையான தரவுத்தொகுப்பை உருவாக்க முயல்கின்றன.

• தரவு தணிக்கை: குறைவான பிரதிநிதித்துவம், சிதைந்த விநியோகங்கள் அல்லது பாரபட்சமான லேபிள்கள் போன்ற பாரபட்சத்தின் சாத்தியமான ஆதாரங்களை அடையாளம் காண பயிற்சித் தரவை முழுமையாக ஆய்வு செய்வதை உள்ளடக்குகிறது. சிகாகோ பல்கலைக்கழகத்தில் உள்ள தரவு அறிவியல் மற்றும் பொது கொள்கைக்கான மையத்தால் உருவாக்கப்பட்ட Aequitas போன்ற கருவிகள் வெவ்வேறு குழுக்களிடையே தரவுகளில் உள்ள வேறுபாடுகளை அடையாளம் காண்பதன் மூலம் இந்த செயல்முறையை தானியக்கமாக்க உதவும்.
• தரவு மறு மாதிரி: பயிற்சித் தரவுகளில் வெவ்வேறு குழுக்களின் பிரதிநிதித்துவத்தை சமப்படுத்த அதிக மாதிரி மற்றும் குறை மாதிரி போன்ற நுட்பங்களை உள்ளடக்கியது. அதிக மாதிரி என்பது குறைவான பிரதிநிதித்துவ குழுக்களுக்கு செயற்கை தரவை நகலெடுப்பது அல்லது உருவாக்குவதை உள்ளடக்கியது, அதே நேரத்தில் குறை மாதிரி என்பது அதிக பிரதிநிதித்துவ குழுக்களிடமிருந்து தரவை அகற்றுவதை உள்ளடக்கியது.
• மறு எடை: பயிற்சித் தரவுகளில் உள்ள ஏற்றத்தாழ்வுகளுக்கு ஈடுசெய்ய வெவ்வேறு தரவு புள்ளிகளுக்கு வெவ்வேறு எடைகளை ஒதுக்குகிறது. இது தரவுத்தொகுப்பில் அவற்றின் பிரதிநிதித்துவத்தைப் பொருட்படுத்தாமல், அனைத்து குழுக்களுக்கும் மாதிரி சமமான முக்கியத்துவத்தை அளிப்பதை உறுதி செய்கிறது.
• தரவு விரிவாக்கம்: இருக்கும் தரவுக்கு உருவங்களை சுழற்றுவது அல்லது உரையை மறுவார்த்தை செய்வது போன்ற மாற்றங்களைப் பயன்படுத்துவதன் மூலம் புதிய பயிற்சி உதாரணங்களை உருவாக்குகிறது. இது பயிற்சித் தரவின் பன்முகத்தன்மையை அதிகரிக்கவும், பாரபட்சமான மாதிரிகளின் தாக்கத்தைக் குறைக்கவும் உதவும்.
• எதிரெதிர் டீபயாசிங் (முன் செயலாக்கம்): தரவிலிருந்து முக்கியமான பண்புகளை (எ.கா., பாலினம், இனம்) கணிக்க ஒரு மாதிரிக்கு பயிற்சி அளிக்கிறது, பின்னர் முக்கியமான பண்புக்கூறுகளை அதிகம் கணிக்கக்கூடிய அம்சங்களை நீக்குகிறது. இது முக்கியமான பண்புக்கூறுடன் குறைவாக தொடர்புடைய தரவுத்தொகுப்பை உருவாக்க முயல்கிறது.

உள் செயலாக்க நுட்பங்கள்

உள் செயலாக்க நுட்பங்கள் மாதிரி பயிற்சி செயல்முறையின் போது பாரபட்சத்தை தணிக்க முயல்கின்றன. இந்த நுட்பங்கள் நியாயத்தை மேம்படுத்தவும், பாகுபாட்டைக் குறைக்கவும் மாதிரியின் கற்றல் வழிமுறை அல்லது குறிக்கோள் செயல்பாட்டை மாற்றியமைக்கின்றன.

• நியாயமான விழிப்புணர்வு ஒழுங்குமுறை: மாதிரியின் குறிக்கோள் செயல்பாட்டிற்கு ஒரு அபராத காலத்தைச் சேர்க்கிறது, இது நியாயமற்ற கணிப்புகளைத் தண்டிக்கிறது. இது வெவ்வேறு குழுக்களிடையே மிகவும் சமமான கணிப்புகளைச் செய்ய மாதிரியை ஊக்குவிக்கிறது.
• எதிரெதிர் டீபயாசிங் (உள் செயலாக்கம்): மாதிரியின் கணிப்புகளிலிருந்து முக்கியமான பண்புக்கூறுகளைக் கணிக்க முயற்சிக்கும் ஒரு எதிராளியை ஏமாற்ற முயற்சிக்கும் அதே நேரத்தில் துல்லியமான கணிப்புகளைச் செய்ய ஒரு மாதிரிக்கு பயிற்சி அளிக்கிறது. இது முக்கியமான பண்புக்கூறுடன் குறைவாக தொடர்புடைய பிரதிநிதித்துவங்களைக் கற்றுக்கொள்ள மாதிரியை ஊக்குவிக்கிறது.
• நியாயமான பிரதிநிதித்துவங்களைக் கற்றுக்கொள்வது: தரவின் கணிப்பு சக்தியைப் பாதுகாக்கும் அதே நேரத்தில் முக்கியமான பண்புக்கு சுயாதீனமான தரவின் பிரதிநிதித்துவத்தைக் கற்றுக்கொள்வதை நோக்கமாகக் கொண்டுள்ளது. முக்கியமான பண்புக்கூறுடன் தொடர்பில்லாத ஒரு மறைந்த இடத்தில் தரவை குறியாக்கம் செய்ய ஒரு மாதிரிக்கு பயிற்சி அளிப்பதன் மூலம் இதை அடைய முடியும்.
• கட்டுப்பாட்டு மேம்பாடு: மாதிரி பயிற்சி சிக்கலை ஒரு கட்டுப்படுத்தப்பட்ட மேம்பாட்டு சிக்கலாக உருவாக்குகிறது, அங்கு கட்டுப்பாடுகள் நியாயமான அளவுகோல்களை செயல்படுத்தும். இது சில நியாயமான கட்டுப்பாடுகளை பூர்த்தி செய்வதை உறுதி செய்யும் போது மாதிரிக்கு பயிற்சி அளிக்க அனுமதிக்கிறது.

பிந்தைய செயலாக்க நுட்பங்கள்

பிந்தைய செயலாக்க நுட்பங்கள் மாதிரி பயிற்சி பெற்ற பிறகு அதன் கணிப்புகளை சரிசெய்வதில் கவனம் செலுத்துகின்றன. பயிற்சி செயல்முறையின் போது அறிமுகப்படுத்தப்பட்ட பாரபட்சங்களுக்கு திருத்தம் செய்ய இந்த நுட்பங்கள் முயல்கின்றன.

• எல்லை சரிசெய்தல்: சமமான வாய்ப்புகள் அல்லது சமமான வாய்ப்புகளை அடைய வெவ்வேறு குழுக்களுக்கான முடிவு எல்லையை மாற்றியமைக்கிறது. உதாரணமாக, மாதிரியின் பாரபட்சத்திற்கு ஈடுசெய்ய வரலாற்று ரீதியாக பின்தங்கிய குழுவிற்கு அதிக வரம்பு பயன்படுத்தப்படலாம்.
• துல்லியமாக்கல்: வெவ்வேறு குழுக்களுக்கான உண்மையான நிகழ்தகவுகளை நன்றாக பிரதிபலிக்கும் வகையில் மாதிரியின் கணிக்கப்பட்ட நிகழ்தகவுகளை சரிசெய்கிறது. இது மாதிரியின் கணிப்புகள் அனைத்து குழுக்களிலும் நன்கு அளவீடு செய்யப்படுவதை உறுதி செய்கிறது.
• நிராகரிப்பு விருப்ப அடிப்படையிலான வகைப்பாடு: துல்லியமற்றதாக அல்லது நியாயமற்றதாக இருக்கும் கணிப்புகளுக்கு நிராகரிப்பு விருப்பத்தை அறிமுகப்படுத்துகிறது. நிச்சயமற்ற சந்தர்ப்பங்களில் மாதிரியானது கணிப்பு செய்வதிலிருந்து விலகி இருக்க அனுமதிக்கிறது, இது பாரபட்சமான விளைவுகளின் அபாயத்தைக் குறைக்கிறது.
• சமமான வாய்ப்புகள் பிந்தைய செயலாக்கம்: வெவ்வேறு குழுக்களிடையே சமமான உண்மை நேர்மறை மற்றும் தவறான நேர்மறை விகிதங்களை அடைய மாதிரியின் கணிப்புகளை சரிசெய்கிறது. இது மாதிரி அனைத்து குழுக்களுக்கும் சமமாக துல்லியமாகவும் நியாயமாகவும் இருப்பதை உறுதி செய்கிறது.

நியாயமான அளவீடுகள்

இயந்திர கற்றல் மாதிரிகளில் உள்ள பாரபட்சத்தின் அளவை அளவிடவும், பாரபட்சம் தணிப்பு நுட்பங்களின் செயல்திறனை மதிப்பிடவும் நியாயமான அளவீடுகள் பயன்படுத்தப்படுகின்றன. இந்த அளவீடுகள் வெவ்வேறு குழுக்களிடையே மாதிரியின் கணிப்புகளின் நியாயத்தை அளவிடுவதற்கான வழியை வழங்குகின்றன. குறிப்பிட்ட பயன்பாட்டிற்கும், தீர்க்கப்பட வேண்டிய குறிப்பிட்ட வகை பாரபட்சத்திற்கும் பொருத்தமான அளவீடுகளைத் தேர்ந்தெடுப்பது முக்கியம்.

பொதுவான நியாயமான அளவீடுகள்

• புள்ளிவிவர சமநிலை: நேர்மறையான விளைவுகளின் விகிதம் வெவ்வேறு குழுக்களிடையே ஒரே மாதிரியாக உள்ளதா என்பதை அளவிடுகிறது. நேர்மறையான விளைவின் நிகழ்தகவு அனைத்து குழுக்களுக்கும் ஒரே மாதிரியாக இருந்தால் ஒரு மாதிரி புள்ளிவிவர சமநிலையை பூர்த்தி செய்கிறது.
• சம வாய்ப்பு: உண்மை நேர்மறை விகிதம் வெவ்வேறு குழுக்களிடையே ஒரே மாதிரியாக உள்ளதா என்பதை அளவிடுகிறது. உண்மையான நேர்மறை விளைவின் நிகழ்தகவு அனைத்து குழுக்களுக்கும் ஒரே மாதிரியாக இருந்தால் ஒரு மாதிரி சமமான வாய்ப்பை பூர்த்தி செய்கிறது.
• சமப்படுத்தப்பட்ட வாய்ப்புகள்: உண்மை நேர்மறை விகிதம் மற்றும் தவறான நேர்மறை விகிதம் இரண்டும் வெவ்வேறு குழுக்களிடையே ஒரே மாதிரியாக உள்ளதா என்பதை அளவிடுகிறது. உண்மை நேர்மறை மற்றும் தவறான நேர்மறை விளைவின் நிகழ்தகவு இரண்டும் அனைத்து குழுக்களுக்கும் ஒரே மாதிரியாக இருந்தால் ஒரு மாதிரி சமப்படுத்தப்பட்ட வாய்ப்புகளை பூர்த்தி செய்கிறது.
• கணிப்பு சமநிலை: நேர்மறை கணிப்பு மதிப்பு (PPV) வெவ்வேறு குழுக்களிடையே ஒரே மாதிரியாக உள்ளதா என்பதை அளவிடுகிறது. PPV என்பது உண்மையில் நேர்மறையான கணிக்கப்பட்ட நேர்மறைகளின் விகிதம்.
• தவறான கண்டுபிடிப்பு விகித சமநிலை: தவறான கண்டுபிடிப்பு விகிதம் (FDR) வெவ்வேறு குழுக்களிடையே ஒரே மாதிரியாக உள்ளதா என்பதை அளவிடுகிறது. FDR என்பது உண்மையில் எதிர்மறையான கணிக்கப்பட்ட நேர்மறைகளின் விகிதம்.
• துல்லியமாக்கல்: மாதிரியின் கணிக்கப்பட்ட நிகழ்தகவுகள் வெவ்வேறு குழுக்களிடையே நன்கு அளவீடு செய்யப்பட்டுள்ளதா என்பதை அளவிடுகிறது. நன்கு அளவீடு செய்யப்பட்ட மாதிரியானது உண்மையான நிகழ்தகவுகளை துல்லியமாக பிரதிபலிக்கும் கணிக்கப்பட்ட நிகழ்தகவுகளைக் கொண்டிருக்க வேண்டும்.

சரியான நியாயமின்மை

இந்த அளவீடுகளால் வரையறுக்கப்பட்டுள்ளபடி, சரியான நியாயத்தை அடைவது பெரும்பாலும் சாத்தியமற்றது என்பதை கவனத்தில் கொள்ள வேண்டும். பல நியாயமான அளவீடுகள் ஒன்றுக்கொன்று பொருந்தாதவை, அதாவது ஒரு அளவீட்டிற்கு உகந்ததாக இருப்பது மற்றொன்றில் தரமிறக்கத்திற்கு வழிவகுக்கும். மேலும், எந்த நியாயமான அளவீட்டிற்கு முன்னுரிமை அளிப்பது என்பது குறிப்பிட்ட பயன்பாடு மற்றும் சம்பந்தப்பட்ட பங்குதாரர்களின் மதிப்புகளைப் பொறுத்தது. “நியாயம்” என்ற கருத்து சூழலைப் பொறுத்தது மற்றும் கலாச்சார ரீதியாக நுணுக்கமானது.

நெறிமுறை பரிசீலனைகள்

இயந்திர கற்றலில் பாரபட்சத்தை நிவர்த்தி செய்ய AI அமைப்புகளின் மேம்பாடு மற்றும் வரிசைப்படுத்தலுக்கு வழிகாட்டும் வலுவான நெறிமுறை கட்டமைப்பு தேவை. இந்த கட்டமைப்பு தனிநபர்கள், சமூகங்கள் மற்றும் ஒட்டுமொத்த சமூகத்தின் மீது இந்த அமைப்புகளின் சாத்தியமான தாக்கத்தை கருத்தில் கொள்ள வேண்டும். சில முக்கிய நெறிமுறை பரிசீலனைகள் பின்வருமாறு:

• வெளிப்படைத்தன்மை: AI அமைப்புகளின் முடிவெடுக்கும் செயல்முறைகள் வெளிப்படையானதாகவும், புரிந்துகொள்ளக்கூடியதாகவும் இருப்பதை உறுதி செய்தல். மாதிரி எவ்வாறு இயங்குகிறது, என்ன தரவைப் பயன்படுத்துகிறது மற்றும் அது எவ்வாறு அதன் கணிப்புகளுக்கு வருகிறது என்பது பற்றிய தெளிவான விளக்கங்களை வழங்குவது இதில் அடங்கும்.
• பொறுப்புக்கூறல்: AI அமைப்புகளால் எடுக்கப்படும் முடிவுகளுக்கு தெளிவான பொறுப்புக்கூறல் வரிகளை நிறுவுதல். இந்த அமைப்புகளின் வடிவமைப்பு, மேம்பாடு, வரிசைப்படுத்தல் மற்றும் கண்காணிப்புக்கு யார் பொறுப்பு என்பதை அடையாளம் காண்பது இதில் அடங்கும்.
• தனியுரிமை: AI அமைப்புகளுக்கு பயிற்சி அளிப்பதற்கும் இயக்குவதற்கும் பயன்படுத்தப்படும் தரவு தனிநபர்களின் தனியுரிமையைப் பாதுகாக்கிறது. வலுவான தரவு பாதுகாப்பு நடவடிக்கைகளை செயல்படுத்துவது மற்றும் அவர்களின் தரவைச் சேகரித்து பயன்படுத்துவதற்கு முன்பு தனிநபர்களிடமிருந்து தகவலறிந்த சம்மதம் பெறுவது இதில் அடங்கும்.
• நியாயம்: AI அமைப்புகள் நியாயமானவை மற்றும் தனிநபர்கள் அல்லது குழுக்களுக்கு எதிராக பாகுபாடு காட்டாது என்பதை உறுதி செய்தல். இந்த அமைப்புகளின் தரவு, வழிமுறைகள் மற்றும் விளைவுகளில் பாரபட்சத்தை தீவிரமாக அடையாளம் கண்டு தணிப்பது இதில் அடங்கும்.
• நன்மை: AI அமைப்புகள் மனிதகுலத்தின் நன்மைக்காகப் பயன்படுத்தப்படுவதையும், அவற்றின் சாத்தியமான தீங்கு விளைவிக்கும் குறைவதையும் உறுதி செய்தல். இந்த அமைப்புகளை வரிசைப்படுத்துவதன் சாத்தியமான விளைவுகளை கவனமாக கருத்தில் கொள்வது மற்றும் விரும்பத்தகாத எதிர்மறை விளைவுகளைத் தடுக்க நடவடிக்கை எடுப்பது இதில் அடங்கும்.
• நீதி: AI அமைப்புகளின் நன்மைகள் மற்றும் சுமைகள் சமூகத்தில் நியாயமாக விநியோகிக்கப்படுவதை உறுதி செய்தல். AI தொழில்நுட்பத்திற்கான அணுகலில் உள்ள ஏற்றத்தாழ்வுகளை நிவர்த்தி செய்வது மற்றும் ஏற்கனவே உள்ள சமூக மற்றும் பொருளாதார ஏற்றத்தாழ்வுகளை அதிகப்படுத்த AIயின் சாத்தியத்தை தணிப்பது இதில் அடங்கும்.

பாரபட்சம் கண்டறிதல் மற்றும் தணிப்பதற்கான நடைமுறை படிகள்

இயந்திர கற்றல் அமைப்புகளில் பாரபட்சத்தை கண்டறிந்து தணிக்க நிறுவனங்கள் எடுக்கக்கூடிய சில நடைமுறை படிகள் இங்கே:

1. பல்துறை AI நெறிமுறைகள் குழுவை நிறுவுதல்: இந்த குழுவில் தரவு அறிவியல், நெறிமுறைகள், சட்டம் மற்றும் சமூக அறிவியல் ஆகியவற்றில் நிபுணர்கள் இருக்க வேண்டும், AI அமைப்புகளின் நெறிமுறை தாக்கங்கள் குறித்த பல்வேறு முன்னோக்குகளை வழங்க வேண்டும்.
2. ஒரு விரிவான AI நெறிமுறைகள் கொள்கையை உருவாக்குதல்: இந்த கொள்கையானது நெறிமுறை AI கொள்கைகளுக்கான நிறுவனத்தின் அர்ப்பணிப்பை கோடிட்டுக் காட்ட வேண்டும் மற்றும் AI வாழ்க்கைச் சுழற்சி முழுவதும் நெறிமுறை பரிசீலனைகளை எவ்வாறு நிவர்த்தி செய்வது என்பது குறித்த வழிகாட்டுதலை வழங்க வேண்டும்.
3. வழக்கமான பாரபட்ச தணிக்கைகளை நடத்துதல்: இந்த தணிக்கைகள் AI அமைப்புகளின் தரவு, வழிமுறைகள் மற்றும் விளைவுகளை முழுமையாக ஆய்வு செய்து பாரபட்சத்தின் சாத்தியமான ஆதாரங்களை அடையாளம் காண வேண்டும்.
4. மாடல் செயல்திறனை மதிப்பிட நியாயமான அளவீடுகளைப் பயன்படுத்தவும்: குறிப்பிட்ட பயன்பாட்டிற்கு பொருத்தமான நியாயமான அளவீடுகளைத் தேர்ந்தெடுத்து, வெவ்வேறு குழுக்களிடையே மாதிரியின் கணிப்புகளின் நியாயத்தை மதிப்பிட அவற்றைப் பயன்படுத்தவும்.
5. பாரபட்சம் தணிப்பு நுட்பங்களை செயல்படுத்தவும்: AI அமைப்புகளின் தரவு, வழிமுறைகள் அல்லது விளைவுகளில் பாரபட்சத்தை தணிக்க முன் செயலாக்கம், உள் செயலாக்கம் அல்லது பிந்தைய செயலாக்க நுட்பங்களைப் பயன்படுத்தவும்.
6. AI அமைப்புகளை பாரபட்சத்திற்காக கண்காணிக்கவும்: அவை நியாயமானதாகவும், சமத்துவமாகவும் இருப்பதை உறுதிப்படுத்த, வரிசைப்படுத்தப்பட்ட பிறகு AI அமைப்புகளை தொடர்ந்து பாரபட்சத்திற்காக கண்காணிக்கவும்.
7. பங்குதாரர்களுடன் ஈடுபடுங்கள்: பாதிக்கப்பட்ட சமூகங்கள் உட்பட பங்குதாரர்களுடன் கலந்தாலோசித்து, AI அமைப்புகளின் நெறிமுறை தாக்கங்கள் குறித்த அவர்களின் கவலைகளையும் முன்னோக்குகளையும் புரிந்து கொள்ளுங்கள்.
8. வெளிப்படைத்தன்மை மற்றும் விளக்கத்தை ஊக்குவிக்கவும்: AI அமைப்புகள் எவ்வாறு செயல்படுகின்றன மற்றும் அவை எவ்வாறு முடிவுகளை எடுக்கின்றன என்பது பற்றிய தெளிவான விளக்கங்களை வழங்கவும்.
9. AI நெறிமுறைகள் பயிற்சியில் முதலீடு செய்யுங்கள்: தரவு விஞ்ஞானிகள், பொறியாளர்கள் மற்றும் பிற ஊழியர்களுக்கு AIயின் நெறிமுறை தாக்கங்கள் மற்றும் இயந்திர கற்றலில் பாரபட்சத்தை எவ்வாறு நிவர்த்தி செய்வது என்பது குறித்து பயிற்சி அளிக்கவும்.

உலகளாவிய கண்ணோட்டங்கள் மற்றும் எடுத்துக்காட்டுகள்

பாரபட்சம் வெவ்வேறு கலாச்சாரங்கள் மற்றும் பிராந்தியங்களில் வித்தியாசமாக வெளிப்படுகிறது என்பதை ஒப்புக்கொள்வது மிகவும் முக்கியமானது. ஒரு சூழலில் வேலை செய்யும் ஒரு தீர்வு மற்றொரு சூழலில் பொருத்தமானதாகவோ அல்லது பயனுள்ளதாகவோ இருக்காது. எனவே, இயந்திர கற்றலில் பாரபட்சத்தை நிவர்த்தி செய்யும் போது ஒரு உலகளாவிய கண்ணோட்டத்தை ஏற்றுக்கொள்வது அவசியம்.

• மொழி பாரபட்சம்: மொழிகள் பாலினம் அல்லது பிற சமூக வகைகளை குறியாக்கம் செய்யும் விதத்தின் காரணமாக இயந்திர மொழிபெயர்ப்பு அமைப்புகள் பாரபட்சத்தை வெளிப்படுத்தலாம். உதாரணமாக, சில மொழிகளில், இலக்கண பாலினம் பாலின தவறான எண்ணங்களை வலுப்படுத்தும் பாரபட்சமான மொழிபெயர்ப்புகளுக்கு வழிவகுக்கும். இதைத் தீர்க்க பயிற்சித் தரவு மற்றும் மொழிபெயர்ப்பு வழிமுறைகளின் வடிவமைப்பில் கவனமாக கவனம் செலுத்த வேண்டும்.
• கலாச்சார விதிமுறைகள்: ஒரு கலாச்சாரத்தில் நியாயமானதாக அல்லது ஏற்றுக்கொள்ளத்தக்கதாகக் கருதப்படுவது மற்றொன்றில் வித்தியாசமாக இருக்கலாம். உதாரணமாக, தனியுரிமை எதிர்பார்ப்புகள் வெவ்வேறு நாடுகளில் கணிசமாக மாறுபடும். AI அமைப்புகளை வடிவமைத்து வரிசைப்படுத்தும் போது இந்த கலாச்சார நுணுக்கங்களை கருத்தில் கொள்வது முக்கியம்.
• தரவு கிடைக்கும் தன்மை: தரவின் கிடைக்கும் தன்மை மற்றும் தரம் வெவ்வேறு பிராந்தியங்களில் கணிசமாக மாறுபடும். இது பிரதிநிதித்துவ பாரபட்சத்திற்கு வழிவகுக்கும், அங்கு சில குழுக்கள் அல்லது பிராந்தியங்கள் பயிற்சித் தரவுகளில் குறைவாக குறிப்பிடப்படுகின்றன. இதை நிவர்த்தி செய்ய அதிக வேறுபட்ட மற்றும் பிரதிநிதித்துவ தரவை சேகரிக்க முயற்சிகள் தேவை.
• ஒழுங்குமுறை கட்டமைப்புகள்: வெவ்வேறு நாடுகளுக்கு AIக்கான வெவ்வேறு ஒழுங்குமுறை கட்டமைப்புகள் உள்ளன. உதாரணமாக, ஐரோப்பிய ஒன்றியம் பொதுவான தரவு பாதுகாப்பு ஒழுங்குமுறையை (GDPR) செயல்படுத்தியுள்ளது, இது தனிப்பட்ட தரவை சேகரிப்பதற்கும் பயன்படுத்துவதற்கும் கடுமையான வரம்புகளை விதிக்கிறது. AI அமைப்புகளை உருவாக்கும் போதும் வரிசைப்படுத்தும் போதும் இந்த ஒழுங்குமுறை தேவைகளைப் பற்றி அறிந்திருப்பது முக்கியம்.

உதாரணம் 1: முக அங்கீகார தொழில்நுட்பம் மற்றும் இன பாரபட்சம் முக அங்கீகார தொழில்நுட்பம் பெரும்பாலும் கரும் தோல் நிறம் கொண்ட நபர்கள், குறிப்பாக பெண்கள் மீது மோசமாக செயல்படுகிறது என்று ஆராய்ச்சி காட்டுகிறது. இந்த பாரபட்சம் சட்ட அமலாக்கம் மற்றும் எல்லைக் கட்டுப்பாடு போன்ற துறைகளில் தவறான அடையாளம் மற்றும் நியாயமற்ற விளைவுகளுக்கு வழிவகுக்கும். இதை நிவர்த்தி செய்ய அதிகமான வேறுபட்ட தரவுத்தொகுப்புகளில் மாதிரிகளுக்கு பயிற்சி அளிப்பது மற்றும் தோல் நிறத்திற்கு குறைவான உணர்திறன் கொண்ட வழிமுறைகளை உருவாக்குவது தேவை. இது அமெரிக்க அல்லது ஐரோப்பிய ஒன்றிய பிரச்சனை மட்டுமல்ல; இது உலகளவில் பல்வேறு மக்களை பாதிக்கிறது.

உதாரணம் 2: கடன் விண்ணப்ப மாதிரிகள் மற்றும் பாலின பாரபட்சம் கடன் அணுகலில் ஏற்கனவே உள்ள பாலின ஏற்றத்தாழ்வுகளை பிரதிபலிக்கும் வரலாற்றுத் தரவில் கடன் விண்ணப்ப மாதிரிகள் பயிற்சி பெற்றிருந்தால் பாலின பாரபட்சத்தை வெளிப்படுத்தலாம். இந்த பாரபட்சம் தகுதிவாய்ந்த பெண்களுக்கு ஆண்களை விட அதிகமான விகிதத்தில் கடன்கள் மறுக்க வழிவகுக்கும். இதை நிவர்த்தி செய்ய மாதிரிகளுக்கு பயிற்சி அளிக்கப் பயன்படுத்தப்படும் தரவை கவனமாக ஆய்வு செய்வது மற்றும் நியாயமான விழிப்புணர்வு ஒழுங்குமுறை நுட்பங்களை செயல்படுத்துவது தேவை. நிதி அணுகல் ஏற்கனவே குறைவாக உள்ள வளரும் நாடுகளில் இந்த தாக்கம் பெண்களுக்கு விகிதாசாரமாக பாதிக்கிறது.

உதாரணம் 3: சுகாதாரம் AI மற்றும் பிராந்திய பாரபட்சம் மருத்துவ நோயறிதலுக்குப் பயன்படுத்தப்படும் AI அமைப்புகள் சில பிராந்தியங்களைச் சேர்ந்த நோயாளிகளுக்கு மோசமாகச் செயல்படலாம், அவை மற்ற பிராந்தியங்களிலிருந்து தரவுகளுடன் முதன்மையாக பயிற்சி பெற்றால். இது குறைவான பிரதிநிதித்துவ பிராந்தியங்களைச் சேர்ந்த நோயாளிகளுக்கு தவறான நோயறிதல் அல்லது தாமதமான சிகிச்சைக்கு வழிவகுக்கும். இதை நிவர்த்தி செய்ய அதிக வேறுபட்ட மருத்துவ தரவை சேகரிப்பது மற்றும் பிராந்திய வேறுபாடுகளுக்கு வலுவான மாதிரிகளை உருவாக்குவது தேவை.

பாரபட்சம் கண்டறிதல் மற்றும் தணிப்பின் எதிர்காலம்

பாரபட்சம் கண்டறிதல் மற்றும் தணிப்பு துறை வேகமாக மாறி வருகிறது. இயந்திர கற்றல் தொழில்நுட்பங்கள் தொடர்ந்து முன்னேறி வருவதால், AI அமைப்புகளில் பாரபட்சத்தின் சவால்களை நிவர்த்தி செய்ய புதிய முறைகள் மற்றும் கருவிகள் உருவாக்கப்படுகின்றன. ஆராய்ச்சியின் சில நம்பிக்கைக்குரிய பகுதிகள் பின்வருமாறு:

• விளக்கக்கூடிய AI (XAI): AI அமைப்புகள் எவ்வாறு முடிவுகளை எடுக்கின்றன என்பதை விளக்கக்கூடிய நுட்பங்களை உருவாக்குதல், சாத்தியமான பாரபட்சத்தின் ஆதாரங்களை அடையாளம் கண்டு புரிந்துகொள்வதை எளிதாக்குகிறது.
• காரண அனுமானம்: தரவு மற்றும் வழிமுறைகளில் பாரபட்சத்தின் மூல காரணங்களை அடையாளம் கண்டு தணிக்க காரண அனுமான முறைகளைப் பயன்படுத்துதல்.
• கூட்டாட்சி கற்றல்: தரவை பகிராமல் பரவலாக்கப்பட்ட தரவு மூலங்களில் மாதிரிகளுக்கு பயிற்சி அளித்தல், இது தரவு தனியுரிமை மற்றும் பிரதிநிதித்துவ பாரபட்ச சிக்கல்களை தீர்க்க உதவும்.
• AI நெறிமுறைகள் கல்வி: AIயின் நெறிமுறை தாக்கங்கள் குறித்த விழிப்புணர்வை அதிகரிக்கவும், நியாயமான மற்றும் பொறுப்பான AI அமைப்புகளை உருவாக்க தேவையான திறன்களை தரவு விஞ்ஞானிகள் மற்றும் பொறியாளர்களுக்கு வழங்கவும் AI நெறிமுறைகள் கல்வி மற்றும் பயிற்சியை ஊக்குவித்தல்.
• வழிமுறை தணிக்கை தரநிலைகள்: வழிமுறைகளை தணிக்க தரப்படுத்தப்பட்ட கட்டமைப்புகளின் மேம்பாடு, வெவ்வேறு அமைப்புகள் முழுவதும் பாரபட்சத்தை தொடர்ந்து அடையாளம் கண்டு தணிப்பதை எளிதாக்குகிறது.

முடிவுரை

மனிதகுலம் அனைவருக்கும் பயனளிக்கும் நியாயமான மற்றும் பொறுப்பான AI அமைப்புகளை உருவாக்குவதற்கு பாரபட்சம் கண்டறிதல் மற்றும் தணிப்பு அவசியம். பாரபட்சத்தின் வெவ்வேறு வகைகளைப் புரிந்துகொள்வதன் மூலமும், பயனுள்ள கண்டறிதல் முறைகளை செயல்படுத்துவதன் மூலமும், வலுவான நெறிமுறை கட்டமைப்பை ஏற்றுக்கொள்வதன் மூலமும், நிறுவனங்கள் தங்கள் AI அமைப்புகள் நன்மைக்காக பயன்படுத்தப்படுவதையும், அவற்றின் சாத்தியமான தீங்கு குறைவதையும் உறுதி செய்ய முடியும். இது ஒரு உலகளாவிய பொறுப்பாகும், இது AI அமைப்புகளை உருவாக்குவதற்கு பல்வேறு துறைகள், கலாச்சாரங்கள் மற்றும் பிராந்தியங்கள் முழுவதும் ஒத்துழைப்பு தேவைப்படுகிறது, அவை உண்மையிலேயே சமமான மற்றும் உள்ளடக்கியவை. AI உலகளாவிய சமூகத்தின் அனைத்து அம்சங்களிலும் ஊடுருவி வருவதால், பாரபட்சத்திற்கு எதிரான விழிப்புணர்வு ஒரு தொழில்நுட்பத் தேவை மட்டுமல்ல, ஒரு தார்மீக கட்டளை.