Mašininio mokymosi etika: visuotinis šališkumo nustatymo vadovas

Kadangi mašininis mokymasis (MM) vis labiau integruojamas į įvairias mūsų gyvenimo sritis, nuo paskolų paraiškų iki sveikatos diagnostikos, šių technologijų etinės pasekmės tampa itin svarbios. Vienas iš aktualiausių rūpesčių yra šališkumo buvimas MM modeliuose, kuris gali lemti nesąžiningus ar diskriminacinius rezultatus. Šiame vadove pateikiama išsami šališkumo nustatymo mašininiame mokymesi apžvalga, apimanti įvairias šališkumo rūšis, nustatymo metodus, mažinimo strategijas ir etinius aspektus, kuriais remiantis kuriamos sąžiningos ir atsakingos DI sistemos pasauliniu mastu.

Šališkumo supratimas mašininiame mokymesi

Šališkumas mašininiame mokymesi reiškia sistemines klaidas ar iškraipymus modelio prognozėse ar sprendimuose, kurie nėra atsitiktiniai. Šie šališkumai gali kilti iš įvairių šaltinių, įskaitant šališkus duomenis, netobulus algoritmus ar visuomenės prietarus. Norint veiksmingai nustatyti ir sumažinti šališkumą, būtina suprasti skirtingas jo rūšis.

Šališkumo tipai mašininiame mokymesi

Istorinis šališkumas: Atspindi esamą socialinę nelygybę duomenyse, naudojamuose modeliui apmokyti. Pavyzdžiui, jei istoriniai įdarbinimo duomenys rodo pirmenybę kandidatams vyrams, pagal šiuos duomenis apmokytas modelis gali išlaikyti šį šališkumą priimant būsimus įdarbinimo sprendimus.
Atstovavimo šališkumas: Atsiranda, kai tam tikros grupės yra nepakankamai arba klaidingai atstovaujamos mokymo duomenyse. Dėl to prognozės gali būti netikslios arba rezultatai nesąžiningi šioms grupėms. Pavyzdžiui, veidų atpažinimo sistema, apmokyta daugiausia naudojant šviesiaodžių asmenų atvaizdus, gali prastai veikti su tamsesnės odos asmenimis.
Matavimo šališkumas: Kyla dėl netikslių ar nenuoseklių matavimų ar požymių duomenyse. Pavyzdžiui, jei medicininės diagnozės modelis remiasi šališkais diagnostiniais tyrimais, tai gali lemti neteisingas diagnozes tam tikroms pacientų grupėms.
Agregavimo šališkumas: Atsiranda, kai modelis taikomas per daug heterogeniškoms grupėms, todėl prognozės konkretiems pogrupiams yra netikslios. Apsvarstykite modelį, prognozuojantį klientų elgseną, kuris visus konkretaus regiono klientus vertina vienodai, neatsižvelgdamas į to regiono skirtumus.
Vertinimo šališkumas: Atsiranda vertinant modelį. Naudojant metriką, kuri nėra tinkama visoms grupėms, vertinimo rezultatai gali būti šališki. Pavyzdžiui, modelis, kurio bendras tikslumas yra didelis, vis tiek gali prastai veikti mažumos grupėje.
Algoritminis šališkumas: Kyla dėl paties algoritmo kūrimo ar įgyvendinimo. Tai gali apimti šališkas tikslo funkcijas, šališkus reguliarizavimo metodus arba šališkus požymių parinkimo metodus.

Šališkumo poveikis

Šališkumo poveikis mašininiame mokymesi gali būti plataus masto ir žalingas, paveikiantis asmenis, bendruomenes ir visą visuomenę. Šališki modeliai gali įtvirtinti diskriminaciją, sustiprinti stereotipus ir padidinti esamą nelygybę. Pavyzdžiui:

Baudžiamoji justicija: Baudžiamojoje justicijoje naudojami šališki rizikos vertinimo įrankiai gali lemti nesąžiningus nuosprendžius ir neproporcingai didelį tam tikrų rasinių grupių įkalinimo lygį.
Finansinės paslaugos: Šališki paskolų paraiškų modeliai gali neleisti gauti kredito kvalifikuotiems asmenims iš marginalizuotų bendruomenių, taip apribojant jų galimybes ir įtvirtinant ekonominę nelygybę.
Sveikatos apsauga: Šališki diagnostikos modeliai gali lemti klaidingas diagnozes arba pavėluotą gydymą tam tikroms pacientų grupėms, dėl ko pablogėja sveikatos rezultatai.
Užimtumas: Šališki įdarbinimo algoritmai gali diskriminuoti kvalifikuotus kandidatus iš nepakankamai atstovaujamų grupių, taip apribojant jų karjeros galimybes ir įtvirtinant nelygybę darbo rinkoje.

Šališkumo nustatymo metodai

Šališkumo nustatymas mašininio mokymosi modeliuose yra esminis žingsnis kuriant sąžiningas ir atsakingas DI sistemas. Galima naudoti įvairius metodus šališkumui nustatyti skirtinguose modelio kūrimo proceso etapuose. Šiuos metodus galima plačiai suskirstyti į pirminio apdorojimo, apdorojimo metu taikomus ir papildomo apdorojimo metodus.

Pirminio apdorojimo metodai

Pirminio apdorojimo metodais siekiama nustatyti ir sumažinti šališkumą mokymo duomenyse prieš apmokant modelį. Šiais metodais siekiama sukurti reprezentatyvesnį ir labiau subalansuotą duomenų rinkinį, kuris sumažintų šališkumo riziką gautame modelyje.

Duomenų auditas: Apima išsamų mokymo duomenų tyrimą siekiant nustatyti galimus šališkumo šaltinius, tokius kaip nepakankamas atstovavimas, iškreipti pasiskirstymai ar šališkos etiketės. Įrankiai, tokie kaip „Aequitas“ (sukurtas Čikagos universiteto Duomenų mokslo ir viešosios politikos centro), gali padėti automatizuoti šį procesą, nustatant duomenų neatitikimus tarp skirtingų grupių.
Duomenų perrinkimas: Apima tokius metodus kaip perteklinis imties didinimas (oversampling) ir nepakankamas imties mažinimas (undersampling), siekiant subalansuoti skirtingų grupių atstovavimą mokymo duomenyse. Perteklinis imties didinimas apima nepakankamai atstovaujamų grupių duomenų dubliavimą arba sintetinių duomenų generavimą, o nepakankamas imties mažinimas – duomenų pašalinimą iš per daug atstovaujamų grupių.
Persvėrimas: Priskiria skirtingus svorius skirtingiems duomenų taškams, siekiant kompensuoti disbalansą mokymo duomenyse. Tai užtikrina, kad modelis vienodai svarbą teiktų visoms grupėms, neatsižvelgiant į jų atstovavimą duomenų rinkinyje.
Duomenų papildymas: Sukuria naujus mokymo pavyzdžius, taikant transformacijas esamiems duomenims, pavyzdžiui, pasukant vaizdus ar perfrazuojant tekstą. Tai gali padėti padidinti mokymo duomenų įvairovę ir sumažinti šališkų pavyzdžių poveikį.
Priešiškas šališkumo šalinimas (pirminis apdorojimas): Apmoko modelį prognozuoti jautrų atributą (pvz., lytį, rasę) iš duomenų, o tada pašalina tuos požymius, kurie geriausiai prognozuoja jautrų atributą. Taip siekiama sukurti duomenų rinkinį, kuris mažiau koreliuotų su jautriu atributu.

Apdorojimo metu taikomi metodai

Apdorojimo metu taikomais metodais siekiama sumažinti šališkumą modelio mokymo procese. Šie metodai modifikuoja modelio mokymosi algoritmą arba tikslo funkciją, siekiant skatinti sąžiningumą ir sumažinti diskriminaciją.

Sąžiningumą užtikrinanti reguliarizacija: Prideda baudos narį prie modelio tikslo funkcijos, kuris baudžia už nesąžiningas prognozes. Tai skatina modelį daryti prognozes, kurios būtų teisingesnės skirtingoms grupėms.
Priešiškas šališkumo šalinimas (apdorojimo metu): Apmoko modelį daryti tikslias prognozes, kartu bandant apgauti priešininką, kuris bando nuspėti jautrų atributą iš modelio prognozių. Tai skatina modelį mokytis atvaizdų, kurie mažiau koreliuoja su jautriu atributu.
Sąžiningų atvaizdų mokymasis: Siekiama išmokti tokį duomenų atvaizdavimą, kuris būtų nepriklausomas nuo jautraus atributo, išsaugant duomenų prognozavimo galią. Tai galima pasiekti apmokant modelį koduoti duomenis į latentinę erdvę, kuri nekoreliuoja su jautriu atributu.
Optimizavimas su apribojimais: Formuluoja modelio mokymo problemą kaip optimizavimo su apribojimais problemą, kur apribojimai užtikrina sąžiningumo kriterijus. Tai leidžia apmokyti modelį, kartu užtikrinant, kad jis atitiktų tam tikrus sąžiningumo apribojimus.

Papildomo apdorojimo metodai

Papildomo apdorojimo metodais siekiama koreguoti modelio prognozes po to, kai jis buvo apmokytas. Šiais metodais siekiama ištaisyti šališkumą, kuris galėjo atsirasti mokymo proceso metu.

Slenksčio koregavimas: Modifikuoja sprendimo slenkstį skirtingoms grupėms, siekiant pasiekti išlygintas tikimybes arba lygias galimybes. Pavyzdžiui, istoriškai nepalankioje padėtyje esančiai grupei gali būti naudojamas aukštesnis slenkstis, siekiant kompensuoti modelio šališkumą.
Kalibravimas: Koreguoja modelio prognozuojamas tikimybes, kad jos geriau atspindėtų tikrąsias tikimybes skirtingoms grupėms. Tai užtikrina, kad modelio prognozės būtų gerai sukalibruotos visose grupėse.
Klasifikavimas su atmetimo galimybe: Įveda atmetimo galimybę prognozėms, kurios greičiausiai bus netikslios ar nesąžiningos. Tai leidžia modeliui susilaikyti nuo prognozės tais atvejais, kai jis yra neaiškus, taip sumažinant šališkų rezultatų riziką.
Išlygintų tikimybių papildomas apdorojimas: Koreguoja modelio prognozes, siekiant pasiekti vienodus teigiamai teisingų ir teigiamai klaidingų rezultatų rodiklius skirtingose grupėse. Tai užtikrina, kad modelis būtų vienodai tikslus ir sąžiningas visoms grupėms.

Sąžiningumo metrika

Sąžiningumo metrika naudojama kiekybiškai įvertinti šališkumo laipsnį mašininio mokymosi modeliuose ir įvertinti šališkumo mažinimo metodų veiksmingumą. Ši metrika suteikia būdą išmatuoti modelio prognozių sąžiningumą skirtingose grupėse. Svarbu pasirinkti metriką, kuri tiktų konkrečiai programai ir konkrečiai sprendžiamai šališkumo rūšiai.

Dažniausiai naudojama sąžiningumo metrika

Statistinis paritetas: Matuoja, ar teigiamų rezultatų dalis yra vienoda skirtingose grupėse. Modelis atitinka statistinį paritetą, jei teigiamo rezultato tikimybė yra vienoda visoms grupėms.
Lygios galimybės: Matuoja, ar teigiamai teisingų rezultatų rodiklis yra vienodas skirtingose grupėse. Modelis atitinka lygias galimybes, jei teigiamai teisingo rezultato tikimybė yra vienoda visoms grupėms.
Išlygintos tikimybės: Matuoja, ar tiek teigiamai teisingų, tiek teigiamai klaidingų rezultatų rodikliai yra vienodi skirtingose grupėse. Modelis atitinka išlygintas tikimybes, jei tiek teigiamai teisingo, tiek teigiamai klaidingo rezultato tikimybės yra vienodos visoms grupėms.
Prognozavimo paritetas: Matuoja, ar teigiama prognozinė vertė (PPV) yra vienoda skirtingose grupėse. PPV yra prognozuotų teigiamų rezultatų, kurie iš tikrųjų yra teigiami, dalis.
Klaidingų atradimų dažnio paritetas: Matuoja, ar klaidingų atradimų dažnis (FDR) yra vienodas skirtingose grupėse. FDR yra prognozuotų teigiamų rezultatų, kurie iš tikrųjų yra neigiami, dalis.
Kalibravimas: Matuoja, ar modelio prognozuojamos tikimybės yra gerai sukalibruotos skirtingose grupėse. Gerai sukalibruotas modelis turėtų turėti prognozuojamas tikimybes, kurios tiksliai atspindi tikrąsias tikimybes.

Tobulo sąžiningumo neįmanomumas

Svarbu pažymėti, kad pasiekti tobulo sąžiningumo, apibrėžto pagal šią metriką, dažnai neįmanoma. Daugelis sąžiningumo metrikų yra tarpusavyje nesuderinamos, o tai reiškia, kad optimizavus vieną metriką, gali pablogėti kita. Be to, pasirinkimas, kuriai sąžiningumo metrikai teikti pirmenybę, dažnai yra subjektyvus sprendimas, priklausantis nuo konkrečios programos ir suinteresuotųjų šalių vertybių. Pati „sąžiningumo“ sąvoka priklauso nuo konteksto ir yra kultūriškai niuansuota.

Etiniai aspektai

Norint spręsti šališkumo problemą mašininiame mokymesi, reikalinga tvirta etikos sistema, kuria vadovaujamasi kuriant ir diegiant DI sistemas. Šioje sistemoje turėtų būti atsižvelgiama į galimą šių sistemų poveikį asmenims, bendruomenėms ir visai visuomenei. Keletas pagrindinių etinių aspektų:

Skaidrumas: Užtikrinti, kad DI sistemų sprendimų priėmimo procesai būtų skaidrūs ir suprantami. Tai apima aiškių paaiškinimų pateikimą, kaip veikia modelis, kokius duomenis jis naudoja ir kaip jis pasiekia savo prognozes.
Atskaitomybė: Nustatyti aiškias atsakomybės ribas už DI sistemų priimamus sprendimus. Tai apima nustatymą, kas yra atsakingas už šių sistemų projektavimą, kūrimą, diegimą ir stebėseną.
Privatumas: Apsaugoti asmenų, kurių duomenys naudojami DI sistemoms apmokyti ir valdyti, privatumą. Tai apima patikimų duomenų saugumo priemonių įgyvendinimą ir informuoto sutikimo gavimą iš asmenų prieš renkant ir naudojant jų duomenis.
Sąžiningumas: Užtikrinti, kad DI sistemos būtų sąžiningos ir nediskriminuotų asmenų ar grupių. Tai apima aktyvų šališkumo nustatymą ir mažinimą duomenyse, algoritmuose ir šių sistemų rezultatuose.
Geranoriškumas: Užtikrinti, kad DI sistemos būtų naudojamos žmonijos labui ir kad jų potenciali žala būtų kuo mažesnė. Tai apima kruopštų galimų šių sistemų diegimo pasekmių apsvarstymą ir priemonių ėmimąsi siekiant išvengti nenumatyto neigiamo poveikio.
Teisingumas: Užtikrinti, kad DI sistemų nauda ir našta būtų teisingai paskirstyta visuomenėje. Tai apima nelygybės sprendimą prieigos prie DI technologijų srityje ir galimybės, kad DI padidins esamus socialinius ir ekonominius skirtumus, mažinimą.

Praktiniai šališkumo nustatymo ir mažinimo žingsniai

Štai keletas praktinių žingsnių, kurių organizacijos gali imtis, norėdamos nustatyti ir sumažinti šališkumą savo mašininio mokymosi sistemose:

Suburkite tarpfunkcinę DI etikos komandą: Šią komandą turėtų sudaryti duomenų mokslo, etikos, teisės ir socialinių mokslų ekspertai, kad būtų pateiktos įvairios perspektyvos dėl DI sistemų etinių pasekmių.
Sukurkite išsamią DI etikos politiką: Ši politika turėtų apibrėžti organizacijos įsipareigojimą laikytis etinių DI principų ir pateikti gaires, kaip spręsti etinius klausimus visame DI gyvavimo cikle.
Reguliariai atlikite šališkumo auditus: Šie auditai turėtų apimti išsamų duomenų, algoritmų ir DI sistemų rezultatų tyrimą, siekiant nustatyti galimus šališkumo šaltinius.
Naudokite sąžiningumo metriką modelio veikimui vertinti: Pasirinkite tinkamą sąžiningumo metriką konkrečiai programai ir naudokite ją modelio prognozių sąžiningumui vertinti skirtingose grupėse.
Įgyvendinkite šališkumo mažinimo metodus: Taikykite pirminio apdorojimo, apdorojimo metu taikomus ar papildomo apdorojimo metodus, siekdami sumažinti šališkumą duomenyse, algoritmuose ar DI sistemų rezultatuose.
Stebėkite DI sistemų šališkumą: Nuolat stebėkite DI sistemas dėl šališkumo po jų įdiegimo, siekdami užtikrinti, kad jos laikui bėgant išliktų sąžiningos ir teisingos.
Bendraukite su suinteresuotosiomis šalimis: Konsultuokitės su suinteresuotosiomis šalimis, įskaitant paveiktas bendruomenes, kad suprastumėte jų rūpesčius ir požiūrį į DI sistemų etines pasekmes.
Skatinkite skaidrumą ir paaiškinamumą: Pateikite aiškius paaiškinimus, kaip veikia DI sistemos ir kaip jos priima sprendimus.
Investuokite į DI etikos mokymus: Teikite mokymus duomenų mokslininkams, inžinieriams ir kitiems darbuotojams apie DI etines pasekmes ir kaip spręsti šališkumo problemą mašininiame mokymesi.

Pasaulinės perspektyvos ir pavyzdžiai

Labai svarbu pripažinti, kad šališkumas skirtingose kultūrose ir regionuose pasireiškia skirtingai. Sprendimas, kuris veikia viename kontekste, gali būti netinkamas ar neveiksmingas kitame. Todėl, sprendžiant šališkumo problemą mašininiame mokymesi, būtina laikytis pasaulinės perspektyvos.

Kalbinis šališkumas: Mašininio vertimo sistemos gali būti šališkos dėl to, kaip kalbos koduoja lytį ar kitas socialines kategorijas. Pavyzdžiui, kai kuriose kalbose gramatinė giminė gali lemti šališkus vertimus, kurie sustiprina lyčių stereotipus. Norint tai išspręsti, reikia atidžiai stebėti mokymo duomenis ir kurti vertimo algoritmus.
Kultūrinės normos: Tai, kas vienoje kultūroje laikoma sąžininga ar priimtina, kitoje gali skirtis. Pavyzdžiui, privatumo lūkesčiai gali labai skirtis įvairiose šalyse. Svarbu atsižvelgti į šiuos kultūrinius niuansus kuriant ir diegiant DI sistemas.
Duomenų prieinamumas: Duomenų prieinamumas ir kokybė gali labai skirtis skirtinguose regionuose. Dėl to gali atsirasti atstovavimo šališkumas, kai tam tikros grupės ar regionai yra nepakankamai atstovaujami mokymo duomenyse. Norint tai išspręsti, reikia stengtis surinkti įvairesnius ir reprezentatyvesnius duomenis.
Reguliavimo sistemos: Įvairios šalys turi skirtingas DI reguliavimo sistemas. Pavyzdžiui, Europos Sąjunga įgyvendino Bendrąjį duomenų apsaugos reglamentą (BDAR), kuris griežtai riboja asmens duomenų rinkimą ir naudojimą. Svarbu žinoti šiuos reguliavimo reikalavimus kuriant ir diegiant DI sistemas.

1 pavyzdys: Veidų atpažinimo technologija ir rasinis šališkumas Tyrimai parodė, kad veidų atpažinimo technologija dažnai prastai veikia su tamsesnės odos asmenimis, ypač moterimis. Šis šališkumas gali lemti klaidingą atpažinimą ir nesąžiningus rezultatus tokiose srityse kaip teisėsauga ir sienų kontrolė. Norint tai išspręsti, reikia apmokyti modelius naudojant įvairesnius duomenų rinkinius ir kurti algoritmus, kurie būtų mažiau jautrūs odos atspalviui. Tai nėra tik JAV ar ES problema; ji paveikia įvairias populiacijas visame pasaulyje.

2 pavyzdys: Paskolų paraiškų modeliai ir šališkumas lyties atžvilgiu Paskolų paraiškų modeliai gali būti šališki lyties atžvilgiu, jei jie apmokomi remiantis istoriniais duomenimis, atspindinčiais esamą lyčių nelygybę galimybėje gauti kreditą. Dėl šio šališkumo kvalifikuotoms moterims paskolos gali būti nesuteikiamos dažniau nei vyrams. Norint tai išspręsti, reikia atidžiai išnagrinėti duomenis, naudojamus modeliams apmokyti, ir įgyvendinti sąžiningumą užtikrinančius reguliarizavimo metodus. Poveikis neproporcingai paveikia moteris besivystančiose šalyse, kur finansų prieinamumas jau yra ribotas.

3 pavyzdys: Sveikatos apsaugos DI ir regioninis šališkumas DI sistemos, naudojamos medicininei diagnozei, gali prastai veikti su pacientais iš tam tikrų regionų, jei jos apmokomos daugiausia remiantis duomenimis iš kitų regionų. Dėl to gali būti nustatyta klaidinga diagnozė arba pavėluotas gydymas pacientams iš nepakankamai atstovaujamų regionų. Norint tai išspręsti, reikia rinkti įvairesnius medicininius duomenis ir kurti modelius, kurie būtų atsparūs regioniniams skirtumams.

Šališkumo nustatymo ir mažinimo ateitis

Šališkumo nustatymo ir mažinimo sritis sparčiai vystosi. Tobulėjant mašininio mokymosi technologijoms, kuriami nauji metodai ir įrankiai, skirti spręsti DI sistemų šališkumo iššūkius. Keletas perspektyvių tyrimų sričių:

Paaiškinamas dirbtinis intelektas (XAI): Kuriami metodai, galintys paaiškinti, kaip DI sistemos priima sprendimus, todėl lengviau nustatyti ir suprasti galimus šališkumo šaltinius.
Priežastinis išvedimas: Naudojami priežastinio išvedimo metodai, siekiant nustatyti ir sumažinti pagrindines šališkumo priežastis duomenyse ir algoritmuose.
Federacinis mokymasis: Modelių apmokymas decentralizuotuose duomenų šaltiniuose, nesidalinant pačiais duomenimis, o tai gali padėti išspręsti duomenų privatumo ir atstovavimo šališkumo problemas.
DI etikos švietimas: Skatinamas DI etikos švietimas ir mokymai, siekiant didinti informuotumą apie DI etines pasekmes ir suteikti duomenų mokslininkams bei inžinieriams įgūdžių, reikalingų sąžiningoms ir atsakingoms DI sistemoms kurti.
Algoritmų audito standartai: Standartizuotų algoritmų audito sistemų kūrimas, palengvinantis nuoseklų šališkumo nustatymą ir mažinimą skirtingose sistemose.

Išvados

Šališkumo nustatymas ir mažinimas yra būtini kuriant sąžiningas ir atsakingas DI sistemas, kurios būtų naudingos visai žmonijai. Suprasdamos skirtingas šališkumo rūšis, įgyvendindamos veiksmingus nustatymo metodus ir laikydamosi tvirtos etikos sistemos, organizacijos gali užtikrinti, kad jų DI sistemos būtų naudojamos gėriui ir kad jų potenciali žala būtų kuo mažesnė. Tai yra pasaulinė atsakomybė, reikalaujanti bendradarbiavimo tarp disciplinų, kultūrų ir regionų, siekiant sukurti DI sistemas, kurios būtų tikrai teisingos ir įtraukios. Kadangi DI ir toliau skverbiasi į visus pasaulinės visuomenės aspektus, budrumas prieš šališkumą yra ne tik techninis reikalavimas, bet ir moralinis imperatyvas.