MI ētika: globāls ceļvedis algoritmu neobjektivitātes atklāšanā

Mākslīgais intelekts (MI) strauji pārveido nozares un ietekmē dzīves visā pasaulē. Tā kā MI sistēmas kļūst arvien izplatītākas, ir būtiski nodrošināt, lai tās būtu godīgas, neitrālas un atbilstošas ētikas principiem. Algoritmu neobjektivitāte, kas ir sistemātiska un atkārtojama kļūda datorsistēmā, radot netaisnīgus rezultātus, ir būtiska problēma MI ētikā. Šis visaptverošais ceļvedis pēta algoritmu neobjektivitātes avotus, atklāšanas un mazināšanas metodes, kā arī stratēģijas taisnīguma veicināšanai MI sistēmās visā pasaulē.

Izpratne par algoritmu neobjektivitāti

Algoritmu neobjektivitāte rodas, ja MI sistēma rada rezultātus, kas sistemātiski ir mazāk labvēlīgi noteiktām cilvēku grupām nekā citām. Šī neobjektivitāte var rasties no dažādiem avotiem, tostarp no neobjektīviem datiem, kļūdainiem algoritmiem un neobjektīvām rezultātu interpretācijām. Izpratne par neobjektivitātes cēloņiem ir pirmais solis ceļā uz taisnīgāku MI sistēmu izveidi.

Algoritmu neobjektivitātes avoti

• Neobjektīvi apmācības dati: Dati, kas tiek izmantoti MI modeļu apmācībai, bieži atspoguļo sabiedrībā pastāvošos aizspriedumus. Ja datos ir sagrozīts noteiktu grupu atspoguļojums, MI modelis apgūs un iemūžinās šos aizspriedumus. Piemēram, ja sejas atpazīšanas sistēma galvenokārt tiek apmācīta ar vienas etniskās piederības attēliem, tā var slikti darboties ar citu etnisko grupu sejām. Tam ir būtiska ietekme uz tiesībaizsardzību, drošību un citām lietojumprogrammām. Apsveriet COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) algoritmu, kurš, kā tika konstatēts, nesamērīgi bieži atzīmēja melnādainos apsūdzētos kā augstāka riska recidīvistus.
• Kļūdains algoritma dizains: Paši algoritmi var ieviest neobjektivitāti, pat ar šķietami neitrāliem datiem. Pazīmju izvēle, modeļa arhitektūra un optimizācijas kritēriji var ietekmēt rezultātus. Piemēram, ja algoritms lielā mērā balstās uz pazīmēm, kas korelē ar aizsargātām īpašībām (piemēram, dzimums, rase), tas var netīši diskriminēt noteiktas grupas.
• Neobjektīva datu marķēšana: Arī datu marķēšanas process var ieviest neobjektivitāti. Ja personām, kas marķē datus, ir neapzināti aizspriedumi, viņi var marķēt datus veidā, kas atspoguļo šos aizspriedumus. Piemēram, sentimenta analīzē, ja anotētāji saista noteiktus valodas modeļus ar konkrētām demogrāfiskām grupām, modelis var iemācīties negodīgi kategorizēt šo grupu pausto sentimentu.
• Atgriezeniskās saites cilpas: MI sistēmas var radīt atgriezeniskās saites cilpas, kas saasina pastāvošos aizspriedumus. Piemēram, ja ar MI darbināms personāla atlases rīks ir neobjektīvs pret sievietēm, tas var ieteikt mazāk sieviešu intervijām. Tas var novest pie mazāka sieviešu skaita pieņemšanas darbā, kas savukārt pastiprina neobjektivitāti apmācības datos.
• Daudzveidības trūkums izstrādes komandās: MI izstrādes komandu sastāvs var būtiski ietekmēt MI sistēmu taisnīgumu. Ja komandām trūkst daudzveidības, tās, visticamāk, nespēs identificēt un risināt potenciālos aizspriedumus, kas varētu ietekmēt nepietiekami pārstāvētās grupas.
• Kontekstuālā neobjektivitāte: Konteksts, kurā tiek izvietota MI sistēma, arī var ieviest neobjektivitāti. Algoritms, kas apmācīts vienā kultūras vai sabiedrības kontekstā, var nedarboties taisnīgi, ja tiek izvietots citā kontekstā. Kultūras normas, valodas nianses un vēsturiskie aizspriedumi var spēlēt lomu. Piemēram, ar MI darbināms čatbots, kas izstrādāts, lai sniegtu klientu apkalpošanu vienā valstī, var izmantot valodu, kas tiek uzskatīta par aizskarošu vai nepiemērotu citā valstī.

Algoritmu neobjektivitātes atklāšanas metodes

Algoritmu neobjektivitātes atklāšana ir būtiska, lai nodrošinātu taisnīgumu MI sistēmās. Var izmantot dažādas metodes, lai identificētu neobjektivitāti dažādos MI izstrādes dzīves cikla posmos.

Datu audits

Datu audits ietver apmācības datu pārbaudi, lai identificētu potenciālos neobjektivitātes avotus. Tas ietver pazīmju sadalījuma analīzi, trūkstošo datu identificēšanu un sagrozītu noteiktu grupu atspoguļojumu pārbaudi. Datu audita metodes ietver:

• Statistiskā analīze: Apkopojošās statistikas (piemēram, vidējais, mediāna, standartnovirze) aprēķināšana dažādām grupām, lai identificētu atšķirības.
• Vizualizācija: Vizualizāciju (piemēram, histogrammu, izkliedes diagrammu) izveide, lai pārbaudītu datu sadalījumu un identificētu anomālijas.
• Neobjektivitātes metrikas: Neobjektivitātes metriku (piemēram, atšķirīga ietekme, vienlīdzīgu iespēju atšķirība) izmantošana, lai kvantitatīvi noteiktu, cik lielā mērā dati ir neobjektīvi.

Piemēram, kredītreitinga modelī jūs varētu analizēt kredītreitingu sadalījumu dažādām demogrāfiskajām grupām, lai identificētu potenciālās atšķirības. Ja konstatējat, ka noteiktām grupām vidēji ir ievērojami zemāki kredītreitingi, tas varētu norādīt, ka dati ir neobjektīvi.

Modeļa novērtēšana

Modeļa novērtēšana ietver MI modeļa veiktspējas novērtēšanu dažādām cilvēku grupām. Tas ietver veiktspējas metriku (piemēram, precizitāte, atsaukums, F1 rādītājs) aprēķināšanu atsevišķi katrai grupai un rezultātu salīdzināšanu. Modeļa novērtēšanas metodes ietver:

• Grupu taisnīguma metrikas: Grupu taisnīguma metriku (piemēram, demogrāfiskā paritāte, vienlīdzīgas iespējas, prognozēšanas paritāte) izmantošana, lai kvantitatīvi noteiktu, cik lielā mērā modelis ir taisnīgs dažādās grupās. Demogrāfiskā paritāte prasa, lai modelis veiktu prognozes ar vienādu biežumu visām grupām. Vienlīdzīgas iespējas prasa, lai modelim būtu vienāds patiesi pozitīvo rādītājs visām grupām. Prognozēšanas paritāte prasa, lai modelim būtu vienāda pozitīvā prognozēšanas vērtība visām grupām.
• Kļūdu analīze: Modeļa pieļauto kļūdu veidu analīze dažādām grupām, lai identificētu neobjektivitātes modeļus. Piemēram, ja modelis pastāvīgi nepareizi klasificē noteiktas etniskās piederības attēlus, tas varētu norādīt, ka modelis ir neobjektīvs.
• Pretinieciskā testēšana: Pretiniecisko piemēru izmantošana, lai pārbaudītu modeļa noturību un identificētu neaizsargātību pret neobjektivitāti. Pretinieciskie piemēri ir ievaddati, kas ir paredzēti, lai apmānītu modeli un liktu tam veikt nepareizas prognozes.

Piemēram, personāla atlases algoritmā jūs varētu novērtēt modeļa veiktspēju atsevišķi vīriešu un sieviešu kandidātiem. Ja konstatējat, ka modelim ir ievērojami zemāka precizitātes likme sieviešu kandidātēm, tas varētu norādīt, ka modelis ir neobjektīvs.

Izskaidrojamais MI (XAI)

Izskaidrojamā MI (XAI) metodes var palīdzēt identificēt pazīmes, kas visvairāk ietekmē modeļa prognozes. Izprotot, kuras pazīmes virza modeļa lēmumus, jūs varat identificēt potenciālos neobjektivitātes avotus. XAI metodes ietver:

• Pazīmju svarīgums: Katras pazīmes svarīguma noteikšana modeļa prognozēs.
• SHAP vērtības: SHAP (SHapley Additive exPlanations) vērtību aprēķināšana, lai izskaidrotu katras pazīmes ieguldījumu modeļa prognozēs atsevišķiem gadījumiem.
• LIME: LIME (Local Interpretable Model-agnostic Explanations) izmantošana, lai izskaidrotu modeļa prognozes atsevišķiem gadījumiem, izveidojot lokālu lineāru modeļa tuvinājumu.

Piemēram, aizdevuma pieteikuma modelī jūs varētu izmantot XAI metodes, lai identificētu pazīmes, kas visvairāk ietekmē modeļa lēmumu apstiprināt vai noraidīt aizdevumu. Ja konstatējat, ka pazīmes, kas saistītas ar rasi vai etnisko piederību, ir ļoti ietekmīgas, tas varētu norādīt, ka modelis ir neobjektīvs.

Taisnīguma audita rīki

Ir pieejami vairāki rīki un bibliotēkas, kas palīdz atklāt un mazināt algoritmu neobjektivitāti. Šie rīki bieži nodrošina dažādu neobjektivitātes metriku un mazināšanas metožu implementācijas.

• AI Fairness 360 (AIF360): IBM izstrādāts atvērtā koda rīkkopa, kas nodrošina visaptverošu metriku un algoritmu kopumu, lai atklātu un mazinātu neobjektivitāti MI sistēmās.
• Fairlearn: Microsoft izstrādāta Python pakotne, kas nodrošina rīkus taisnīguma novērtēšanai un uzlabošanai mašīnmācīšanās modeļos.
• Responsible AI Toolbox: Microsoft izstrādāts visaptverošs rīku un resursu komplekts, lai palīdzētu organizācijām atbildīgi izstrādāt un ieviest MI sistēmas.

Stratēģijas algoritmu neobjektivitātes mazināšanai

Kad algoritmu neobjektivitāte ir atklāta, ir svarīgi veikt pasākumus tās mazināšanai. Var izmantot dažādas metodes, lai samazinātu neobjektivitāti MI sistēmās.

Datu priekšapstrāde

Datu priekšapstrāde ietver apmācības datu modificēšanu, lai samazinātu neobjektivitāti. Datu priekšapstrādes metodes ietver:

• Pārsvarošana: Dažādu svaru piešķiršana dažādiem gadījumiem apmācības datos, lai kompensētu sagrozītus atspoguļojumus.
• Izlase: Vairākuma klases nepietiekama izlase (under-sampling) vai mazākuma klases pārmērīga izlase (over-sampling), lai līdzsvarotu datus.
• Datu papildināšana: Jaunu sintētisku datu punktu izveide, lai palielinātu nepietiekami pārstāvēto grupu atspoguļojumu.
• Neobjektīvu pazīmju noņemšana: To pazīmju noņemšana, kas korelē ar aizsargātām īpašībām. Tomēr esiet piesardzīgi, jo šķietami nekaitīgas pazīmes joprojām var netieši korelēt ar aizsargātiem atribūtiem (starpniekpazīmes).

Piemēram, ja apmācības datos ir mazāk piemēru par sievietēm nekā vīriešiem, jūs varētu izmantot pārsvarošanu, lai piešķirtu lielāku svaru sieviešu piemēriem. Vai arī jūs varētu izmantot datu papildināšanu, lai izveidotu jaunus sintētiskus sieviešu piemērus.

Algoritma modificēšana

Algoritma modificēšana ietver paša algoritma maiņu, lai samazinātu neobjektivitāti. Algoritma modificēšanas metodes ietver:

• Taisnīguma ierobežojumi: Taisnīguma ierobežojumu pievienošana optimizācijas mērķim, lai nodrošinātu, ka modelis atbilst noteiktiem taisnīguma kritērijiem.
• Pretinieciskā neobjektivitātes mazināšana: Pretinieciskā tīkla apmācība, lai noņemtu neobjektīvu informāciju no modeļa reprezentācijām.
• Regularizācija: Regularizācijas terminu pievienošana zudumu funkcijai, lai sodītu par netaisnīgām prognozēm.

Piemēram, jūs varētu pievienot taisnīguma ierobežojumu optimizācijas mērķim, kas prasa, lai modelim būtu vienāda precizitātes likme visām grupām.

Pēcapstrāde

Pēcapstrāde ietver modeļa prognožu modificēšanu, lai samazinātu neobjektivitāti. Pēcapstrādes metodes ietver:

• Sliekšņa pielāgošana: Klasifikācijas sliekšņa pielāgošana, lai sasniegtu vēlamo taisnīguma metriku.
• Kalibrēšana: Modeļa varbūtību kalibrēšana, lai nodrošinātu, ka tās ir labi saskaņotas ar novērotajiem rezultātiem.
• Noraidīšanas opcijas klasifikācija: "Noraidīšanas opcijas" pievienošana robežgadījumiem, kad modelis nav pārliecināts par savu prognozi.

Piemēram, jūs varētu pielāgot klasifikācijas slieksni, lai nodrošinātu, ka modelim ir vienāda kļūdaini pozitīvo rādītājs visām grupām.

Taisnīguma veicināšana MI sistēmās: globāla perspektīva

Taisnīgu MI sistēmu izveide prasa daudzšķautņainu pieeju, kas ietver ne tikai tehniskus risinājumus, bet arī ētiskus apsvērumus, politikas ietvarus un organizatoriskas prakses.

Ētikas vadlīnijas un principi

Dažādas organizācijas un valdības ir izstrādājušas ētikas vadlīnijas un principus MI izstrādei un ieviešanai. Šīs vadlīnijas bieži uzsver taisnīguma, pārredzamības, atbildības un cilvēka pārraudzības nozīmi.

• Asilomāras MI principi: MI pētnieku un ekspertu izstrādāts principu kopums, lai vadītu atbildīgu MI izstrādi un izmantošanu.
• Eiropas Savienības ētikas pamatnostādnes uzticamam MI: Eiropas Komisijas izstrādāts pamatnostādņu kopums, lai veicinātu uzticama MI izstrādi un izmantošanu.
• UNESCO rekomendācija par mākslīgā intelekta ētiku: Globāls ietvars, lai vadītu atbildīgu MI izstrādi un izmantošanu, nodrošinot, ka tas sniedz labumu visai cilvēcei.

MI pārvaldība un regulējums

Valdības arvien vairāk apsver regulējumus, lai nodrošinātu, ka MI sistēmas tiek izstrādātas un ieviestas atbildīgi. Šie regulējumi var ietvert prasības par neobjektivitātes auditiem, pārredzamības ziņojumiem un atbildības mehānismiem.

• ES MI akts: Ierosināts regulējums, kura mērķis ir izveidot tiesisko regulējumu MI jomā Eiropas Savienībā, risinot tādus jautājumus kā riska novērtēšana, pārredzamība un atbildība.
• Algoritmu atbildības akts (2022, ASV): Likumdošana, kuras mērķis ir pieprasīt uzņēmumiem novērtēt un mazināt automatizēto lēmumu pieņemšanas sistēmu potenciālo kaitējumu.

Organizatoriskās prakses

Organizācijas var ieviest dažādas prakses, lai veicinātu taisnīgumu MI sistēmās:

• Daudzveidīgas izstrādes komandas: Nodrošināt, ka MI izstrādes komandas ir daudzveidīgas attiecībā uz dzimumu, rasi, etnisko piederību un citām īpašībām.
• Ieinteresēto pušu iesaiste: Sadarboties ar ieinteresētajām pusēm (piemēram, skartajām kopienām, pilsoniskās sabiedrības organizācijām), lai izprastu viņu bažas un iekļautu viņu atsauksmes MI izstrādes procesā.
• Pārredzamība un izskaidrojamība: Padarīt MI sistēmas pārredzamākas un izskaidrojamākas, lai veidotu uzticību un atbildību.
• Nepārtraukta uzraudzība un novērtēšana: Nepārtraukti uzraudzīt un novērtēt MI sistēmas, lai identificētu un risinātu potenciālos aizspriedumus.
• MI ētikas padomju izveide: Veidot iekšējās vai ārējās komitejas, lai pārraudzītu MI izstrādes un ieviešanas ētiskās sekas.

Globāli piemēri un gadījumu izpēte

Reālu piemēru izpratne par algoritmu neobjektivitāti un mazināšanas stratēģijām ir būtiska, lai veidotu taisnīgākas MI sistēmas. Šeit ir daži piemēri no visas pasaules:

• Veselības aprūpe ASV: Algoritms, ko izmantoja ASV slimnīcās, lai prognozētu, kuriem pacientiem būs nepieciešama papildu medicīniskā aprūpe, tika atzīts par neobjektīvu pret melnādainajiem pacientiem. Algoritms izmantoja veselības aprūpes izmaksas kā vajadzības starpniekpazīmi, bet melnādainajiem pacientiem vēsturiski ir mazāka piekļuve veselības aprūpei, kas noved pie zemākām izmaksām un viņu vajadzību nepietiekamas novērtēšanas. (Obermeiers u.c., 2019)
• Krimināltiesības ASV: COMPAS algoritms, ko izmanto, lai novērtētu noziedzīgi sodīto personu recidīva risku, nesamērīgi bieži atzīmēja melnādainos apsūdzētos kā augstāka riska, pat ja viņi neatkārtoja noziegumu. (Angvins u.c., 2016)
• Personāla atlase Lielbritānijā: Amazon atteicās no sava MI personāla atlases rīka, kad atklāja, ka sistēma ir neobjektīva pret sievietēm. Sistēma tika apmācīta uz vēsturiskiem pieņemšanas darbā datiem, kuros pārsvarā bija vīriešu kandidāti, liekot MI sodīt CV, kuros bija vārds "sieviešu".
• Sejas atpazīšana Ķīnā: Ir radušās bažas par iespējamo neobjektivitāti sejas atpazīšanas sistēmās, ko izmanto novērošanai un sociālajai kontrolei Ķīnā, īpaši pret etniskajām minoritātēm.
• Kredītreitings Indijā: Alternatīvu datu avotu izmantošanai kredītreitingu modeļos Indijā ir potenciāls ieviest neobjektivitāti, ja šie datu avoti atspoguļo pastāvošās sociālekonomiskās nevienlīdzības.

MI ētikas un neobjektivitātes atklāšanas nākotne

Tā kā MI turpina attīstīties, MI ētikas un neobjektivitātes atklāšanas joma kļūs vēl svarīgāka. Nākotnes pētniecības un attīstības centieniem jākoncentrējas uz:

• Izturīgāku un precīzāku neobjektivitātes atklāšanas metožu izstrādi.
• Efektīvāku neobjektivitātes mazināšanas stratēģiju radīšanu.
• Starpdisciplināras sadarbības veicināšanu starp MI pētniekiem, ētiķiem, politikas veidotājiem un sociālajiem zinātniekiem.
• Globālu standartu un labākās prakses izveidi MI ētikā.
• Izglītojošu resursu izstrādi, lai palielinātu izpratni par MI ētiku un neobjektivitāti MI praktiķu un plašas sabiedrības vidū.

Secinājums

Algoritmu neobjektivitāte ir nozīmīgs izaicinājums MI ētikā, bet tas nav nepārvarams. Izprotot neobjektivitātes avotus, izmantojot efektīvas atklāšanas un mazināšanas metodes, kā arī veicinot ētiskas vadlīnijas un organizatoriskas prakses, mēs varam veidot taisnīgākas un līdzvērtīgākas MI sistēmas, kas sniedz labumu visai cilvēcei. Tas prasa globālus centienus, kas ietver sadarbību starp pētniekiem, politikas veidotājiem, nozares līderiem un sabiedrību, lai nodrošinātu, ka MI tiek izstrādāts un ieviests atbildīgi.

Atsauces:

• Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine Bias. ProPublica.
• Obermeyer, Z., Powers, B., Vogeli, C., & Mullainathan, S. (2019). Dissecting racial bias in an algorithm used to manage the health of populations. Science, 366(6464), 447-453.