Lygiagretusis programavimas: gijos ir „Async“ – išsamus pasaulinis vadovas

Šiuolaikiniame didelio našumo programų pasaulyje labai svarbu suprasti lygiagretųjį programavimą. Lygiagretumas leidžia programoms vykdyti kelias užduotis iš pažiūros vienu metu, pagerinant reakciją ir bendrą efektyvumą. Šiame vadove pateikiamas išsamus dviejų įprastų požiūrių į lygiagretumą palyginimas: gijų ir „async“, siūlant įžvalgas, aktualias programuotojams visame pasaulyje.

Kas yra lygiagretusis programavimas?

Lygiagretusis programavimas yra programavimo paradigma, kurioje kelios užduotys gali būti vykdomos persidengiančiais laiko periodais. Tai nebūtinai reiškia, kad užduotys vykdomos lygiai tuo pačiu metu (paralelizmas), o tai, kad jų vykdymas yra persipynęs. Pagrindinis pranašumas yra pagerėjusi reakcija ir išteklių panaudojimas, ypač programose, kuriose daug I/O operacijų arba intensyvių skaičiavimų.

Įsivaizduokite restorano virtuvę. Keli virėjai (užduotys) dirba vienu metu – vienas ruošia daržoves, kitas kepa mėsą, trečias ruošia patiekalus. Jie visi prisideda prie bendro tikslo aptarnauti klientus, bet nebūtinai tai daro tobulai sinchronizuotu ar nuosekliu būdu. Tai analogiška lygiagrečiam vykdymui programoje.

Gijos: klasikinis požiūris

Apibrėžimas ir pagrindai

Gijos yra lengvasvoriai procesai procese, kurie dalijasi ta pačia atminties erdve. Jos leidžia pasiekti tikrą paralelumą, jei pagrindinė aparatinė įranga turi kelis procesoriaus branduolius. Kiekviena gija turi savo dėklą (stack) ir programos skaitiklį, leidžiantį nepriklausomai vykdyti kodą bendroje atminties erdvėje.

Pagrindinės gijų savybės:

• Bendra atmintis: Gijos tame pačiame procese dalijasi ta pačia atminties erdve, todėl lengva dalytis duomenimis ir bendrauti.
• Lygiagretumas ir paralelizmas: Gijos gali pasiekti lygiagretumą ir paralelumą, jei yra keli CPU branduoliai.
• Operacinės sistemos valdymas: Gijų valdymą paprastai atlieka operacinės sistemos planuoklis.

Gijų naudojimo pranašumai

• Tikras paralelizmas: Kelių branduolių procesoriuose gijos gali būti vykdomos lygiagrečiai, o tai žymiai padidina našumą CPU reikalaujančioms užduotims.
• Supaprastintas programavimo modelis (kai kuriais atvejais): Tam tikroms problemoms gijomis pagrįstą požiūrį gali būti paprasčiau įgyvendinti nei „async“.
• Subrendusi technologija: Gijos egzistuoja jau seniai, todėl yra daug bibliotekų, įrankių ir patirties.

Gijų naudojimo trūkumai ir iššūkiai

• Sudėtingumas: Valdyti bendrą atmintį gali būti sudėtinga ir klaidų kelianti, sukelianti lenktynių sąlygas (race conditions), aklavietes (deadlocks) ir kitas su lygiagretumu susijusias problemas.
• Papildomos sąnaudos (overhead): Gijų kūrimas ir valdymas gali sukelti dideles papildomas sąnaudas, ypač jei užduotys yra trumpalaikės.
• Konteksto perjungimas: Perjungimas tarp gijų gali būti brangus, ypač kai gijų skaičius yra didelis.
• Derinimas: Derinti daugiagijes programas gali būti itin sudėtinga dėl jų nedeterministinio pobūdžio.
• Globalus interpretatoriaus užraktas (GIL): Tokiose kalbose kaip Python yra GIL, kuris riboja tikrą paralelumą CPU reikalaujančioms operacijoms. Vienu metu Python interpretatoriaus kontrolę gali turėti tik viena gija. Tai paveikia CPU reikalaujančias gijų operacijas.

Pavyzdys: Gijos Java kalboje

Java teikia integruotą palaikymą gijoms per Thread klasę ir Runnable sąsają.

public class MyThread extends Thread {
    @Override
    public void run() {
        // Kodas, kuris bus vykdomas gijoje
        System.out.println("Gija " + Thread.currentThread().getId() + " veikia");
    }

    public static void main(String[] args) {
        for (int i = 0; i < 5; i++) {
            MyThread thread = new MyThread();
            thread.start(); // Paleidžia naują giją ir iškviečia run() metodą
        }
    }
}

Pavyzdys: Gijos C# kalboje

using System;
using System.Threading;

public class Example {
    public static void Main(string[] args)
    {
        for (int i = 0; i < 5; i++)
        {
            Thread t = new Thread(new ThreadStart(MyThread));
            t.Start();
        }
    }

    public static void MyThread()
    {
        Console.WriteLine("Gija " + Thread.CurrentThread.ManagedThreadId + " veikia");
    }
}

Async/Await: modernus požiūris

Apibrėžimas ir pagrindai

Async/await yra kalbos funkcija, leidžianti rašyti asinchroninį kodą sinchroniniu stiliumi. Ji pirmiausia skirta I/O reikalaujančioms operacijoms tvarkyti neblokuojant pagrindinės gijos, taip pagerinant reakciją ir mastelį.

Pagrindinės sąvokos:

• Asinchroninės operacijos: Operacijos, kurios neblokuoja dabartinės gijos, kol laukiama rezultato (pvz., tinklo užklausos, failų I/O).
• Async funkcijos: Funkcijos, pažymėtos raktiniu žodžiu async, leidžiančios naudoti raktinį žodį await.
• Await raktinis žodis: Naudojamas sustabdyti „async“ funkcijos vykdymą, kol baigsis asinchroninė operacija, neblokuojant gijos.
• Įvykių ciklas (Event Loop): Async/await paprastai remiasi įvykių ciklu, kad valdytų asinchronines operacijas ir planuotų atgalinius iškvietimus (callbacks).

Užuot kūrus kelias gijas, async/await naudoja vieną giją (arba nedidelį gijų telkinį) ir įvykių ciklą, kad tvarkytų kelias asinchronines operacijas. Kai pradedama „async“ operacija, funkcija nedelsiant grįžta, o įvykių ciklas stebi operacijos eigą. Kai operacija baigiasi, įvykių ciklas atnaujina „async“ funkcijos vykdymą toje vietoje, kurioje ji buvo sustabdyta.

Async/Await naudojimo pranašumai

• Pagerėjusi reakcija: Async/await neleidžia blokuoti pagrindinės gijos, todėl vartotojo sąsaja tampa jautresnė, o bendras našumas geresnis.
• Mastelis: Async/await leidžia tvarkyti didelį skaičių lygiagrečių operacijų su mažiau išteklių, palyginti su gijomis.
• Supaprastintas kodas: Dėl async/await asinchroninį kodą lengviau skaityti ir rašyti, nes jis panašus į sinchroninį kodą.
• Sumažintos papildomos sąnaudos: Async/await paprastai turi mažesnes papildomas sąnaudas, palyginti su gijomis, ypač I/O reikalaujančioms operacijoms.

Async/Await naudojimo trūkumai ir iššūkiai

• Netinkama CPU reikalaujančioms užduotims: Async/await nesuteikia tikro paralelizmo CPU reikalaujančioms užduotims. Tokiais atvejais vis dar reikalingos gijos arba daugiaprocesiškumas.
• Atgalinių iškvietimų pragaras (Callback Hell) (potencialus): Nors async/await supaprastina asinchroninį kodą, netinkamas naudojimas vis tiek gali sukelti įdėtus atgalinius iškvietimus ir sudėtingą valdymo srautą.
• Derinimas: Derinti asinchroninį kodą gali būti sudėtinga, ypač dirbant su sudėtingais įvykių ciklais ir atgaliniais iškvietimais.
• Kalbos palaikymas: Async/await yra gana nauja funkcija ir gali būti neprieinama visose programavimo kalbose ar sistemose.

Pavyzdys: Async/Await JavaScript kalboje

JavaScript teikia async/await funkcionalumą asinchroninėms operacijoms tvarkyti, ypač su pažadais (Promises).

async function fetchData(url) {
  try {
    const response = await fetch(url);
    const data = await response.json();
    return data;
  } catch (error) {
    console.error('Klaida gaunant duomenis:', error);
    throw error;
  }
}

async function main() {
  try {
    const data = await fetchData('https://api.example.com/data');
    console.log('Duomenys:', data);
  } catch (error) {
    console.error('Įvyko klaida:', error);
  }
}

main();

Pavyzdys: Async/Await Python kalboje

Python asyncio biblioteka teikia async/await funkcionalumą.

import asyncio
import aiohttp

async def fetch_data(url):
    async with aiohttp.ClientSession() as session:
        async with session.get(url) as response:
            return await response.json()

async def main():
    data = await fetch_data('https://api.example.com/data')
    print(f'Duomenys: {data}')

if __name__ == "__main__":
    asyncio.run(main())

Gijos ir „Async“: išsamus palyginimas

Šioje lentelėje apibendrinami pagrindiniai skirtumai tarp gijų ir async/await:

Savybė	Gijos	Async/Await
Paralelizmas	Pasiekia tikrą paralelumą kelių branduolių procesoriuose.	Nesuteikia tikro paralelizmo; remiasi lygiagretumu.
Naudojimo atvejai	Tinka CPU ir I/O reikalaujančioms užduotims.	Pirmiausia tinka I/O reikalaujančioms užduotims.
Papildomos sąnaudos	Didesnės papildomos sąnaudos dėl gijų kūrimo ir valdymo.	Mažesnės papildomos sąnaudos, palyginti su gijomis.
Sudėtingumas	Gali būti sudėtinga dėl bendros atminties ir sinchronizavimo problemų.	Paprastai lengviau naudoti nei gijas, bet tam tikrais atvejais gali būti sudėtinga.
Reakcija	Gali blokuoti pagrindinę giją, jei naudojama neatsargiai.	Išlaiko reakciją, neblokuodama pagrindinės gijos.
Išteklių naudojimas	Didesnis išteklių naudojimas dėl kelių gijų.	Mažesnis išteklių naudojimas, palyginti su gijomis.
Derinimas	Derinimas gali būti sudėtingas dėl nedeterministinio elgesio.	Derinimas gali būti sudėtingas, ypač su sudėtingais įvykių ciklais.
Mastelis	Mastelį gali riboti gijų skaičius.	Labiau keičiamo mastelio nei gijos, ypač I/O reikalaujančioms operacijoms.
Globalus interpretatoriaus užraktas (GIL)	Paveikiamas GIL tokiose kalbose kaip Python, ribojant tikrą paralelumą.	GIL tiesiogiai nepaveikia, nes remiasi lygiagretumu, o ne paralelizmu.

Tinkamo požiūrio pasirinkimas

Pasirinkimas tarp gijų ir async/await priklauso nuo konkrečių jūsų programos reikalavimų.

• CPU reikalaujančioms užduotims, kurioms reikia tikro paralelizmo, gijos paprastai yra geresnis pasirinkimas. Kalbose su GIL, pavyzdžiui, Python, apsvarstykite galimybę naudoti daugiaprocesiškumą vietoj daugiagijiškumo, kad apeitumėte GIL apribojimą.
• I/O reikalaujančioms užduotims, kurioms reikia didelės reakcijos ir mastelio, async/await dažnai yra pageidaujamas požiūris. Tai ypač pasakytina apie programas su dideliu skaičiumi lygiagrečių prisijungimų ar operacijų, pavyzdžiui, žiniatinklio serverius ar tinklo klientus.

Praktiniai aspektai:

• Kalbos palaikymas: Patikrinkite naudojamą kalbą ir įsitikinkite, kad ji palaiko pasirinktą metodą. Python, JavaScript, Java, Go ir C# turi gerą abiejų metodų palaikymą, tačiau ekosistemos ir įrankių kokybė kiekvienam požiūriui turės įtakos, kaip lengvai galėsite atlikti savo užduotį.
• Komandos patirtis: Atsižvelkite į savo kūrėjų komandos patirtį ir įgūdžius. Jei jūsų komanda labiau susipažinusi su gijomis, ji gali būti produktyvesnė naudodama šį požiūrį, net jei async/await teoriškai būtų geresnis.
• Esama kodo bazė: Atsižvelkite į esamą kodo bazę ar bibliotekas, kurias naudojate. Jei jūsų projektas jau stipriai remiasi gijomis ar async/await, gali būti lengviau laikytis esamo požiūrio.
• Profiliavimas ir lyginamoji analizė: Visada profiliuokite ir atlikite lyginamąją analizę savo kodui, kad nustatytumėte, kuris požiūris suteikia geriausią našumą jūsų konkrečiam naudojimo atvejui. Nesiremkite prielaidomis ar teoriniais pranašumais.

Realūs pavyzdžiai ir naudojimo atvejai

Gijos

• Vaizdų apdorojimas: Sudėtingų vaizdų apdorojimo operacijų atlikimas su keliais vaizdais vienu metu, naudojant kelias gijas. Taip išnaudojami keli CPU branduoliai, siekiant pagreitinti apdorojimo laiką.
• Mokslinės simuliacijos: Intensyvių skaičiavimų reikalaujančių mokslinių simuliacijų vykdymas lygiagrečiai, naudojant gijas, siekiant sumažinti bendrą vykdymo laiką.
• Žaidimų kūrimas: Gijų naudojimas skirtingiems žaidimo aspektams, tokiems kaip atvaizdavimas, fizika ir dirbtinis intelektas, tvarkyti lygiagrečiai.

Async/Await

• Žiniatinklio serveriai: Didelio skaičiaus lygiagrečių kliento užklausų tvarkymas neblokuojant pagrindinės gijos. Pavyzdžiui, Node.js stipriai remiasi async/await dėl savo neblokuojančio I/O modelio.
• Tinklo klientai: Kelių failų atsisiuntimas ar kelių API užklausų siuntimas lygiagrečiai, neblokuojant vartotojo sąsajos.
• Darbalaukio programos: Ilgai trunkančių operacijų vykdymas fone, neužšaldant vartotojo sąsajos.
• IoT įrenginiai: Duomenų gavimas ir apdorojimas iš kelių jutiklių lygiagrečiai, neblokuojant pagrindinio programos ciklo.

Geriausios lygiagretaus programavimo praktikos

Nepriklausomai nuo to, ar pasirinksite gijas, ar async/await, norint parašyti patikimą ir efektyvų lygiagretų kodą, būtina laikytis geriausių praktikų.

Bendrosios geriausios praktikos

• Minimizuokite bendrinamą būseną: Sumažinkite bendrinamos būsenos kiekį tarp gijų ar asinchroninių užduočių, kad sumažintumėte lenktynių sąlygų ir sinchronizavimo problemų riziką.
• Naudokite nekintamus duomenis: Kai įmanoma, teikite pirmenybę nekintamoms duomenų struktūroms, kad išvengtumėte sinchronizavimo poreikio.
• Venkite blokuojančių operacijų: Venkite blokuojančių operacijų asinchroninėse užduotyse, kad neblokuotumėte įvykių ciklo.
• Tinkamai tvarkykite klaidas: Įgyvendinkite tinkamą klaidų tvarkymą, kad neapdorotos išimtys nesugadintų jūsų programos.
• Naudokite gijoms saugias duomenų struktūras: Dalijantis duomenimis tarp gijų, naudokite gijoms saugias duomenų struktūras, kurios teikia integruotus sinchronizavimo mechanizmus.
• Ribokite gijų skaičių: Venkite kurti per daug gijų, nes tai gali sukelti per didelį konteksto perjungimą ir sumažinti našumą.
• Naudokite lygiagretumo priemones: Pasinaudokite savo programavimo kalbos ar sistemos teikiamomis lygiagretumo priemonėmis, tokiomis kaip užraktai, semaforai ir eilės, kad supaprastintumėte sinchronizavimą ir komunikaciją.
• Kruopštus testavimas: Kruopščiai testuokite savo lygiagretų kodą, kad nustatytumėte ir ištaisytumėte su lygiagretumu susijusias klaidas. Naudokite įrankius, tokius kaip gijų sanitarai ir lenktynių detektoriai, kad padėtumėte nustatyti galimas problemas.

Specifinės gijoms

• Atsargiai naudokite užraktus: Naudokite užraktus, kad apsaugotumėte bendrinamus išteklius nuo lygiagrečios prieigos. Tačiau būkite atsargūs, kad išvengtumėte aklaviečių, įgydami užraktus nuoseklia tvarka ir atlaisvindami juos kuo greičiau.
• Naudokite atomines operacijas: Kai įmanoma, naudokite atomines operacijas, kad išvengtumėte užraktų poreikio.
• Žinokite apie klaidingą dalijimąsi (False Sharing): Klaidingas dalijimasis įvyksta, kai gijos pasiekia skirtingus duomenų elementus, kurie atsitiktinai yra toje pačioje talpyklos eilutėje (cache line). Tai gali sukelti našumo sumažėjimą dėl talpyklos anuliavimo. Kad išvengtumėte klaidingo dalijimosi, papildykite duomenų struktūras, kad kiekvienas duomenų elementas būtų atskiroje talpyklos eilutėje.

Specifinės Async/Await

• Venkite ilgai trunkančių operacijų: Venkite ilgai trunkančių operacijų asinchroninėse užduotyse, nes tai gali blokuoti įvykių ciklą. Jei reikia atlikti ilgai trunkančią operaciją, perkelkite ją į atskirą giją ar procesą.
• Naudokite asinchronines bibliotekas: Kai įmanoma, naudokite asinchronines bibliotekas ir API, kad išvengtumėte įvykių ciklo blokavimo.
• Teisingai grandinkite pažadus (Promises): Teisingai grandinkite pažadus, kad išvengtumėte įdėtų atgalinių iškvietimų ir sudėtingo valdymo srauto.
• Būkite atsargūs su išimtimis: Tinkamai tvarkykite išimtis asinchroninėse užduotyse, kad neapdorotos išimtys nesugadintų jūsų programos.

Išvada

Lygiagretusis programavimas yra galinga technika, skirta pagerinti programų našumą ir reakciją. Ar pasirinksite gijas, ar async/await, priklauso nuo konkrečių jūsų programos reikalavimų. Gijos suteikia tikrą paralelumą CPU reikalaujančioms užduotims, o async/await puikiai tinka I/O reikalaujančioms užduotims, kurioms reikia didelės reakcijos ir mastelio. Suprasdami šių dviejų požiūrių kompromisus ir laikydamiesi geriausių praktikų, galite parašyti patikimą ir efektyvų lygiagretų kodą.

Nepamirškite atsižvelgti į programavimo kalbą, su kuria dirbate, savo komandos įgūdžius ir visada profiliuokite bei atlikite lyginamąją analizę savo kodui, kad priimtumėte pagrįstus sprendimus dėl lygiagretumo įgyvendinimo. Sėkmingas lygiagretusis programavimas galiausiai priklauso nuo geriausio įrankio pasirinkimo konkrečiai užduočiai ir efektyvaus jo naudojimo.