Runtime sistēmas: Padziļināta analīze par atkritumu savākšanas algoritmiem

Aprēķinu sarežģītajā pasaulē runtime sistēmas ir neredzamie dzinēji, kas atdzīvina mūsu programmatūru. Tās pārvalda resursus, izpilda kodu un nodrošina lietojumprogrammu nevainojamu darbību. Daudzu mūsdienu runtime sistēmu pamatā ir kritisks komponents: Atkritumu savākšana (GC). GC ir process, kurā automātiski tiek atgūta atmiņa, ko lietojumprogramma vairs nelieto, novēršot atmiņas noplūdes un nodrošinot efektīvu resursu izmantošanu.

Izstrādātājiem visā pasaulē GC izpratne nav tikai tīrāka koda rakstīšana; tā ir izturīgu, efektīvu un mērogojamu lietojumprogrammu veidošana. Šī visaptverošā izpēte aplūkos galvenos jēdzienus un dažādus algoritmus, kas nodrošina atkritumu savākšanu, sniedzot vērtīgu ieskatu profesionāļiem ar dažādu tehnisko pieredzi.

Atmiņas pārvaldības nepieciešamība

Pirms iedziļināties konkrētos algoritmos, ir svarīgi saprast, kāpēc atmiņas pārvaldība ir tik būtiska. Tradicionālajās programmēšanas paradigmās izstrādātāji manuāli piešķir un atbrīvo atmiņu. Lai gan tas nodrošina precīzu kontroli, tas ir arī bēdīgi slavens kļūdu avots:

• Atmiņas noplūdes: Kad piešķirtā atmiņa vairs nav nepieciešama, bet nav skaidri atbrīvota, tā paliek aizņemta, izraisot pieejamās atmiņas pakāpenisku izsīkšanu. Laika gaitā tas var izraisīt lietojumprogrammu palēnināšanos vai pat avārijas.
• Nederīgi rādītāji: Ja atmiņa ir atbrīvota, bet rādītājs joprojām uz to norāda, mēģinājums piekļūt šai atmiņai rada nedefinētu uzvedību, bieži vien novedot pie drošības ievainojamībām vai avārijām.
• Dubultas atbrīvošanas kļūdas: Atmiņas atbrīvošana, kas jau ir atbrīvota, arī rada bojājumus un nestabilitāti.

Automātiska atmiņas pārvaldība, izmantojot atkritumu savākšanu, cenšas atvieglot šīs problēmas. Runtime sistēma uzņemas atbildību par neizmantotās atmiņas identificēšanu un atgūšanu, ļaujot izstrādātājiem koncentrēties uz lietojumprogrammas loģiku, nevis zema līmeņa atmiņas manipulācijām. Tas ir īpaši svarīgi globālā kontekstā, kur dažādas aparatūras iespējas un izvietošanas vides prasa izturīgu un efektīvu programmatūru.

Atkritumu savākšanas galvenie jēdzieni

Vairāki pamatjēdzieni ir visu atkritumu savākšanas algoritmu pamatā:

1. Sasniedzamība

Vairuma GC algoritmu galvenais princips ir sasniedzamība. Objekts tiek uzskatīts par sasniegtu, ja pastāv ceļš no zināmu, "dzīvu" sakņu kopuma uz šo objektu. Saknes parasti ietver:

• Globālie mainīgie
• Vietējie mainīgie izpildes steka
• CPU reģistri
• Statiskie mainīgie

Jebkurš objekts, kas nav sasniedzams no šīm saknēm, tiek uzskatīts par atkritumiem un to var atgūt.

2. Atkritumu savākšanas cikls

Tipisks GC cikls ietver vairākus posmus:

• Marķēšana: GC sāk no saknēm un iziet cauri visai objektu grafikai, marķējot visus sasniedzamos objektus.
• Slaucīšana (vai kompakcija): Pēc marķēšanas GC iziet cauri atmiņai. Neapzīmētie objekti (atkritumi) tiek atgūti. Dažos algoritmos sasniedzamie objekti tiek arī pārvietoti uz blakus esošām atmiņas vietām (kompakcija), lai samazinātu fragmentāciju.

3. Pauzes

Nozīmīgs GC izaicinājums ir potenciālās stop-the-world (STW) pauzes. Šo paužu laikā lietojumprogrammas izpilde tiek apturēta, lai GC varētu veikt savas darbības bez traucējumiem. Ilgas STW pauzes var ievērojami ietekmēt lietojumprogrammas atsaucību, kas ir kritisks jautājums lietotājiem orientētām lietojumprogrammām jebkurā globālajā tirgū.

Galvenie atkritumu savākšanas algoritmi

Gadu gaitā ir izstrādāti dažādi GC algoritmi, katram ar savām stiprajām un vājajām pusēm. Mēs izskatīsim dažus no visizplatītākajiem:

1. Marķēšana un slaucīšana

Marķēšanas un slaucīšanas algoritms ir viena no vecākajām un pamata GC metodēm. Tas darbojas divos atsevišķos posmos:

• Marķēšanas posms: GC sāk no sakņu kopuma un iziet cauri visai objektu grafikai. Katrs sastaptais objekts tiek marķēts.
• Slaucīšanas posms: GC pēc tam izskata visu kaudzi. Jebkurš objekts, kas nav marķēts, tiek uzskatīts par atkritumu un tiek atgūts. Atgūtā atmiņa tiek pievienota brīvajam sarakstam turpmākajiem piešķīrumiem.

Priekšrocības:

• Konceptuāli vienkāršs un plaši saprotams.
• Efektīvi apstrādā cikliskās datu struktūras.

Trūkumi:

• Veiktspēja: Var būt lēns, jo tas ir jāiziet cauri visai kaudzei un jāizskata visa atmiņa.
• Fragmentācija: Atmiņa kļūst fragmentēta, jo objekti tiek piešķirti un atbrīvoti dažādās vietās, potenciāli izraisot piešķīrumu kļūdas, pat ja kopējā brīvā atmiņa ir pietiekama.
• STW pauzes: Parasti ietver ilgas stop-the-world pauzes, īpaši lielās kaudzēs.

Piemērs: Agrīnās Java atkritumu savācēja versijas izmantoja pamata marķēšanas un slaucīšanas pieeju.

2. Marķēšana un kompakcija

Lai novērstu Marķēšanas un slaucīšanas fragmentācijas problēmu, Marķēšanas un kompakcijas algoritms pievieno trešo posmu:

• Marķēšanas posms: Identisks Marķēšanai un slaucīšanai, tas marķē visus sasniedzamos objektus.
• Kompakcijas posms: Pēc marķēšanas GC pārvieto visus marķētos (sasniedzamos) objektus uz blakus esošiem atmiņas blokiem. Tas novērš fragmentāciju.
• Slaucīšanas posms: GC pēc tam iziet cauri atmiņai. Tā kā objekti ir saspiesti, brīvā atmiņa tagad ir viens blakus esošs bloks kaudzes galā, padarot turpmākos piešķīrumus ļoti ātrus.

Priekšrocības:

• Novērš atmiņas fragmentāciju.
• Ātrāki turpmākie piešķīrumi.
• Joprojām apstrādā cikliskās datu struktūras.

Trūkumi:

• Veiktspēja: Kompakcijas posms var būt aprēķināšanas ziņā dārgs, jo tas ietver daudzu objektu pārvietošanu atmiņā.
• STW pauzes: Joprojām rada ievērojamas STW pauzes, jo ir nepieciešams pārvietot objektus.

Piemērs: Šī pieeja ir daudzu progresīvāku kolektoru pamats.

3. Kopēšanas atkritumu savācējs

Kopēšanas GC sadala kaudzi divās telpās: From-space un To-space. Parasti jauni objekti tiek piešķirti From-space.

• Kopēšanas posms: Kad tiek izsaukts GC, GC iziet cauri From-space, sākot no saknēm. Sasniedzamie objekti tiek kopēti no From-space uz To-space.
• Telpu maiņa: Kad visi sasniedzamie objekti ir kopēti, From-space satur tikai atkritumus, bet To-space satur visus dzīvos objektus. Pēc tam telpu lomas tiek apmainītas. Vecais From-space kļūst par jauno To-space, gatavu nākamajam ciklam.

Priekšrocības:

• Nav fragmentācijas: Objekti vienmēr tiek kopēti blakus, tāpēc To-space nav fragmentācijas.
• Ātri piešķīrumi: Piešķīrumi ir ātri, jo tie vienkārši piespiež rādītāju pašreizējā piešķīruma telpā.

Trūkumi:

• Telpas pārklājums: Nepieciešama divreiz vairāk atmiņas nekā vienai kaudzei, jo aktīvas ir divas telpas.
• Veiktspēja: Var būt dārgi, ja ir daudz dzīvu objektu, jo visi dzīvie objekti ir jākopē.
• STW pauzes: Joprojām rada ievērojamas STW pauzes, jo ir nepieciešams kopēt objektus.

Piemērs: Bieži izmanto "jaunās" paaudzes savākšanai paaudžu atkritumu savācējos.

4. Paaudžu atkritumu savākšana

Šī pieeja ir balstīta uz paaudžu hipotēzi, kas nosaka, ka lielākajai daļai objektu ir ļoti īss mūžs. Paaudžu GC sadala kaudzi vairākās paaudzēs:

• Jaunā paaudze: Kur tiek piešķirti jauni objekti. GC savākšana šeit ir bieža un ātra (mazie GC).
• Vecā paaudze: Objekti, kas pārdzīvo vairākus mazos GC, tiek paaugstināti uz veco paaudzi. GC savākšana šeit ir retāka un rūpīgāka (lielie GC).

Kā tas darbojas:

1. Jauni objekti tiek piešķirti Jaunajā paaudzē.
2. Mazie GC (bieži, izmantojot kopēšanas savācēju) tiek veikti bieži Jaunajā paaudzē. Objekti, kas pārdzīvo, tiek paaugstināti uz Veclaiku paaudzi.
3. Lielie GC tiek veikti retāk Veclaiku paaudzē, bieži izmantojot Marķēšanu un slaucīšanu vai Marķēšanu un kompakciju.

Priekšrocības:

• Uzlabota veiktspēja: Ievērojami samazina visa atkritumu savākšanas biežumu. Lielākā daļa atkritumu atrodas Jaunajā paaudzē, kas tiek savākta ātri.
• Samazinātas pauzes: Mazie GC ir daudz īsāki nekā pilnas kaudzes GC.

Trūkumi:

• Sarežģītība: Sarežģītāka ieviešanā.
• Paaugstināšanas pārklājums: Objekti, kas pārdzīvo mazos GC, rada paaugstināšanas izmaksas.
• Atcerēšanās kopas: Lai apstrādātu objektu atsauces no Vecās paaudzes uz Jauno paaudzi, ir nepieciešamas "atcerēšanās kopas", kas var pievienot pārklājumu.

Piemērs: Java Virtual Machine (JVM) plaši izmanto paaudžu GC (piemēram, ar tādiem savācējiem kā Throughput Collector, CMS, G1, ZGC).

5. Atsauču skaitīšana

Tā vietā, lai izsekotu sasniedzamību, Atsauču skaitīšana pievieno katram objektam skaitītāju, norādot, cik atsauču uz to norāda. Objekts tiek uzskatīts par atkritumu, kad tā atsauču skaits samazinās līdz nullei.

• Inkrementēšana: Kad tiek izveidota jauna atsauce uz objektu, tā atsauču skaits tiek palielināts.
• Dekrementēšana: Kad tiek noņemta atsauce uz objektu, tā skaitītājs tiek samazināts. Ja skaitītājs sasniedz nulli, objekts tiek nekavējoties atbrīvots.

Priekšrocības:

• Nav paužu: Atbrīvošana notiek inkrementāli, kad tiek atbrīvotas atsauces, izvairoties no ilgām STW pauzēm.
• Vienkāršība: Konceptuāli vienkārša.

Trūkumi:

• Cikliskās atsauces: Galvenais trūkums ir nespēja savākt cikliskās datu struktūras. Ja objekts A norāda uz B, un B norāda atpakaļ uz A, pat ja nav ārēju atsauču, to atsauču skaits nekad nesasniegs nulli, radot atmiņas noplūdes.
• Pārklājums: Skaitītāju palielināšana un samazināšana pievieno pārklājumu katrai atsauces operācijai.
• Neparedzama uzvedība: Atsauču skaitītāju samazināšanas secība var būt neparedzama, ietekmējot to, kad tiek atgūta atmiņa.

Piemērs: Izmanto Swift (ARC - Automatic Reference Counting), Python un Objective-C.

6. Inkrementāla atkritumu savākšana

Lai vēl vairāk samazinātu STW pauzes laiku, inkrementāli GC algoritmi veic GC darbu mazās daļās, savijot GC operācijas ar lietojumprogrammas izpildi. Tas palīdz saglabāt īsas pauzes.

• Fāzētas operācijas: Marķēšanas un slaucīšanas/kompakcijas fāzes ir sadalītas mazākos soļos.
• Savijums: Lietojumprogrammas pavediens var izpildīties starp GC darba cikliem.

Priekšrocības:

• Īsākas pauzes: Ievērojami samazina STW paužu ilgumu.
• Uzlabota atsaucība: Labāk piemērota interaktīvām lietojumprogrammām.

Trūkumi:

• Sarežģītība: Sarežģītāka ieviešanā nekā tradicionālajiem algoritmiem.
• Veiktspējas pārklājums: Var radīt zināmu pārklājumu, jo ir nepieciešama koordinācija starp GC un lietojumprogrammas pavedieniem.

Piemērs: Vienlaicīgais Marķēšanas un slaucīšanas (CMS) savācējs iepriekšējās JVM versijās bija agrīns mēģinājums inkrementālai savākšanai.

7. Vienlaicīga atkritumu savākšana

Vienlaicīgi GC algoritmi veic lielāko daļu sava darba vienlaicīgi ar lietojumprogrammas pavedieniem. Tas nozīmē, ka lietojumprogramma turpina darboties, kamēr GC identificē un atgūst atmiņu.

• Koordinēts darbs: GC pavedieni un lietojumprogrammas pavedieni darbojas paralēli.
• Koordinācijas mehānismi: Nepieciešami sarežģīti mehānismi, lai nodrošinātu konsekvenci, piemēram, trīskrāsu marķēšanas algoritmi un rakstīšanas aizsprostojumi (kas izseko lietojumprogrammas veiktās izmaiņas objektu atsauces).

Priekšrocības:

• Minimālās STW pauzes: Tiecas uz ļoti īsu vai pat "bez-paužu" darbību.
• Augsta caurlaide un atsaucība: Lieliski piemērots lietojumprogrammām ar stingrām latentuma prasībām.

Trūkumi:

• Sarežģītība: Ārkārtīgi sarežģīti pareizi izstrādāt un ieviest.
• Caurlaides samazināšanās: Var dažreiz samazināt kopējo lietojumprogrammas caurlaidību sakarā ar vienlaicīgu operāciju un koordinācijas pārklājumu.
• Atmiņas pārklājums: Var būt nepieciešama papildu atmiņa izmaiņu izsekošanai.

Piemērs: Mūsdienu savācēji, piemēram, G1, ZGC un Shenandoah Java, kā arī GC Go un .NET Core ir ļoti vienlaicīgi.

8. G1 (Garbage-First) savācējs

G1 savācējs, kas ieviests Java 7 un kļuvis par noklusējumu Java 9, ir servera stila, reģionu balstīts, paaudžu un vienlaicīgs savācējs, kas izstrādāts, lai līdzsvarotu caurlaidību un latentumu.

• Reģionu balstīts: Sadala kaudzi vairākos mazos reģionos. Reģioni var būt Eden, Survivor vai Old.
• Paaudžu: Saglabā paaudžu īpašības.
• Vienlaicīgs un Paralēls: Veic lielāko daļu darba vienlaicīgi ar lietojumprogrammas pavedieniem un izmanto vairākus pavedienus evakuācijai (dzīvo objektu kopēšanai).
• Orientēts uz mērķiem: Ļauj lietotājam norādīt vēlamos pauzes laika mērķus. G1 cenšas sasniegt šo mērķi, vispirms savācot reģionus ar visvairāk atkritumu (tāpēc "Garbage-First").

Priekšrocības:

• Līdzsvarota veiktspēja: Laba plašam lietojumprogrammu klāstam.
• Paredzami pauzes laiki: Ievērojami uzlabota pauzes laika paredzamība salīdzinājumā ar iepriekšējiem savācējiem.
• Labas lielas kaudzes apstrāde: Efektīvi mērogojas ar lieliem kaudzes izmēriem.

Trūkumi:

• Sarežģītība: Būtiski sarežģīts.
• Ilgāku paužu potenciāls: Ja mērķa pauzes laiks ir agresīvs un kaudze ir ļoti fragmentēta ar dzīviem objektiem, viens GC cikls var pārsniegt mērķi.

Piemērs: Noklusējuma GC daudzām mūsdienu Java lietojumprogrammām.

9. ZGC un Shenandoah

Šie ir jaunāki, progresīvāki atkritumu savācēji, kas izstrādāti ārkārtīgi īsam pauzes laikam, bieži vien ar mērķi sasniegt apakšmilisekundes pauzes pat ļoti lielās kaudzēs (terabaitos).

• Ielādes laika kompakcija: Tie veic kompakciju vienlaicīgi ar lietojumprogrammu.
• Ļoti vienlaicīgs: Gandrīz viss GC darbs notiek vienlaicīgi.
• Reģionu balstīts: Izmanto reģionu balstītu pieeju, kas līdzīga G1.

Priekšrocības:

• Īpaši zema latentuma: Mērķē uz ļoti īsiem, konsekventiem pauzes laikiem.
• Mērogojamība: Lieliski piemērots lietojumprogrammām ar milzīgām kaudzēm.

Trūkumi:

• Caurlaides ietekme: Var būt nedaudz augstāks CPU pārklājums nekā caurlaidību orientētiem savācējiem.
• Briedums: Salīdzinoši jauni, lai gan strauji briedušies.

Piemērs: ZGC un Shenandoah ir pieejami jaunākās OpenJDK versijās un ir piemēroti latentumam jutīgām lietojumprogrammām, piemēram, finanšu tirdzniecības platformām vai plaša mēroga tīmekļa pakalpojumiem, kas apkalpo globālu auditoriju.

Atkritumu savākšana dažādās runtime vidēs

Lai gan principi ir universāli, GC ieviešana un nianses dažādās runtime vidēs atšķiras:

• Java Virtual Machine (JVM): Vēsturiski JVM ir bijusi GC inovāciju priekšgalā. Tā piedāvā spraudņu GC arhitektūru, ļaujot izstrādātājiem izvēlēties no dažādiem savācējiem (Serial, Parallel, CMS, G1, ZGC, Shenandoah) atbilstoši savas lietojumprogrammas vajadzībām. Šī elastība ir ļoti svarīga, lai optimizētu veiktspēju dažādos globālos izvietošanas scenārijos.
• .NET Common Language Runtime (CLR): .NET CLR arī piedāvā izsmalcinātu GC. Tā piedāvā gan paaudžu, gan kompakcijas atkritumu savākšanu. CLR GC var darboties darbstacijas režīmā (optimizēts klienta lietojumprogrammām) vai servera režīmā (optimizēts daudzkodolu servera lietojumprogrammām). Tas arī atbalsta vienlaicīgu un fona atkritumu savākšanu, lai samazinātu pauzes.
• Go Runtime: Go programmēšanas valoda izmanto vienlaicīgu, trīskrāsu marķēšanas un slaucīšanas atkritumu savācēju. Tas ir izstrādāts zems latentums un augsta vienlaicīgums, saskaņojoties ar Go filozofiju veidot efektīvas vienlaicīgas sistēmas. Go GC mērķis ir saglabāt ļoti īsas pauzes, parasti mikrosekundēs.
• JavaScript dzinēji (V8, SpiderMonkey): Mūsdienu JavaScript dzinēji pārlūkprogrammās un Node.js izmanto paaudžu atkritumu savācējus. Tie izmanto tādas metodes kā marķēšana un slaucīšana un bieži vien ietver inkrementālu savākšanu, lai uzturētu atsaucīgu UI mijiedarbību.

Pareizā GC algoritma izvēle

Piemērota GC algoritma izvēle ir kritisks lēmums, kas ietekmē lietojumprogrammas veiktspēju, mērogojamību un lietotāja pieredzi. Universāla risinājuma nav. Apsveriet šos faktorus:

• Lietojumprogrammas prasības: Vai jūsu lietojumprogramma ir jutīga pret latentumu (piemēram, reāllaika tirdzniecība, interaktīvi tīmekļa pakalpojumi) vai orientēta uz caurlaidību (piemēram, pakešu apstrāde, zinātniskā skaitļošana)?
• Kaudzes izmērs: Ļoti lielām kaudzēm (desmitiem vai simtiem gigabaitu) bieži vien priekšroka tiek dota savācējiem, kas paredzēti mērogojamībai un zems latentums (piemēram, G1, ZGC, Shenandoah).
• Vienlaicīguma vajadzības: Vai jūsu lietojumprogrammai nepieciešams augsts vienlaicīguma līmenis? Vienlaicīgais GC var būt noderīgs.
• Izstrādes darbs: Vienkāršākus algoritmus var būt vieglāk saprast, taču bieži vien tie nāk ar veiktspējas kompromisiem. Progresīvāki savācēji piedāvā labāku veiktspēju, bet ir sarežģītāki.
• Mērķa vide: Izvietošanas vides iespējas un ierobežojumi (piemēram, mākonis, iegultās sistēmas) var ietekmēt jūsu izvēli.

Praktiski padomi GC optimizēšanai

Papildus pareizā algoritma izvēlei varat optimizēt GC veiktspēju:

• Saskaņojiet GC parametrus: Lielākā daļa runtime sistēmu ļauj saskaņot GC parametrus (piemēram, kaudzes izmēru, paaudžu izmērus, konkrētas savācēja opcijas). Tas bieži prasa profilēšanu un eksperimentēšanu.
• Objektu kopas: Objektu atkārtota izmantošana, izmantojot kopas, var samazināt piešķīrumu un atbrīvošanas skaitu, tādējādi samazinot GC spiedienu.
• Izvairieties no nevajadzīgas objektu izveides: Ņemiet vērā liela skaita īslaicīgu objektu izveidi, jo tas var palielināt GC darbu.
• Izmantojiet vājas/mīkstas atsauces gudri: Šīs atsauces ļauj atgūt objektus, ja atmiņas ir maz, kas var būt noderīgi kešatmiņām.
• Profilējiet savu lietojumprogrammu: Izmantojiet profilēšanas rīkus, lai izprastu GC uzvedību, identificētu ilgās pauzes un noteiktu apgabalus, kur GC pārklājums ir augsts. Rīki, piemēram, VisualVM, JConsole (Java), PerfView (.NET) un `pprof` (Go), ir nenovērtējami.

Atkritumu savākšanas nākotne

Tiek turpināta cīņa par vēl zemāku latentumu un augstāku efektivitāti. Nākotnes GC pētījumi un attīstība, visticamāk, koncentrēsies uz:

• Turpmāka paužu samazināšana: Mērķējot uz patiesi "bez-paužu" vai "gandrīz bez-paužu" savākšanu.
• Aparatūras palīdzība: Izpētīt, kā aparatūra var palīdzēt GC operācijās.
• AI/ML virzīta GC: Potenciāli izmantojot mašīnmācīšanos, lai dinamiski pielāgotu GC stratēģijas lietojumprogrammas uzvedībai un sistēmas slodzei.
• Savietojamība: Labāka integrācija un savietojamība starp dažādām GC ieviešanām un valodām.

Secinājums

Atkritumu savākšana ir mūsdienu runtime sistēmu stūrakmens, kas klusi pārvalda atmiņu, lai nodrošinātu, ka lietojumprogrammas darbojas nevainojami un efektīvi. No pamata Marķēšanas un slaucīšanas līdz īpaši zema latentuma ZGC, katrs algoritms ir evolūcijas solis atmiņas pārvaldības optimizēšanā. Izstrādātājiem visā pasaulē, stingra izpratne par šīm metodēm ļauj viņiem veidot efektīvākas, mērogojamākas un uzticamākas programmatūras, kas var attīstīties dažādās globālās vidēs. Izprotot kompromisus un piemērojot paraugpraksi, mēs varam izmantot GC jaudu, lai radītu nākamo izcilu lietojumprogrammu paaudzi.