當系統內存不足以分配時,Linux內核會使用一種OOM Killer(Out-Of-Memory Killer)機制釋放內存,該機制通過一系列比較選擇出最適合的進程并將其kill掉,從而達到保障系統穩定運行的目的。那么在內核中,OOM Killer具體是怎么運轉的呢?
一、觸發過程
在申請內存時,必然會調用alloc_page(),在__alloc_pages中有以下調用關系:
其中,在__alloc_pages_slowpath中,當反復嘗試reclaim和compact后仍不成功,就會調用__alloc_pages_may_oom進行內存釋放。
/* *Ifwefailedtomakeanyprogressreclaiming,thenweare *runningoutofoptionsandhavetoconsidergoingOOM */ if(!did_some_progress){ if(oom_gfp_allowed(gfp_mask)){ if(oom_killer_disabled) gotonopage; /*Coredumpscanquicklydepleteallmemoryreserves*/ if((current->flags&PF_DUMPCORE)&& !(gfp_mask&__GFP_NOFAIL)) gotonopage; page=__alloc_pages_may_oom(gfp_mask,order, zonelist,high_zoneidx, nodemask,preferred_zone, classzone_idx,migratetype); ...... }
如果定義了oom_killer_disabled,就會直接goto到nopage,不會觸發OOM機制(此值默認為0).
二、工作過程(基于Linux-3.18)
當內核檢測到內存不足,執行到out_of_memory時,OOM Killer會選擇一個進程并把他kill掉:
p = select_bad_process(&points, totalpages, mpol_mask, force_kill);
具體的選擇過程在select_bad_process中進行:
/* *Simpleselectionloop.Wechosetheprocesswiththehighest *numberof'points'.Returns-1onscanabort. * *(notdocbooked,wedon'twantthisoneclutteringupthemanual) */ staticstructtask_struct*select_bad_process(unsignedint*ppoints, unsignedlongtotalpages,constnodemask_t*nodemask, boolforce_kill) { structtask_struct*g,*p; structtask_struct*chosen=NULL; unsignedlongchosen_points=0; rcu_read_lock(); for_each_process_thread(g,p){ unsignedintpoints; switch(oom_scan_process_thread(p,totalpages,nodemask, force_kill)){ caseOOM_SCAN_SELECT: chosen=p; chosen_points=ULONG_MAX; /*fallthrough*/ caseOOM_SCAN_CONTINUE: continue; caseOOM_SCAN_ABORT: rcu_read_unlock(); return(structtask_struct*)(-1UL); caseOOM_SCAN_OK: break; }; points=oom_badness(p,NULL,nodemask,totalpages); if(!points||points
select_bad_process會選擇一個points數值最高的進程并返回。在宏for_each_process_thread循環里,通過switch和oom_scan_process_thread對一些進程做特殊化處理,如一些進程不適合被結束,就跳過本次循環。如果該進程沒有特殊狀態,oom_scan_process_thread返回OOM_SCAN_OK,繼續向下進行判斷。這里使用了oom_badness對其points值進行計算。
/** *oom_badness-heuristicfunctiontodeterminewhichcandidatetasktokill *@p:taskstructofwhichtaskweshouldcalculate *@totalpages:totalpresentRAMallowedforpageallocation * *Theheuristicfordeterminingwhichtasktokillismadetobeassimpleand *predictableaspossible.Thegoalistoreturnthehighestvalueforthe *taskconsumingthemostmemorytoavoidsubsequentoomfailures. */ unsignedlongoom_badness(structtask_struct*p,structmem_cgroup*memcg, constnodemask_t*nodemask,unsignedlongtotalpages) { longpoints; longadj; if(oom_unkillable_task(p,memcg,nodemask)) return0; p=find_lock_task_mm(p); if(!p) return0; adj=(long)p->signal->oom_score_adj; if(adj==OOM_SCORE_ADJ_MIN){ task_unlock(p); return0; } /* *ThebaselineforthebadnessscoreistheproportionofRAMthateach *task'srss,pagetableandswapspaceuse. */ points=get_mm_rss(p->mm)+atomic_long_read(&p->mm->nr_ptes)+ get_mm_counter(p->mm,MM_SWAPENTS); task_unlock(p); /* *Rootprocessesget3%bonus,justlikethe__vm_enough_memory() *implementationusedbyLSMs. */ if(has_capability_noaudit(p,CAP_SYS_ADMIN)) points-=(points*3)/100; /*Normalizetooom_score_adjunits*/ adj*=totalpages/1000; points+=adj; /* *Neverreturn0foraneligibletaskregardlessoftherootbonusand *oom_score_adj(oom_score_adjcan'tbeOOM_SCORE_ADJ_MINhere). */ returnpoints>0?points:1; }
在oom_badness的上半部分,對進程做了一些判斷,排除了不可進行kill的進程以及oom_score_adj為OOM_SCORE_ADJ_MIN(-1000)的進程,進行了return 0。接著是進行比重計算,將rss、nr_ptes、swap空間使用量占RAM比重相加。如果是Root進程則去掉3%的比重points -= (points * 3) / 100;。之后對adj進行歸一化并與points相加,在返回值計算時,使用了一個三目運算符,即當points大于0時,返回points,否則返回1。這里注釋給出的原因是,對于有資格的進程(即可以被OOM Killer掉的進程),是絕不能返回0的。(這里我的理解是,如果points返回0,這個進程可能在之后的比較中就處于劣勢,成為漏網之魚)
再回到select_bad_process中看,之后跟的一個if比較就是為了進行取最大值的判斷,再之后判斷該進程是否為thread_group_leader,若是則continue跳過本次循環,否則該進程就是被chosen的進程。
再回到out_of_memory中,得到p值后,需要對其進行判斷:
if(!p){ dump_header(NULL,gfp_mask,order,NULL,mpol_mask); panic("Outofmemoryandnokillableprocesses... "); } if(p!=(void*)-1UL){ oom_kill_process(p,gfp_mask,order,points,totalpages,NULL, nodemask,"Outofmemory"); killed=1; }
當p是0時,即沒有找到可以kill掉的進程,內核發出一個panic。當p不是0時,即找到了可以kill掉的進程,則通過oom_kill_process將其kill。
在oom_kill_process中有個“有意思”的事是,在kill之前,會先遍歷其子進程,重新通過oom_badness計算出一個最適合被kill掉的子進程,該子進程會有限考慮被kill掉,從而避免kill父進程導致的接管子進程的工作開銷。并且最終被kill掉的進程的名字叫victim,這個單詞的中文含義是犧牲者,有點是為了整個系統的穩定運轉而犧牲的意思。在這之后OOM Killer會kill掉和victim使用相同虛擬內存的進程,并通過發送SIGKILL信號將其終止。
三、到底為什么會發生Out Of Memory?
因為物理內存頁的分配發生在使用的瞬間而非分配的瞬間。若某個進程申請了200MB內存,但實際上只使用了100MB,未使用到的100MB根本沒有分配物理內存頁。當進程需要內存時,進程從內核得到的只是虛擬地址的使用權,而不是實際的物理地址,實際的物理內存只有當進程真的去訪問新獲取的虛擬地址時,產生缺頁異常,從而進入分配實際物理地址的過程,之后系統返回產生異常的地址,重新執行內存訪問。虛擬內存需要物理內存作為支撐,當分配了太多虛擬內存,導致物理內存不夠時,就發生了Out Of Memory。這種允許超額commit的機制就是overcommit。
overcommit即操作系統在應用申請內存空間時不去檢查是否超出當前可用量,隨意滿足申請要求,應用也不管實際是否有足夠多的內存可使用,認為我申請了2G,OS肯定就給我2G使用。最后,隨著內存越用越多,OS發現內存不夠用了,必須要收回一些內存才行,就觸發了上述的OOM Killer機制回收內存。
Linux根據參數 vm.overcommit_memory設置overcommit:
0 ——默認值,啟發式overcommit,它允許overcommit,但太明顯的overcommit會被拒絕,比如malloc一次性申請的內存大小就超過了系統總內存。
1 ——Always overcommit. 允許overcommit,對內存申請來者不拒。
2 ——不允許overcommit,提交給系統的總地址空間大小不允許超過CommitLimit。(CommitLimit 就是overcommit的閾值,申請的內存總數超過CommitLimit的話就算是overcommit)
四、總結
由于物理內存的分配機制,以及overcommit的存在,導致了在物理內存不夠時的OOM Killer。OOM Killer機制很有意思,它為了保護整個系統的安全穩定運行,需要找出一個最合適的進程kill掉。這是不得已而為之,內核必須在kill掉進程和系統崩潰之間選擇其中一個。內核代碼中out_of_memory注釋中也體現了這種無奈。> * If we run out of memory, we have the choice between either
killing a random task (bad), letting the system crash (worse)
OR try to be smart about which process to kill. Note that we
don't have to be perfect here, we just have to be good.
在選擇合適的進程時,OOM Killer會挑選一個占用內存最大的進程,這也很好理解,畢竟kill掉一個大的可以獲得更多的物理內存,并且損失也比較小。如果kill掉多個小的,損失會比較大。Linux內核總是去選擇更高效的方法。
審核編輯:湯梓紅
-
內核
+關注
關注
3文章
1384瀏覽量
40442 -
Linux
+關注
關注
87文章
11351瀏覽量
210505 -
內存
+關注
關注
8文章
3064瀏覽量
74382
原文標題:OOM Killer機制學習
文章出處:【微信號:magedu-Linux,微信公眾號:馬哥Linux運維】歡迎添加關注!文章轉載請注明出處。
發布評論請先 登錄
相關推薦
容器JVM內存配置最佳實踐
![容器JVM內存配置最佳實踐](https://file1.elecfans.com/web2/M00/8A/1B/wKgaomSRBPKAJVjCAAAIMCFqdaI522.png)
STM32MP157D提示DAC沒有進入syspend,導致休眠失敗怎么解決?
ESP8266真的是Arduino Killer嗎
linux內核oom機制分析
![linux內核<b class='flag-5'>oom</b><b class='flag-5'>機制</b>分析](https://file1.elecfans.com//web2/M00/A6/E3/wKgZomUMQRSASxjkAAAOOJyHLVo249.jpg)
基于非聯合型學習機制的學習神經元模型
![基于非聯合型<b class='flag-5'>學習機制</b>的<b class='flag-5'>學習</b>神經元模型](https://file.elecfans.com/web2/M00/49/6B/poYBAGKhwLGAVAvyAAAWLO64ito277.jpg)
評論