mm/oom_kill.c

   1 /*
   2  *  linux/mm/oom_kill.c
   3  *
   4  *  Copyright (C)  1998,2000  Rik van Riel
   5  *      Thanks go out to Claus Fischer for some serious inspiration and
   6  *      for goading me into coding this file...
   7  *
   8  *  The routines in this file are used to kill a process when
   9  *  we're seriously out of memory. This gets called from __alloc_pages()
  10  *  in mm/page_alloc.c when we really run out of memory.
  11  *
  12  *  Since we won't call these routines often (on a well-configured
  13  *  machine) this file will double as a 'coding guide' and a signpost
  14  *  for newbie kernel hackers. It features several pointers to major
  15  *  kernel subsystems and hints as to where to find out what things do.
  16  */
  17
  18 #include <linux/mm.h>
  19 #include <linux/sched.h>
  20 #include <linux/swap.h>
  21 #include <linux/timex.h>
  22 #include <linux/jiffies.h>
  23 #include <linux/cpuset.h>
  24
  25 /* #define DEBUG */
  26
  27 /**
  28  * oom_badness - calculate a numeric value for how bad this task has been
  29  * @p: task struct of which task we should calculate
  30  * @uptime: current uptime in seconds
  31  *
  32  * The formula used is relatively simple and documented inline in the
  33  * function. The main rationale is that we want to select a good task
  34  * to kill when we run out of memory.
  35  *
  36  * Good in this context means that:
  37  * 1) we lose the minimum amount of work done
  38  * 2) we recover a large amount of memory
  39  * 3) we don't kill anything innocent of eating tons of memory
  40  * 4) we want to kill the minimum amount of processes (one)
  41  * 5) we try to kill the process the user expects us to kill, this
  42  *    algorithm has been meticulously tuned to meet the principle
  43  *    of least surprise ... (be careful when you change it)
  44  */
  45
  46 unsigned long badness(struct task_struct *p, unsigned long uptime)
  47 {
  48         unsigned long points, cpu_time, run_time, s;
  49         struct list_head *tsk;
  50
  51         if (!p->mm)
  52                 return 0;
  53
  54         /*
  55          * The memory size of the process is the basis for the badness.
  56          */
  57         points = p->mm->total_vm;
  58         /* FIXME: add vserver badness ;) */
  59
  60         /*
  61          * Processes which fork a lot of child processes are likely
  62          * a good choice. We add half the vmsize of the children if they
  63          * have an own mm. This prevents forking servers to flood the
  64          * machine with an endless amount of children. In case a single
  65          * child is eating the vast majority of memory, adding only half
  66          * to the parents will make the child our kill candidate of choice.
  67          */
  68         list_for_each(tsk, &p->children) {
  69                 struct task_struct *chld;
  70                 chld = list_entry(tsk, struct task_struct, sibling);
  71                 if (chld->mm != p->mm && chld->mm)
  72                         points += chld->mm->total_vm/2 + 1;
  73         }
  74
  75         /*
  76          * CPU time is in tens of seconds and run time is in thousands
  77          * of seconds. There is no particular reason for this other than
  78          * that it turned out to work very well in practice.
  79          */
  80         cpu_time = (cputime_to_jiffies(p->utime) + cputime_to_jiffies(p->stime))
  81                 >> (SHIFT_HZ + 3);
  82
  83         if (uptime >= p->start_time.tv_sec)
  84                 run_time = (uptime - p->start_time.tv_sec) >> 10;
  85         else
  86                 run_time = 0;
  87
  88         s = int_sqrt(cpu_time);
  89         if (s)
  90                 points /= s;
  91         s = int_sqrt(int_sqrt(run_time));
  92         if (s)
  93                 points /= s;
  94
  95         /*
  96          * Niced processes are most likely less important, so double
  97          * their badness points.
  98          */
  99         if (task_nice(p) > 0)
 100                 points *= 2;
 101
 102         /*
 103          * Superuser processes are usually more important, so we make it
 104          * less likely that we kill those.
 105          */
 106         if (cap_t(p->cap_effective) & CAP_TO_MASK(CAP_SYS_ADMIN) ||
 107                                 p->uid == 0 || p->euid == 0)
 108                 points /= 4;
 109
 110         /*
 111          * We don't want to kill a process with direct hardware access.
 112          * Not only could that mess up the hardware, but usually users
 113          * tend to only have this flag set on applications they think
 114          * of as important.
 115          */
 116         if (cap_t(p->cap_effective) & CAP_TO_MASK(CAP_SYS_RAWIO))
 117                 points /= 4;
 118
 119         /*
 120          * Adjust the score by oomkilladj.
 121          */
 122         if (p->oomkilladj) {
 123                 if (p->oomkilladj > 0)
 124                         points <<= p->oomkilladj;
 125                 else
 126                         points >>= -(p->oomkilladj);
 127         }
 128
 129 #ifdef DEBUG
 130         printk(KERN_DEBUG "OOMkill: task %d (%s) got %d points\n",
 131         p->pid, p->comm, points);
 132 #endif
 133         return points;
 134 }
 135
 136 /*
 137  * Types of limitations to the nodes from which allocations may occur
 138  */
 139 #define CONSTRAINT_NONE 1
 140 #define CONSTRAINT_MEMORY_POLICY 2
 141 #define CONSTRAINT_CPUSET 3
 142
 143 /*
 144  * Determine the type of allocation constraint.
 145  */
 146 static inline int constrained_alloc(struct zonelist *zonelist, gfp_t gfp_mask)
 147 {
 148 #ifdef CONFIG_NUMA
 149         struct zone **z;
 150         nodemask_t nodes = node_online_map;
 151
 152         for (z = zonelist->zones; *z; z++)
 153                 if (cpuset_zone_allowed(*z, gfp_mask))
 154                         node_clear((*z)->zone_pgdat->node_id,
 155                                         nodes);
 156                 else
 157                         return CONSTRAINT_CPUSET;
 158
 159         if (!nodes_empty(nodes))
 160                 return CONSTRAINT_MEMORY_POLICY;
 161 #endif
 162
 163         return CONSTRAINT_NONE;
 164 }
 165
 166 /*
 167  * Simple selection loop. We chose the process with the highest
 168  * number of 'points'. We expect the caller will lock the tasklist.
 169  *
 170  * (not docbooked, we don't want this one cluttering up the manual)
 171  */
 172 static struct task_struct *select_bad_process(unsigned long *ppoints)
 173 {
 174         struct task_struct *g, *p;
 175         struct task_struct *chosen = NULL;
 176         struct timespec uptime;
 177         *ppoints = 0;
 178
 179         do_posix_clock_monotonic_gettime(&uptime);
 180         do_each_thread(g, p) {
 181                 unsigned long points;
 182                 int releasing;
 183
 184                 /* skip the init task with pid == 1 */
 185                 if (p->pid == 1)
 186                         continue;
 187                 if (p->oomkilladj == OOM_DISABLE)
 188                         continue;
 189                 /* If p's nodes don't overlap ours, it won't help to kill p. */
 190                 if (!cpuset_excl_nodes_overlap(p))
 191                         continue;
 192
 193                 /*
 194                  * This is in the process of releasing memory so for wait it
 195                  * to finish before killing some other task by mistake.
 196                  */
 197                 releasing = test_tsk_thread_flag(p, TIF_MEMDIE) ||
 198                                                 p->flags & PF_EXITING;
 199                 if (releasing && !(p->flags & PF_DEAD))
 200                         return ERR_PTR(-1UL);
 201                 if (p->flags & PF_SWAPOFF)
 202                         return p;
 203
 204                 points = badness(p, uptime.tv_sec);
 205                 if (points > *ppoints || !chosen) {
 206                         chosen = p;
 207                         *ppoints = points;
 208                 }
 209         } while_each_thread(g, p);
 210         return chosen;
 211 }
 212
 213 /**
 214  * We must be careful though to never send SIGKILL a process with
 215  * CAP_SYS_RAW_IO set, send SIGTERM instead (but it's unlikely that
 216  * we select a process with CAP_SYS_RAW_IO set).
 217  */
 218 static void __oom_kill_task(task_t *p, const char *message)
 219 {
 220         if (p->pid == 1) {
 221                 WARN_ON(1);
 222                 printk(KERN_WARNING "tried to kill init!\n");
 223                 return;
 224         }
 225
 226         task_lock(p);
 227         if (!p->mm || p->mm == &init_mm) {
 228                 WARN_ON(1);
 229                 printk(KERN_WARNING "tried to kill an mm-less task!\n");
 230                 task_unlock(p);
 231                 return;
 232         }
 233         task_unlock(p);
 234         printk(KERN_ERR "%s: Killed process %d (%s).\n",
 235                                 message, p->pid, p->comm);
 236
 237         /*
 238          * We give our sacrificial lamb high priority and access to
 239          * all the memory it needs. That way it should be able to
 240          * exit() and clear out its resources quickly...
 241          */
 242         p->time_slice = HZ;
 243         set_tsk_thread_flag(p, TIF_MEMDIE);
 244
 245         force_sig(SIGKILL, p);
 246 }
 247
 248 static struct mm_struct *oom_kill_task(task_t *p, const char *message)
 249 {
 250         struct mm_struct *mm = get_task_mm(p);
 251         task_t * g, * q;
 252
 253         if (!mm)
 254                 return NULL;
 255         if (mm == &init_mm) {
 256                 mmput(mm);
 257                 return NULL;
 258         }
 259
 260         __oom_kill_task(p, message);
 261         /*
 262          * kill all processes that share the ->mm (i.e. all threads),
 263          * but are in a different thread group
 264          */
 265         do_each_thread(g, q)
 266                 if (q->mm == mm && q->tgid != p->tgid)
 267                         __oom_kill_task(q, message);
 268         while_each_thread(g, q);
 269
 270         return mm;
 271 }
 272
 273 static struct mm_struct *oom_kill_process(struct task_struct *p,
 274                                 unsigned long points, const char *message)
 275 {
 276         struct mm_struct *mm;
 277         struct task_struct *c;
 278         struct list_head *tsk;
 279
 280         printk(KERN_ERR "Out of Memory: Kill process %d (%s) score %li and "
 281                 "children.\n", p->pid, p->comm, points);
 282         /* Try to kill a child first */
 283         list_for_each(tsk, &p->children) {
 284                 c = list_entry(tsk, struct task_struct, sibling);
 285                 if (c->mm == p->mm)
 286                         continue;
 287                 mm = oom_kill_task(c, message);
 288                 if (mm)
 289                         return mm;
 290         }
 291         return oom_kill_task(p, message);
 292 }
 293
 294 /**
 295  * oom_kill - kill the "best" process when we run out of memory
 296  *
 297  * If we run out of memory, we have the choice between either
 298  * killing a random task (bad), letting the system crash (worse)
 299  * OR try to be smart about which process to kill. Note that we
 300  * don't have to be perfect here, we just have to be good.
 301  */
 302 void out_of_memory(struct zonelist *zonelist, gfp_t gfp_mask, int order)
 303 {
 304         struct mm_struct *mm = NULL;
 305         task_t *p;
 306         unsigned long points = 0;
 307
 308         if (printk_ratelimit()) {
 309                 printk("oom-killer: gfp_mask=0x%x, order=%d\n",
 310                         gfp_mask, order);
 311                 dump_stack();
 312                 show_mem();
 313         }
 314
 315         cpuset_lock();
 316         read_lock(&tasklist_lock);
 317
 318         /*
 319          * Check if there were limitations on the allocation (only relevant for
 320          * NUMA) that may require different handling.
 321          */
 322         switch (constrained_alloc(zonelist, gfp_mask)) {
 323         case CONSTRAINT_MEMORY_POLICY:
 324                 mm = oom_kill_process(current, points,
 325                                 "No available memory (MPOL_BIND)");
 326                 break;
 327
 328         case CONSTRAINT_CPUSET:
 329                 mm = oom_kill_process(current, points,
 330                                 "No available memory in cpuset");
 331                 break;
 332
 333         case CONSTRAINT_NONE:
 334 retry:
 335                 /*
 336                  * Rambo mode: Shoot down a process and hope it solves whatever
 337                  * issues we may have.
 338                  */
 339                 p = select_bad_process(&points);
 340
 341                 if (PTR_ERR(p) == -1UL)
 342                         goto out;
 343
 344                 /* Found nothing?!?! Either we hang forever, or we panic. */
 345                 if (!p) {
 346                         read_unlock(&tasklist_lock);
 347                         cpuset_unlock();
 348                         panic("Out of memory and no killable processes...\n");
 349                 }
 350
 351                 mm = oom_kill_process(p, points, "Out of memory");
 352                 if (!mm)
 353                         goto retry;
 354
 355                 break;
 356         }
 357
 358 out:
 359         read_unlock(&tasklist_lock);
 360         cpuset_unlock();
 361         if (mm)
 362                 mmput(mm);
 363
 364         /*
 365          * Give "p" a good chance of killing itself before we
 366          * retry to allocate memory unless "p" is current
 367          */
 368         if (!test_thread_flag(TIF_MEMDIE))
 369                 schedule_timeout_uninterruptible(1);
 370 }