46c59a68aaa4089b517c4a7fe9da055fce7e29d8
[linux-2.6.git] / include / linux / mm.h
1 #ifndef _LINUX_MM_H
2 #define _LINUX_MM_H
3
4 #include <linux/sched.h>
5 #include <linux/errno.h>
6
7 #ifdef __KERNEL__
8
9 #include <linux/config.h>
10 #include <linux/gfp.h>
11 #include <linux/list.h>
12 #include <linux/mmzone.h>
13 #include <linux/rbtree.h>
14 #include <linux/fs.h>
15
16 #ifndef CONFIG_DISCONTIGMEM          /* Don't use mapnrs, do it properly */
17 extern unsigned long max_mapnr;
18 #endif
19
20 extern unsigned long num_physpages;
21 extern void * high_memory;
22 extern int page_cluster;
23
24 #include <asm/page.h>
25 #include <asm/pgtable.h>
26 #include <asm/processor.h>
27 #include <asm/atomic.h>
28
29 #ifndef MM_VM_SIZE
30 #define MM_VM_SIZE(mm)  TASK_SIZE
31 #endif
32
33 /*
34  * Linux kernel virtual memory manager primitives.
35  * The idea being to have a "virtual" mm in the same way
36  * we have a virtual fs - giving a cleaner interface to the
37  * mm details, and allowing different kinds of memory mappings
38  * (from shared memory to executable loading to arbitrary
39  * mmap() functions).
40  */
41
42 /*
43  * This struct defines a memory VMM memory area. There is one of these
44  * per VM-area/task.  A VM area is any part of the process virtual memory
45  * space that has a special rule for the page-fault handlers (ie a shared
46  * library, the executable area etc).
47  *
48  * This structure is exactly 64 bytes on ia32.  Please think very, very hard
49  * before adding anything to it.
50  */
51 struct vm_area_struct {
52         struct mm_struct * vm_mm;       /* The address space we belong to. */
53         unsigned long vm_start;         /* Our start address within vm_mm. */
54         unsigned long vm_end;           /* The first byte after our end address
55                                            within vm_mm. */
56
57         /* linked list of VM areas per task, sorted by address */
58         struct vm_area_struct *vm_next;
59
60         pgprot_t vm_page_prot;          /* Access permissions of this VMA. */
61         unsigned long vm_flags;         /* Flags, listed below. */
62
63         struct rb_node vm_rb;
64
65         /*
66          * For areas with an address space and backing store,
67          * one of the address_space->i_mmap{,shared} lists,
68          * for shm areas, the list of attaches, otherwise unused.
69          */
70         struct list_head shared;
71
72         /* Function pointers to deal with this struct. */
73         struct vm_operations_struct * vm_ops;
74
75         /* Information about our backing store: */
76         unsigned long vm_pgoff;         /* Offset (within vm_file) in PAGE_SIZE
77                                            units, *not* PAGE_CACHE_SIZE */
78         struct file * vm_file;          /* File we map to (can be NULL). */
79         void * vm_private_data;         /* was vm_pte (shared mem) */
80 };
81
82 /*
83  * vm_flags..
84  */
85 #define VM_READ         0x00000001      /* currently active flags */
86 #define VM_WRITE        0x00000002
87 #define VM_EXEC         0x00000004
88 #define VM_SHARED       0x00000008
89
90 #define VM_MAYREAD      0x00000010      /* limits for mprotect() etc */
91 #define VM_MAYWRITE     0x00000020
92 #define VM_MAYEXEC      0x00000040
93 #define VM_MAYSHARE     0x00000080
94
95 #define VM_GROWSDOWN    0x00000100      /* general info on the segment */
96 #define VM_GROWSUP      0x00000200
97 #define VM_SHM          0x00000400      /* shared memory area, don't swap out */
98 #define VM_DENYWRITE    0x00000800      /* ETXTBSY on write attempts.. */
99
100 #define VM_EXECUTABLE   0x00001000
101 #define VM_LOCKED       0x00002000
102 #define VM_IO           0x00004000      /* Memory mapped I/O or similar */
103
104                                         /* Used by sys_madvise() */
105 #define VM_SEQ_READ     0x00008000      /* App will access data sequentially */
106 #define VM_RAND_READ    0x00010000      /* App will not benefit from clustered reads */
107
108 #define VM_DONTCOPY     0x00020000      /* Do not copy this vma on fork */
109 #define VM_DONTEXPAND   0x00040000      /* Cannot expand with mremap() */
110 #define VM_RESERVED     0x00080000      /* Don't unmap it from swap_out */
111 #define VM_ACCOUNT      0x00100000      /* Is a VM accounted object */
112 #define VM_HUGETLB      0x00400000      /* Huge TLB Page VM */
113 #define VM_NONLINEAR    0x00800000      /* Is non-linear (remap_file_pages) */
114
115 /* It makes sense to apply VM_ACCOUNT to this vma. */
116 #define VM_MAYACCT(vma) (!!((vma)->vm_flags & VM_HUGETLB))
117
118 #ifndef VM_STACK_DEFAULT_FLAGS          /* arch can override this */
119 #define VM_STACK_DEFAULT_FLAGS VM_DATA_DEFAULT_FLAGS
120 #endif
121
122 #ifdef CONFIG_STACK_GROWSUP
123 #define VM_STACK_FLAGS  (VM_GROWSUP | VM_STACK_DEFAULT_FLAGS | VM_ACCOUNT)
124 #else
125 #define VM_STACK_FLAGS  (VM_GROWSDOWN | VM_STACK_DEFAULT_FLAGS | VM_ACCOUNT)
126 #endif
127
128 #define VM_READHINTMASK                 (VM_SEQ_READ | VM_RAND_READ)
129 #define VM_ClearReadHint(v)             (v)->vm_flags &= ~VM_READHINTMASK
130 #define VM_NormalReadHint(v)            (!((v)->vm_flags & VM_READHINTMASK))
131 #define VM_SequentialReadHint(v)        ((v)->vm_flags & VM_SEQ_READ)
132 #define VM_RandomReadHint(v)            ((v)->vm_flags & VM_RAND_READ)
133
134 /*
135  * mapping from the currently active vm_flags protection bits (the
136  * low four bits) to a page protection mask..
137  */
138 extern pgprot_t protection_map[16];
139
140
141 /*
142  * These are the virtual MM functions - opening of an area, closing and
143  * unmapping it (needed to keep files on disk up-to-date etc), pointer
144  * to the functions called when a no-page or a wp-page exception occurs. 
145  */
146 struct vm_operations_struct {
147         void (*open)(struct vm_area_struct * area);
148         void (*close)(struct vm_area_struct * area);
149         struct page * (*nopage)(struct vm_area_struct * area, unsigned long address, int *type);
150         int (*populate)(struct vm_area_struct * area, unsigned long address, unsigned long len, pgprot_t prot, unsigned long pgoff, int nonblock);
151 };
152
153 /* forward declaration; pte_chain is meant to be internal to rmap.c */
154 struct pte_chain;
155 struct mmu_gather;
156 struct inode;
157
158 #ifdef ARCH_HAS_ATOMIC_UNSIGNED
159 typedef unsigned page_flags_t;
160 #else
161 typedef unsigned long page_flags_t;
162 #endif
163
164 /*
165  * Each physical page in the system has a struct page associated with
166  * it to keep track of whatever it is we are using the page for at the
167  * moment. Note that we have no way to track which tasks are using
168  * a page.
169  *
170  * Try to keep the most commonly accessed fields in single cache lines
171  * here (16 bytes or greater).  This ordering should be particularly
172  * beneficial on 32-bit processors.
173  *
174  * The first line is data used in page cache lookup, the second line
175  * is used for linear searches (eg. clock algorithm scans). 
176  *
177  * TODO: make this structure smaller, it could be as small as 32 bytes.
178  */
179 struct page {
180         page_flags_t flags;             /* atomic flags, some possibly
181                                            updated asynchronously */
182         atomic_t count;                 /* Usage count, see below. */
183         struct address_space *mapping;  /* The inode (or ...) we belong to. */
184         pgoff_t index;                  /* Our offset within mapping. */
185         struct list_head lru;           /* Pageout list, eg. active_list;
186                                            protected by zone->lru_lock !! */
187         union {
188                 struct pte_chain *chain;/* Reverse pte mapping pointer.
189                                          * protected by PG_chainlock */
190                 pte_addr_t direct;
191         } pte;
192         unsigned long private;          /* Mapping-private opaque data:
193                                          * usually used for buffer_heads
194                                          * if PagePrivate set; used for
195                                          * swp_entry_t if PageSwapCache
196                                          */
197         /*
198          * On machines where all RAM is mapped into kernel address space,
199          * we can simply calculate the virtual address. On machines with
200          * highmem some memory is mapped into kernel virtual memory
201          * dynamically, so we need a place to store that address.
202          * Note that this field could be 16 bits on x86 ... ;)
203          *
204          * Architectures with slow multiplication can define
205          * WANT_PAGE_VIRTUAL in asm/page.h
206          */
207 #if defined(WANT_PAGE_VIRTUAL)
208         void *virtual;                  /* Kernel virtual address (NULL if
209                                            not kmapped, ie. highmem) */
210 #endif /* WANT_PAGE_VIRTUAL */
211 };
212
213 /*
214  * FIXME: take this include out, include page-flags.h in
215  * files which need it (119 of them)
216  */
217 #include <linux/page-flags.h>
218
219 /*
220  * Methods to modify the page usage count.
221  *
222  * What counts for a page usage:
223  * - cache mapping   (page->mapping)
224  * - private data    (page->private)
225  * - page mapped in a task's page tables, each mapping
226  *   is counted separately
227  *
228  * Also, many kernel routines increase the page count before a critical
229  * routine so they can be sure the page doesn't go away from under them.
230  */
231 #define put_page_testzero(p)                            \
232         ({                                              \
233                 BUG_ON(page_count(p) == 0);             \
234                 atomic_dec_and_test(&(p)->count);       \
235         })
236
237 #define set_page_count(p,v)     atomic_set(&(p)->count, v)
238 #define __put_page(p)           atomic_dec(&(p)->count)
239
240 extern void FASTCALL(__page_cache_release(struct page *));
241
242 #ifdef CONFIG_HUGETLB_PAGE
243
244 static inline int page_count(struct page *p)
245 {
246         if (PageCompound(p))
247                 p = (struct page *)p->private;
248         return atomic_read(&(p)->count);
249 }
250
251 static inline void get_page(struct page *page)
252 {
253         if (unlikely(PageCompound(page)))
254                 page = (struct page *)page->private;
255         atomic_inc(&page->count);
256 }
257
258 void put_page(struct page *page);
259
260 #else           /* CONFIG_HUGETLB_PAGE */
261
262 #define page_count(p)           atomic_read(&(p)->count)
263
264 static inline void get_page(struct page *page)
265 {
266         atomic_inc(&page->count);
267 }
268
269 static inline void put_page(struct page *page)
270 {
271         if (!PageReserved(page) && put_page_testzero(page))
272                 __page_cache_release(page);
273 }
274
275 #endif          /* CONFIG_HUGETLB_PAGE */
276
277 /*
278  * Multiple processes may "see" the same page. E.g. for untouched
279  * mappings of /dev/null, all processes see the same page full of
280  * zeroes, and text pages of executables and shared libraries have
281  * only one copy in memory, at most, normally.
282  *
283  * For the non-reserved pages, page->count denotes a reference count.
284  *   page->count == 0 means the page is free.
285  *   page->count == 1 means the page is used for exactly one purpose
286  *   (e.g. a private data page of one process).
287  *
288  * A page may be used for kmalloc() or anyone else who does a
289  * __get_free_page(). In this case the page->count is at least 1, and
290  * all other fields are unused but should be 0 or NULL. The
291  * management of this page is the responsibility of the one who uses
292  * it.
293  *
294  * The other pages (we may call them "process pages") are completely
295  * managed by the Linux memory manager: I/O, buffers, swapping etc.
296  * The following discussion applies only to them.
297  *
298  * A page may belong to an inode's memory mapping. In this case,
299  * page->mapping is the pointer to the inode, and page->index is the
300  * file offset of the page, in units of PAGE_CACHE_SIZE.
301  *
302  * A page contains an opaque `private' member, which belongs to the
303  * page's address_space.  Usually, this is the address of a circular
304  * list of the page's disk buffers.
305  *
306  * For pages belonging to inodes, the page->count is the number of
307  * attaches, plus 1 if `private' contains something, plus one for
308  * the page cache itself.
309  *
310  * All pages belonging to an inode are in these doubly linked lists:
311  * mapping->clean_pages, mapping->dirty_pages and mapping->locked_pages;
312  * using the page->list list_head. These fields are also used for
313  * freelist managemet (when page->count==0).
314  *
315  * There is also a per-mapping radix tree mapping index to the page
316  * in memory if present. The tree is rooted at mapping->root.  
317  *
318  * All process pages can do I/O:
319  * - inode pages may need to be read from disk,
320  * - inode pages which have been modified and are MAP_SHARED may need
321  *   to be written to disk,
322  * - private pages which have been modified may need to be swapped out
323  *   to swap space and (later) to be read back into memory.
324  */
325
326 /*
327  * The zone field is never updated after free_area_init_core()
328  * sets it, so none of the operations on it need to be atomic.
329  * We'll have up to (MAX_NUMNODES * MAX_NR_ZONES) zones total,
330  * so we use (MAX_NODES_SHIFT + MAX_ZONES_SHIFT) here to get enough bits.
331  */
332 #define NODEZONE_SHIFT (sizeof(page_flags_t)*8 - MAX_NODES_SHIFT - MAX_ZONES_SHIFT)
333 #define NODEZONE(node, zone)    ((node << ZONES_SHIFT) | zone)
334
335 static inline unsigned long page_zonenum(struct page *page)
336 {
337         return (page->flags >> NODEZONE_SHIFT) & (~(~0UL << ZONES_SHIFT));
338 }
339 static inline unsigned long page_to_nid(struct page *page)
340 {
341         return (page->flags >> (NODEZONE_SHIFT + ZONES_SHIFT));
342 }
343
344 struct zone;
345 extern struct zone *zone_table[];
346
347 static inline struct zone *page_zone(struct page *page)
348 {
349         return zone_table[page->flags >> NODEZONE_SHIFT];
350 }
351
352 static inline void set_page_zone(struct page *page, unsigned long nodezone_num)
353 {
354         page->flags &= ~(~0UL << NODEZONE_SHIFT);
355         page->flags |= nodezone_num << NODEZONE_SHIFT;
356 }
357
358 #ifndef CONFIG_DISCONTIGMEM
359 /* The array of struct pages - for discontigmem use pgdat->lmem_map */
360 extern struct page *mem_map;
361 #endif
362
363 static inline void *lowmem_page_address(struct page *page)
364 {
365         return __va(page_to_pfn(page) << PAGE_SHIFT);
366 }
367
368 #if defined(CONFIG_HIGHMEM) && !defined(WANT_PAGE_VIRTUAL)
369 #define HASHED_PAGE_VIRTUAL
370 #endif
371
372 #if defined(WANT_PAGE_VIRTUAL)
373 #define page_address(page) ((page)->virtual)
374 #define set_page_address(page, address)                 \
375         do {                                            \
376                 (page)->virtual = (address);            \
377         } while(0)
378 #define page_address_init()  do { } while(0)
379 #endif
380
381 #if defined(HASHED_PAGE_VIRTUAL)
382 void *page_address(struct page *page);
383 void set_page_address(struct page *page, void *virtual);
384 void page_address_init(void);
385 #endif
386
387 #if !defined(HASHED_PAGE_VIRTUAL) && !defined(WANT_PAGE_VIRTUAL)
388 #define page_address(page) lowmem_page_address(page)
389 #define set_page_address(page, address)  do { } while(0)
390 #define page_address_init()  do { } while(0)
391 #endif
392
393 /*
394  * On an anonymous page mapped into a user virtual memory area,
395  * page->mapping points to its anon_vma, not to a struct address_space.
396  *
397  * Please note that, confusingly, "page_mapping" refers to the inode
398  * address_space which maps the page from disk; whereas "page_mapped"
399  * refers to user virtual address space into which the page is mapped.
400  */
401 static inline struct address_space *page_mapping(struct page *page)
402 {
403         return PageAnon(page)? NULL: page->mapping;
404 }
405
406 /*
407  * Return true if this page is mapped into pagetables.  Subtle: test pte.direct
408  * rather than pte.chain.  Because sometimes pte.direct is 64-bit, and .chain
409  * is only 32-bit.
410  */
411 static inline int page_mapped(struct page *page)
412 {
413         return page->pte.direct != 0;
414 }
415
416 /*
417  * Error return values for the *_nopage functions
418  */
419 #define NOPAGE_SIGBUS   (NULL)
420 #define NOPAGE_OOM      ((struct page *) (-1))
421
422 /*
423  * Different kinds of faults, as returned by handle_mm_fault().
424  * Used to decide whether a process gets delivered SIGBUS or
425  * just gets major/minor fault counters bumped up.
426  */
427 #define VM_FAULT_OOM    (-1)
428 #define VM_FAULT_SIGBUS 0
429 #define VM_FAULT_MINOR  1
430 #define VM_FAULT_MAJOR  2
431
432 #define offset_in_page(p)       ((unsigned long)(p) & ~PAGE_MASK)
433
434 extern void show_free_areas(void);
435
436 struct page *shmem_nopage(struct vm_area_struct * vma,
437                         unsigned long address, int *type);
438 struct file *shmem_file_setup(char * name, loff_t size, unsigned long flags);
439 void shmem_lock(struct file * file, int lock);
440 int shmem_zero_setup(struct vm_area_struct *);
441
442 /*
443  * Parameter block passed down to zap_pte_range in exceptional cases.
444  */
445 struct zap_details {
446         struct vm_area_struct *nonlinear_vma;   /* Check page->index if set */
447         struct address_space *check_mapping;    /* Check page->mapping if set */
448         pgoff_t first_index;                    /* Lowest page->index to unmap */
449         pgoff_t last_index;                     /* Highest page->index to unmap */
450 };
451
452 void zap_page_range(struct vm_area_struct *vma, unsigned long address,
453                 unsigned long size, struct zap_details *);
454 int unmap_vmas(struct mmu_gather **tlbp, struct mm_struct *mm,
455                 struct vm_area_struct *start_vma, unsigned long start_addr,
456                 unsigned long end_addr, unsigned long *nr_accounted,
457                 struct zap_details *);
458 void clear_page_tables(struct mmu_gather *tlb, unsigned long first, int nr);
459 int copy_page_range(struct mm_struct *dst, struct mm_struct *src,
460                         struct vm_area_struct *vma);
461 int zeromap_page_range(struct vm_area_struct *vma, unsigned long from,
462                         unsigned long size, pgprot_t prot);
463 void unmap_mapping_range(struct address_space *mapping,
464                 loff_t const holebegin, loff_t const holelen, int even_cows);
465
466 static inline void unmap_shared_mapping_range(struct address_space *mapping,
467                 loff_t const holebegin, loff_t const holelen)
468 {
469         unmap_mapping_range(mapping, holebegin, holelen, 0);
470 }
471
472 extern int vmtruncate(struct inode * inode, loff_t offset);
473 extern pmd_t *FASTCALL(__pmd_alloc(struct mm_struct *mm, pgd_t *pgd, unsigned long address));
474 extern pte_t *FASTCALL(pte_alloc_kernel(struct mm_struct *mm, pmd_t *pmd, unsigned long address));
475 extern pte_t *FASTCALL(pte_alloc_map(struct mm_struct *mm, pmd_t *pmd, unsigned long address));
476 extern int install_page(struct mm_struct *mm, struct vm_area_struct *vma, unsigned long addr, struct page *page, pgprot_t prot);
477 extern int install_file_pte(struct mm_struct *mm, struct vm_area_struct *vma, unsigned long addr, unsigned long pgoff, pgprot_t prot);
478 extern int handle_mm_fault(struct mm_struct *mm,struct vm_area_struct *vma, unsigned long address, int write_access);
479 extern int make_pages_present(unsigned long addr, unsigned long end);
480 extern int access_process_vm(struct task_struct *tsk, unsigned long addr, void *buf, int len, int write);
481 void put_dirty_page(struct task_struct *tsk, struct page *page,
482                         unsigned long address, pgprot_t prot);
483
484 int get_user_pages(struct task_struct *tsk, struct mm_struct *mm, unsigned long start,
485                 int len, int write, int force, struct page **pages, struct vm_area_struct **vmas);
486
487 int __set_page_dirty_buffers(struct page *page);
488 int __set_page_dirty_nobuffers(struct page *page);
489 int redirty_page_for_writepage(struct writeback_control *wbc,
490                                 struct page *page);
491 int FASTCALL(set_page_dirty(struct page *page));
492 int set_page_dirty_lock(struct page *page);
493 int clear_page_dirty_for_io(struct page *page);
494
495 /*
496  * Prototype to add a shrinker callback for ageable caches.
497  * 
498  * These functions are passed a count `nr_to_scan' and a gfpmask.  They should
499  * scan `nr_to_scan' objects, attempting to free them.
500  *
501  * The callback must the number of objects which remain in the cache.
502  *
503  * The callback will be passes nr_to_scan == 0 when the VM is querying the
504  * cache size, so a fastpath for that case is appropriate.
505  */
506 typedef int (*shrinker_t)(int nr_to_scan, unsigned int gfp_mask);
507
508 /*
509  * Add an aging callback.  The int is the number of 'seeks' it takes
510  * to recreate one of the objects that these functions age.
511  */
512
513 #define DEFAULT_SEEKS 2
514 struct shrinker;
515 extern struct shrinker *set_shrinker(int, shrinker_t);
516 extern void remove_shrinker(struct shrinker *shrinker);
517
518 /*
519  * On a two-level page table, this ends up being trivial. Thus the
520  * inlining and the symmetry break with pte_alloc_map() that does all
521  * of this out-of-line.
522  */
523 static inline pmd_t *pmd_alloc(struct mm_struct *mm, pgd_t *pgd, unsigned long address)
524 {
525         if (pgd_none(*pgd))
526                 return __pmd_alloc(mm, pgd, address);
527         return pmd_offset(pgd, address);
528 }
529
530 extern void free_area_init(unsigned long * zones_size);
531 extern void free_area_init_node(int nid, pg_data_t *pgdat, struct page *pmap,
532         unsigned long * zones_size, unsigned long zone_start_pfn, 
533         unsigned long *zholes_size);
534 extern void memmap_init_zone(struct page *, unsigned long, int,
535         unsigned long, unsigned long);
536 extern void mem_init(void);
537 extern void show_mem(void);
538 extern void si_meminfo(struct sysinfo * val);
539 extern void si_meminfo_node(struct sysinfo *val, int nid);
540
541 /* mmap.c */
542 extern void insert_vm_struct(struct mm_struct *, struct vm_area_struct *);
543 extern void __vma_link_rb(struct mm_struct *, struct vm_area_struct *,
544         struct rb_node **, struct rb_node *);
545 extern struct vm_area_struct *copy_vma(struct vm_area_struct **,
546         unsigned long addr, unsigned long len, unsigned long pgoff);
547 extern void exit_mmap(struct mm_struct *);
548
549 extern unsigned long get_unmapped_area(struct file *, unsigned long, unsigned long, unsigned long, unsigned long);
550
551 extern unsigned long do_mmap_pgoff(struct file *file, unsigned long addr,
552         unsigned long len, unsigned long prot,
553         unsigned long flag, unsigned long pgoff);
554
555 static inline unsigned long do_mmap(struct file *file, unsigned long addr,
556         unsigned long len, unsigned long prot,
557         unsigned long flag, unsigned long offset)
558 {
559         unsigned long ret = -EINVAL;
560         if ((offset + PAGE_ALIGN(len)) < offset)
561                 goto out;
562         if (!(offset & ~PAGE_MASK))
563                 ret = do_mmap_pgoff(file, addr, len, prot, flag, offset >> PAGE_SHIFT);
564 out:
565         return ret;
566 }
567
568 extern int do_munmap(struct mm_struct *, unsigned long, size_t);
569
570 extern unsigned long do_brk(unsigned long, unsigned long);
571
572 static inline void
573 __vma_unlink(struct mm_struct *mm, struct vm_area_struct *vma,
574                 struct vm_area_struct *prev)
575 {
576         prev->vm_next = vma->vm_next;
577         rb_erase(&vma->vm_rb, &mm->mm_rb);
578         if (mm->mmap_cache == vma)
579                 mm->mmap_cache = prev;
580 }
581
582 static inline int
583 can_vma_merge(struct vm_area_struct *vma, unsigned long vm_flags)
584 {
585 #ifdef CONFIG_MMU
586         if (!vma->vm_file && vma->vm_flags == vm_flags)
587                 return 1;
588 #endif
589         return 0;
590 }
591
592 /* filemap.c */
593 extern unsigned long page_unuse(struct page *);
594 extern void truncate_inode_pages(struct address_space *, loff_t);
595
596 /* generic vm_area_ops exported for stackable file systems */
597 struct page *filemap_nopage(struct vm_area_struct *, unsigned long, int *);
598
599 /* mm/page-writeback.c */
600 int write_one_page(struct page *page, int wait);
601
602 /* readahead.c */
603 #define VM_MAX_READAHEAD        128     /* kbytes */
604 #define VM_MIN_READAHEAD        16      /* kbytes (includes current page) */
605
606 int do_page_cache_readahead(struct address_space *mapping, struct file *filp,
607                         unsigned long offset, unsigned long nr_to_read);
608 int force_page_cache_readahead(struct address_space *mapping, struct file *filp,
609                         unsigned long offset, unsigned long nr_to_read);
610 void page_cache_readahead(struct address_space *mapping, 
611                           struct file_ra_state *ra,
612                           struct file *filp,
613                           unsigned long offset);
614 void handle_ra_miss(struct address_space *mapping, 
615                     struct file_ra_state *ra, pgoff_t offset);
616 unsigned long max_sane_readahead(unsigned long nr);
617
618 /* Do stack extension */
619 extern int expand_stack(struct vm_area_struct * vma, unsigned long address);
620
621 /* Look up the first VMA which satisfies  addr < vm_end,  NULL if none. */
622 extern struct vm_area_struct * find_vma(struct mm_struct * mm, unsigned long addr);
623 extern struct vm_area_struct * find_vma_prev(struct mm_struct * mm, unsigned long addr,
624                                              struct vm_area_struct **pprev);
625 extern int split_vma(struct mm_struct * mm, struct vm_area_struct * vma,
626                      unsigned long addr, int new_below);
627
628 /* Look up the first VMA which intersects the interval start_addr..end_addr-1,
629    NULL if none.  Assume start_addr < end_addr. */
630 static inline struct vm_area_struct * find_vma_intersection(struct mm_struct * mm, unsigned long start_addr, unsigned long end_addr)
631 {
632         struct vm_area_struct * vma = find_vma(mm,start_addr);
633
634         if (vma && end_addr <= vma->vm_start)
635                 vma = NULL;
636         return vma;
637 }
638
639 extern struct vm_area_struct *find_extend_vma(struct mm_struct *mm, unsigned long addr);
640
641 extern unsigned int nr_used_zone_pages(void);
642
643 extern struct page * vmalloc_to_page(void *addr);
644 extern struct page * follow_page(struct mm_struct *mm, unsigned long address,
645                 int write);
646 extern int remap_page_range(struct vm_area_struct *vma, unsigned long from,
647                 unsigned long to, unsigned long size, pgprot_t prot);
648
649 #ifndef CONFIG_DEBUG_PAGEALLOC
650 static inline void
651 kernel_map_pages(struct page *page, int numpages, int enable)
652 {
653 }
654 #endif
655
656 #ifndef CONFIG_ARCH_GATE_AREA
657 extern struct vm_area_struct *get_gate_vma(struct task_struct *tsk);
658 int in_gate_area(struct task_struct *task, unsigned long addr);
659 #endif
660
661 #endif /* __KERNEL__ */
662 #endif /* _LINUX_MM_H */