include/linux/highmem.h

   1 #ifndef _LINUX_HIGHMEM_H
   2 #define _LINUX_HIGHMEM_H
   3
   4 #include <linux/fs.h>
   5 #include <linux/mm.h>
   6
   7 #include <asm/cacheflush.h>
   8
   9 #ifndef ARCH_HAS_FLUSH_ANON_PAGE
  10 static inline void flush_anon_page(struct page *page, unsigned long vmaddr)
  11 {
  12 }
  13 #endif
  14
  15 #ifndef ARCH_HAS_FLUSH_KERNEL_DCACHE_PAGE
  16 static inline void flush_kernel_dcache_page(struct page *page)
  17 {
  18 }
  19 #endif
  20
  21 #ifdef CONFIG_HIGHMEM
  22
  23 #include <asm/highmem.h>
  24
  25 /* declarations for linux/mm/highmem.c */
  26 unsigned int nr_free_highpages(void);
  27 #ifdef CONFIG_XEN
  28 void kmap_flush_unused(void);
  29 #endif
  30
  31 #else /* CONFIG_HIGHMEM */
  32
  33 static inline unsigned int nr_free_highpages(void) { return 0; }
  34 #ifdef CONFIG_XEN
  35 static inline void kmap_flush_unused(void) { }
  36 #endif
  37
  38 static inline void *kmap(struct page *page)
  39 {
  40         might_sleep();
  41         return page_address(page);
  42 }
  43
  44 #define kunmap(page) do { (void) (page); } while (0)
  45
  46 #define kmap_atomic(page, idx)          page_address(page)
  47 #define kunmap_atomic(addr, idx)        do { } while (0)
  48 #define kmap_atomic_pfn(pfn, idx)       page_address(pfn_to_page(pfn))
  49 #define kmap_atomic_to_page(ptr)        virt_to_page(ptr)
  50
  51 #endif /* CONFIG_HIGHMEM */
  52
  53 /* when CONFIG_HIGHMEM is not set these will be plain clear/copy_page */
  54 static inline void clear_user_highpage(struct page *page, unsigned long vaddr)
  55 {
  56         void *addr = kmap_atomic(page, KM_USER0);
  57         clear_user_page(addr, vaddr, page);
  58         kunmap_atomic(addr, KM_USER0);
  59         /* Make sure this page is cleared on other CPU's too before using it */
  60         smp_wmb();
  61 }
  62
  63 #ifndef __HAVE_ARCH_ALLOC_ZEROED_USER_HIGHPAGE
  64 static inline struct page *
  65 alloc_zeroed_user_highpage(struct vm_area_struct *vma, unsigned long vaddr)
  66 {
  67         struct page *page = alloc_page_vma(GFP_HIGHUSER, vma, vaddr);
  68
  69         if (page)
  70                 clear_user_highpage(page, vaddr);
  71
  72         return page;
  73 }
  74 #endif
  75
  76 static inline void clear_highpage(struct page *page)
  77 {
  78         void *kaddr = kmap_atomic(page, KM_USER0);
  79         clear_page(kaddr);
  80         kunmap_atomic(kaddr, KM_USER0);
  81 }
  82
  83 /*
  84  * Same but also flushes aliased cache contents to RAM.
  85  */
  86 static inline void memclear_highpage_flush(struct page *page, unsigned int offset, unsigned int size)
  87 {
  88         void *kaddr;
  89
  90         BUG_ON(offset + size > PAGE_SIZE);
  91
  92         kaddr = kmap_atomic(page, KM_USER0);
  93         memset((char *)kaddr + offset, 0, size);
  94         flush_dcache_page(page);
  95         kunmap_atomic(kaddr, KM_USER0);
  96 }
  97
  98 static inline void copy_user_highpage(struct page *to, struct page *from, unsigned long vaddr)
  99 {
 100         char *vfrom, *vto;
 101
 102         vfrom = kmap_atomic(from, KM_USER0);
 103         vto = kmap_atomic(to, KM_USER1);
 104         copy_user_page(vto, vfrom, vaddr, to);
 105         kunmap_atomic(vfrom, KM_USER0);
 106         kunmap_atomic(vto, KM_USER1);
 107         /* Make sure this page is cleared on other CPU's too before using it */
 108         smp_wmb();
 109 }
 110
 111 static inline void copy_highpage(struct page *to, struct page *from)
 112 {
 113         char *vfrom, *vto;
 114
 115         vfrom = kmap_atomic(from, KM_USER0);
 116         vto = kmap_atomic(to, KM_USER1);
 117         copy_page(vto, vfrom);
 118         kunmap_atomic(vfrom, KM_USER0);
 119         kunmap_atomic(vto, KM_USER1);
 120 }
 121
 122 #endif /* _LINUX_HIGHMEM_H */