fs/file_table.c

   1 /*
   2  *  linux/fs/file_table.c
   3  *
   4  *  Copyright (C) 1991, 1992  Linus Torvalds
   5  *  Copyright (C) 1997 David S. Miller (davem@caip.rutgers.edu)
   6  */
   7
   8 #include <linux/string.h>
   9 #include <linux/slab.h>
  10 #include <linux/file.h>
  11 #include <linux/init.h>
  12 #include <linux/module.h>
  13 #include <linux/smp_lock.h>
  14 #include <linux/fs.h>
  15 #include <linux/security.h>
  16 #include <linux/eventpoll.h>
  17 #include <linux/rcupdate.h>
  18 #include <linux/mount.h>
  19 #include <linux/capability.h>
  20 #include <linux/cdev.h>
  21 #include <linux/fsnotify.h>
  22 #include <linux/sysctl.h>
  23 #include <linux/percpu_counter.h>
  24 #include <linux/vs_limit.h>
  25 #include <linux/vs_context.h>
  26
  27 #include <asm/atomic.h>
  28
  29 /* sysctl tunables... */
  30 struct files_stat_struct files_stat = {
  31         .max_files = NR_FILE
  32 };
  33
  34 /* public. Not pretty! */
  35 __cacheline_aligned_in_smp DEFINE_SPINLOCK(files_lock);
  36
  37 static struct percpu_counter nr_files __cacheline_aligned_in_smp;
  38
  39 static inline void file_free_rcu(struct rcu_head *head)
  40 {
  41         struct file *f =  container_of(head, struct file, f_u.fu_rcuhead);
  42         kmem_cache_free(filp_cachep, f);
  43 }
  44
  45 static inline void file_free(struct file *f)
  46 {
  47         percpu_counter_dec(&nr_files);
  48         call_rcu(&f->f_u.fu_rcuhead, file_free_rcu);
  49 }
  50
  51 /*
  52  * Return the total number of open files in the system
  53  */
  54 static int get_nr_files(void)
  55 {
  56         return percpu_counter_read_positive(&nr_files);
  57 }
  58
  59 /*
  60  * Return the maximum number of open files in the system
  61  */
  62 int get_max_files(void)
  63 {
  64         return files_stat.max_files;
  65 }
  66 EXPORT_SYMBOL_GPL(get_max_files);
  67
  68 /*
  69  * Handle nr_files sysctl
  70  */
  71 #if defined(CONFIG_SYSCTL) && defined(CONFIG_PROC_FS)
  72 int proc_nr_files(ctl_table *table, int write, struct file *filp,
  73                      void __user *buffer, size_t *lenp, loff_t *ppos)
  74 {
  75         files_stat.nr_files = get_nr_files();
  76         return proc_dointvec(table, write, filp, buffer, lenp, ppos);
  77 }
  78 #else
  79 int proc_nr_files(ctl_table *table, int write, struct file *filp,
  80                      void __user *buffer, size_t *lenp, loff_t *ppos)
  81 {
  82         return -ENOSYS;
  83 }
  84 #endif
  85
  86 /* Find an unused file structure and return a pointer to it.
  87  * Returns NULL, if there are no more free file structures or
  88  * we run out of memory.
  89  */
  90 struct file *get_empty_filp(void)
  91 {
  92         struct task_struct *tsk;
  93         static int old_max;
  94         struct file * f;
  95
  96         /*
  97          * Privileged users can go above max_files
  98          */
  99         if (get_nr_files() >= files_stat.max_files && !capable(CAP_SYS_ADMIN)) {
 100                 /*
 101                  * percpu_counters are inaccurate.  Do an expensive check before
 102                  * we go and fail.
 103                  */
 104                 if (percpu_counter_sum(&nr_files) >= files_stat.max_files)
 105                         goto over;
 106         }
 107
 108         f = kmem_cache_alloc(filp_cachep, GFP_KERNEL);
 109         if (f == NULL)
 110                 goto fail;
 111
 112         percpu_counter_inc(&nr_files);
 113         memset(f, 0, sizeof(*f));
 114         if (security_file_alloc(f))
 115                 goto fail_sec;
 116
 117         tsk = current;
 118         INIT_LIST_HEAD(&f->f_u.fu_list);
 119         atomic_set(&f->f_count, 1);
 120         rwlock_init(&f->f_owner.lock);
 121         f->f_uid = tsk->fsuid;
 122         f->f_gid = tsk->fsgid;
 123         eventpoll_init_file(f);
 124         /* f->f_version: 0 */
 125         f->f_xid = vx_current_xid();
 126         vx_files_inc(f);
 127         return f;
 128
 129 over:
 130         /* Ran out of filps - report that */
 131         if (get_nr_files() > old_max) {
 132                 printk(KERN_INFO "VFS: file-max limit %d reached\n",
 133                                         get_max_files());
 134                 old_max = get_nr_files();
 135         }
 136         goto fail;
 137
 138 fail_sec:
 139         file_free(f);
 140 fail:
 141         return NULL;
 142 }
 143
 144 EXPORT_SYMBOL(get_empty_filp);
 145
 146 void fastcall fput(struct file *file)
 147 {
 148         if (atomic_dec_and_test(&file->f_count))
 149                 __fput(file);
 150 }
 151
 152 EXPORT_SYMBOL(fput);
 153
 154 /* __fput is called from task context when aio completion releases the last
 155  * last use of a struct file *.  Do not use otherwise.
 156  */
 157 void fastcall __fput(struct file *file)
 158 {
 159         struct dentry *dentry = file->f_path.dentry;
 160         struct vfsmount *mnt = file->f_path.mnt;
 161         struct inode *inode = dentry->d_inode;
 162
 163         might_sleep();
 164
 165         fsnotify_close(file);
 166         /*
 167          * The function eventpoll_release() should be the first called
 168          * in the file cleanup chain.
 169          */
 170         eventpoll_release(file);
 171         locks_remove_flock(file);
 172
 173         if (file->f_op && file->f_op->release)
 174                 file->f_op->release(inode, file);
 175         security_file_free(file);
 176         if (unlikely(S_ISCHR(inode->i_mode) && inode->i_cdev != NULL))
 177                 cdev_put(inode->i_cdev);
 178         fops_put(file->f_op);
 179         if (file->f_mode & FMODE_WRITE)
 180                 put_write_access(inode);
 181         put_pid(file->f_owner.pid);
 182         vx_files_dec(file);
 183         file->f_xid = 0;
 184         file_kill(file);
 185         file->f_path.dentry = NULL;
 186         file->f_path.mnt = NULL;
 187         file_free(file);
 188         dput(dentry);
 189         mntput(mnt);
 190 }
 191
 192 struct file fastcall *fget(unsigned int fd)
 193 {
 194         struct file *file;
 195         struct files_struct *files = current->files;
 196
 197         rcu_read_lock();
 198         file = fcheck_files(files, fd);
 199         if (file) {
 200                 if (!atomic_inc_not_zero(&file->f_count)) {
 201                         /* File object ref couldn't be taken */
 202                         rcu_read_unlock();
 203                         return NULL;
 204                 }
 205         }
 206         rcu_read_unlock();
 207
 208         return file;
 209 }
 210
 211 EXPORT_SYMBOL(fget);
 212
 213 /*
 214  * Lightweight file lookup - no refcnt increment if fd table isn't shared.
 215  * You can use this only if it is guranteed that the current task already
 216  * holds a refcnt to that file. That check has to be done at fget() only
 217  * and a flag is returned to be passed to the corresponding fput_light().
 218  * There must not be a cloning between an fget_light/fput_light pair.
 219  */
 220 struct file fastcall *fget_light(unsigned int fd, int *fput_needed)
 221 {
 222         struct file *file;
 223         struct files_struct *files = current->files;
 224
 225         *fput_needed = 0;
 226         if (likely((atomic_read(&files->count) == 1))) {
 227                 file = fcheck_files(files, fd);
 228         } else {
 229                 rcu_read_lock();
 230                 file = fcheck_files(files, fd);
 231                 if (file) {
 232                         if (atomic_inc_not_zero(&file->f_count))
 233                                 *fput_needed = 1;
 234                         else
 235                                 /* Didn't get the reference, someone's freed */
 236                                 file = NULL;
 237                 }
 238                 rcu_read_unlock();
 239         }
 240
 241         return file;
 242 }
 243
 244 EXPORT_SYMBOL_GPL(fget_light);
 245
 246 void put_filp(struct file *file)
 247 {
 248         if (atomic_dec_and_test(&file->f_count)) {
 249                 security_file_free(file);
 250                 vx_files_dec(file);
 251                 file->f_xid = 0;
 252                 file_kill(file);
 253                 file_free(file);
 254         }
 255 }
 256
 257 void file_move(struct file *file, struct list_head *list)
 258 {
 259         if (!list)
 260                 return;
 261         file_list_lock();
 262         list_move(&file->f_u.fu_list, list);
 263         file_list_unlock();
 264 }
 265
 266 void file_kill(struct file *file)
 267 {
 268         if (!list_empty(&file->f_u.fu_list)) {
 269                 file_list_lock();
 270                 list_del_init(&file->f_u.fu_list);
 271                 file_list_unlock();
 272         }
 273 }
 274
 275 int fs_may_remount_ro(struct super_block *sb)
 276 {
 277         struct list_head *p;
 278
 279         /* Check that no files are currently opened for writing. */
 280         file_list_lock();
 281         list_for_each(p, &sb->s_files) {
 282                 struct file *file = list_entry(p, struct file, f_u.fu_list);
 283                 struct inode *inode = file->f_path.dentry->d_inode;
 284
 285                 /* File with pending delete? */
 286                 if (inode->i_nlink == 0)
 287                         goto too_bad;
 288
 289                 /* Writeable file? */
 290                 if (S_ISREG(inode->i_mode) && (file->f_mode & FMODE_WRITE))
 291                         goto too_bad;
 292         }
 293         file_list_unlock();
 294         return 1; /* Tis' cool bro. */
 295 too_bad:
 296         file_list_unlock();
 297         return 0;
 298 }
 299
 300 void __init files_init(unsigned long mempages)
 301 {
 302         int n;
 303         /* One file with associated inode and dcache is very roughly 1K.
 304          * Per default don't use more than 10% of our memory for files.
 305          */
 306
 307         n = (mempages * (PAGE_SIZE / 1024)) / 10;
 308         files_stat.max_files = n;
 309         if (files_stat.max_files < NR_FILE)
 310                 files_stat.max_files = NR_FILE;
 311         files_defer_init();
 312         percpu_counter_init(&nr_files, 0);
 313 }