net/socket.c

   1 /*
   2  * NET          An implementation of the SOCKET network access protocol.
   3  *
   4  * Version:     @(#)socket.c    1.1.93  18/02/95
   5  *
   6  * Authors:     Orest Zborowski, <obz@Kodak.COM>
   7  *              Ross Biro, <bir7@leland.Stanford.Edu>
   8  *              Fred N. van Kempen, <waltje@uWalt.NL.Mugnet.ORG>
   9  *
  10  * Fixes:
  11  *              Anonymous       :       NOTSOCK/BADF cleanup. Error fix in
  12  *                                      shutdown()
  13  *              Alan Cox        :       verify_area() fixes
  14  *              Alan Cox        :       Removed DDI
  15  *              Jonathan Kamens :       SOCK_DGRAM reconnect bug
  16  *              Alan Cox        :       Moved a load of checks to the very
  17  *                                      top level.
  18  *              Alan Cox        :       Move address structures to/from user
  19  *                                      mode above the protocol layers.
  20  *              Rob Janssen     :       Allow 0 length sends.
  21  *              Alan Cox        :       Asynchronous I/O support (cribbed from the
  22  *                                      tty drivers).
  23  *              Niibe Yutaka    :       Asynchronous I/O for writes (4.4BSD style)
  24  *              Jeff Uphoff     :       Made max number of sockets command-line
  25  *                                      configurable.
  26  *              Matti Aarnio    :       Made the number of sockets dynamic,
  27  *                                      to be allocated when needed, and mr.
  28  *                                      Uphoff's max is used as max to be
  29  *                                      allowed to allocate.
  30  *              Linus           :       Argh. removed all the socket allocation
  31  *                                      altogether: it's in the inode now.
  32  *              Alan Cox        :       Made sock_alloc()/sock_release() public
  33  *                                      for NetROM and future kernel nfsd type
  34  *                                      stuff.
  35  *              Alan Cox        :       sendmsg/recvmsg basics.
  36  *              Tom Dyas        :       Export net symbols.
  37  *              Marcin Dalecki  :       Fixed problems with CONFIG_NET="n".
  38  *              Alan Cox        :       Added thread locking to sys_* calls
  39  *                                      for sockets. May have errors at the
  40  *                                      moment.
  41  *              Kevin Buhr      :       Fixed the dumb errors in the above.
  42  *              Andi Kleen      :       Some small cleanups, optimizations,
  43  *                                      and fixed a copy_from_user() bug.
  44  *              Tigran Aivazian :       sys_send(args) calls sys_sendto(args, NULL, 0)
  45  *              Tigran Aivazian :       Made listen(2) backlog sanity checks
  46  *                                      protocol-independent
  47  *
  48  *
  49  *              This program is free software; you can redistribute it and/or
  50  *              modify it under the terms of the GNU General Public License
  51  *              as published by the Free Software Foundation; either version
  52  *              2 of the License, or (at your option) any later version.
  53  *
  54  *
  55  *      This module is effectively the top level interface to the BSD socket
  56  *      paradigm.
  57  *
  58  *      Based upon Swansea University Computer Society NET3.039
  59  */
  60
  61 #include <linux/config.h>
  62 #include <linux/mm.h>
  63 #include <linux/smp_lock.h>
  64 #include <linux/socket.h>
  65 #include <linux/file.h>
  66 #include <linux/net.h>
  67 #include <linux/interrupt.h>
  68 #include <linux/netdevice.h>
  69 #include <linux/proc_fs.h>
  70 #include <linux/seq_file.h>
  71 #include <linux/wanrouter.h>
  72 #include <linux/if_bridge.h>
  73 #include <linux/init.h>
  74 #include <linux/poll.h>
  75 #include <linux/cache.h>
  76 #include <linux/module.h>
  77 #include <linux/highmem.h>
  78 #include <linux/divert.h>
  79 #include <linux/mount.h>
  80 #include <linux/security.h>
  81 #include <linux/syscalls.h>
  82 #include <linux/compat.h>
  83 #include <linux/kmod.h>
  84
  85 #ifdef CONFIG_NET_RADIO
  86 #include <linux/wireless.h>             /* Note : will define WIRELESS_EXT */
  87 #endif  /* CONFIG_NET_RADIO */
  88
  89 #include <asm/uaccess.h>
  90 #include <asm/unistd.h>
  91
  92 #include <net/compat.h>
  93
  94 #include <net/sock.h>
  95 #include <linux/netfilter.h>
  96 #include <linux/vs_base.h>
  97 #include <linux/vs_socket.h>
  98
  99 static int sock_no_open(struct inode *irrelevant, struct file *dontcare);
 100 static ssize_t sock_aio_read(struct kiocb *iocb, char __user *buf,
 101                          size_t size, loff_t pos);
 102 static ssize_t sock_aio_write(struct kiocb *iocb, const char __user *buf,
 103                           size_t size, loff_t pos);
 104 static int sock_mmap(struct file *file, struct vm_area_struct * vma);
 105
 106 static int sock_close(struct inode *inode, struct file *file);
 107 static unsigned int sock_poll(struct file *file,
 108                               struct poll_table_struct *wait);
 109 static int sock_ioctl(struct inode *inode, struct file *file,
 110                       unsigned int cmd, unsigned long arg);
 111 static int sock_fasync(int fd, struct file *filp, int on);
 112 static ssize_t sock_readv(struct file *file, const struct iovec *vector,
 113                           unsigned long count, loff_t *ppos);
 114 static ssize_t sock_writev(struct file *file, const struct iovec *vector,
 115                           unsigned long count, loff_t *ppos);
 116 static ssize_t sock_sendpage(struct file *file, struct page *page,
 117                              int offset, size_t size, loff_t *ppos, int more);
 118
 119
 120 /*
 121  *      Socket files have a set of 'special' operations as well as the generic file ones. These don't appear
 122  *      in the operation structures but are done directly via the socketcall() multiplexor.
 123  */
 124
 125 static struct file_operations socket_file_ops = {
 126         .owner =        THIS_MODULE,
 127         .llseek =       no_llseek,
 128         .aio_read =     sock_aio_read,
 129         .aio_write =    sock_aio_write,
 130         .poll =         sock_poll,
 131         .ioctl =        sock_ioctl,
 132         .mmap =         sock_mmap,
 133         .open =         sock_no_open,   /* special open code to disallow open via /proc */
 134         .release =      sock_close,
 135         .fasync =       sock_fasync,
 136         .readv =        sock_readv,
 137         .writev =       sock_writev,
 138         .sendpage =     sock_sendpage
 139 };
 140
 141 /*
 142  *      The protocol list. Each protocol is registered in here.
 143  */
 144
 145 static struct net_proto_family *net_families[NPROTO];
 146
 147 #if defined(CONFIG_SMP) || defined(CONFIG_PREEMPT)
 148 static atomic_t net_family_lockct = ATOMIC_INIT(0);
 149 static spinlock_t net_family_lock = SPIN_LOCK_UNLOCKED;
 150
 151 /* The strategy is: modifications net_family vector are short, do not
 152    sleep and veeery rare, but read access should be free of any exclusive
 153    locks.
 154  */
 155
 156 static void net_family_write_lock(void)
 157 {
 158         spin_lock(&net_family_lock);
 159         while (atomic_read(&net_family_lockct) != 0) {
 160                 spin_unlock(&net_family_lock);
 161
 162                 yield();
 163
 164                 spin_lock(&net_family_lock);
 165         }
 166 }
 167
 168 static __inline__ void net_family_write_unlock(void)
 169 {
 170         spin_unlock(&net_family_lock);
 171 }
 172
 173 static __inline__ void net_family_read_lock(void)
 174 {
 175         atomic_inc(&net_family_lockct);
 176         spin_unlock_wait(&net_family_lock);
 177 }
 178
 179 static __inline__ void net_family_read_unlock(void)
 180 {
 181         atomic_dec(&net_family_lockct);
 182 }
 183
 184 #else
 185 #define net_family_write_lock() do { } while(0)
 186 #define net_family_write_unlock() do { } while(0)
 187 #define net_family_read_lock() do { } while(0)
 188 #define net_family_read_unlock() do { } while(0)
 189 #endif
 190
 191
 192 /*
 193  *      Statistics counters of the socket lists
 194  */
 195
 196 static DEFINE_PER_CPU(int, sockets_in_use) = 0;
 197
 198 /*
 199  *      Support routines. Move socket addresses back and forth across the kernel/user
 200  *      divide and look after the messy bits.
 201  */
 202
 203 #define MAX_SOCK_ADDR   128             /* 108 for Unix domain -
 204                                            16 for IP, 16 for IPX,
 205                                            24 for IPv6,
 206                                            about 80 for AX.25
 207                                            must be at least one bigger than
 208                                            the AF_UNIX size (see net/unix/af_unix.c
 209                                            :unix_mkname()).
 210                                          */
 211
 212 /**
 213  *      move_addr_to_kernel     -       copy a socket address into kernel space
 214  *      @uaddr: Address in user space
 215  *      @kaddr: Address in kernel space
 216  *      @ulen: Length in user space
 217  *
 218  *      The address is copied into kernel space. If the provided address is
 219  *      too long an error code of -EINVAL is returned. If the copy gives
 220  *      invalid addresses -EFAULT is returned. On a success 0 is returned.
 221  */
 222
 223 int move_addr_to_kernel(void __user *uaddr, int ulen, void *kaddr)
 224 {
 225         if(ulen<0||ulen>MAX_SOCK_ADDR)
 226                 return -EINVAL;
 227         if(ulen==0)
 228                 return 0;
 229         if(copy_from_user(kaddr,uaddr,ulen))
 230                 return -EFAULT;
 231         return 0;
 232 }
 233
 234 /**
 235  *      move_addr_to_user       -       copy an address to user space
 236  *      @kaddr: kernel space address
 237  *      @klen: length of address in kernel
 238  *      @uaddr: user space address
 239  *      @ulen: pointer to user length field
 240  *
 241  *      The value pointed to by ulen on entry is the buffer length available.
 242  *      This is overwritten with the buffer space used. -EINVAL is returned
 243  *      if an overlong buffer is specified or a negative buffer size. -EFAULT
 244  *      is returned if either the buffer or the length field are not
 245  *      accessible.
 246  *      After copying the data up to the limit the user specifies, the true
 247  *      length of the data is written over the length limit the user
 248  *      specified. Zero is returned for a success.
 249  */
 250
 251 int move_addr_to_user(void *kaddr, int klen, void __user *uaddr, int __user *ulen)
 252 {
 253         int err;
 254         int len;
 255
 256         if((err=get_user(len, ulen)))
 257                 return err;
 258         if(len>klen)
 259                 len=klen;
 260         if(len<0 || len> MAX_SOCK_ADDR)
 261                 return -EINVAL;
 262         if(len)
 263         {
 264                 if(copy_to_user(uaddr,kaddr,len))
 265                         return -EFAULT;
 266         }
 267         /*
 268          *      "fromlen shall refer to the value before truncation.."
 269          *                      1003.1g
 270          */
 271         return __put_user(klen, ulen);
 272 }
 273
 274 #define SOCKFS_MAGIC 0x534F434B
 275
 276 static kmem_cache_t * sock_inode_cachep;
 277
 278 static struct inode *sock_alloc_inode(struct super_block *sb)
 279 {
 280         struct socket_alloc *ei;
 281         ei = (struct socket_alloc *)kmem_cache_alloc(sock_inode_cachep, SLAB_KERNEL);
 282         if (!ei)
 283                 return NULL;
 284         init_waitqueue_head(&ei->socket.wait);
 285
 286         ei->socket.fasync_list = NULL;
 287         ei->socket.state = SS_UNCONNECTED;
 288         ei->socket.flags = 0;
 289         ei->socket.ops = NULL;
 290         ei->socket.sk = NULL;
 291         ei->socket.file = NULL;
 292         ei->socket.flags = 0;
 293
 294         return &ei->vfs_inode;
 295 }
 296
 297 static void sock_destroy_inode(struct inode *inode)
 298 {
 299         kmem_cache_free(sock_inode_cachep,
 300                         container_of(inode, struct socket_alloc, vfs_inode));
 301 }
 302
 303 static void init_once(void * foo, kmem_cache_t * cachep, unsigned long flags)
 304 {
 305         struct socket_alloc *ei = (struct socket_alloc *) foo;
 306
 307         if ((flags & (SLAB_CTOR_VERIFY|SLAB_CTOR_CONSTRUCTOR)) ==
 308             SLAB_CTOR_CONSTRUCTOR)
 309                 inode_init_once(&ei->vfs_inode);
 310 }
 311
 312 static int init_inodecache(void)
 313 {
 314         sock_inode_cachep = kmem_cache_create("sock_inode_cache",
 315                                 sizeof(struct socket_alloc),
 316                                 0, SLAB_HWCACHE_ALIGN|SLAB_RECLAIM_ACCOUNT,
 317                                 init_once, NULL);
 318         if (sock_inode_cachep == NULL)
 319                 return -ENOMEM;
 320         return 0;
 321 }
 322
 323 static struct super_operations sockfs_ops = {
 324         .alloc_inode =  sock_alloc_inode,
 325         .destroy_inode =sock_destroy_inode,
 326         .statfs =       simple_statfs,
 327 };
 328
 329 static struct super_block *sockfs_get_sb(struct file_system_type *fs_type,
 330         int flags, const char *dev_name, void *data)
 331 {
 332         return get_sb_pseudo(fs_type, "socket:", &sockfs_ops, SOCKFS_MAGIC);
 333 }
 334
 335 static struct vfsmount *sock_mnt;
 336
 337 static struct file_system_type sock_fs_type = {
 338         .name =         "sockfs",
 339         .get_sb =       sockfs_get_sb,
 340         .kill_sb =      kill_anon_super,
 341 };
 342 static int sockfs_delete_dentry(struct dentry *dentry)
 343 {
 344         return 1;
 345 }
 346 static struct dentry_operations sockfs_dentry_operations = {
 347         .d_delete =     sockfs_delete_dentry,
 348 };
 349
 350 /*
 351  *      Obtains the first available file descriptor and sets it up for use.
 352  *
 353  *      This function creates file structure and maps it to fd space
 354  *      of current process. On success it returns file descriptor
 355  *      and file struct implicitly stored in sock->file.
 356  *      Note that another thread may close file descriptor before we return
 357  *      from this function. We use the fact that now we do not refer
 358  *      to socket after mapping. If one day we will need it, this
 359  *      function will increment ref. count on file by 1.
 360  *
 361  *      In any case returned fd MAY BE not valid!
 362  *      This race condition is unavoidable
 363  *      with shared fd spaces, we cannot solve it inside kernel,
 364  *      but we take care of internal coherence yet.
 365  */
 366
 367 int sock_map_fd(struct socket *sock)
 368 {
 369         int fd;
 370         struct qstr this;
 371         char name[32];
 372
 373         /*
 374          *      Find a file descriptor suitable for return to the user.
 375          */
 376
 377         fd = get_unused_fd();
 378         if (fd >= 0) {
 379                 struct file *file = get_empty_filp();
 380
 381                 if (!file) {
 382                         put_unused_fd(fd);
 383                         fd = -ENFILE;
 384                         goto out;
 385                 }
 386
 387                 sprintf(name, "[%lu]", SOCK_INODE(sock)->i_ino);
 388                 this.name = name;
 389                 this.len = strlen(name);
 390                 this.hash = SOCK_INODE(sock)->i_ino;
 391
 392                 file->f_dentry = d_alloc(sock_mnt->mnt_sb->s_root, &this);
 393                 if (!file->f_dentry) {
 394                         put_filp(file);
 395                         put_unused_fd(fd);
 396                         fd = -ENOMEM;
 397                         goto out;
 398                 }
 399                 file->f_dentry->d_op = &sockfs_dentry_operations;
 400                 d_add(file->f_dentry, SOCK_INODE(sock));
 401                 file->f_vfsmnt = mntget(sock_mnt);
 402                 file->f_mapping = file->f_dentry->d_inode->i_mapping;
 403
 404                 sock->file = file;
 405                 file->f_op = SOCK_INODE(sock)->i_fop = &socket_file_ops;
 406                 file->f_mode = 3;
 407                 file->f_flags = O_RDWR;
 408                 file->f_pos = 0;
 409                 fd_install(fd, file);
 410         }
 411
 412 out:
 413         return fd;
 414 }
 415
 416 /**
 417  *      sockfd_lookup   -       Go from a file number to its socket slot
 418  *      @fd: file handle
 419  *      @err: pointer to an error code return
 420  *
 421  *      The file handle passed in is locked and the socket it is bound
 422  *      too is returned. If an error occurs the err pointer is overwritten
 423  *      with a negative errno code and NULL is returned. The function checks
 424  *      for both invalid handles and passing a handle which is not a socket.
 425  *
 426  *      On a success the socket object pointer is returned.
 427  */
 428
 429 struct socket *sockfd_lookup(int fd, int *err)
 430 {
 431         struct file *file;
 432         struct inode *inode;
 433         struct socket *sock;
 434
 435         if (!(file = fget(fd)))
 436         {
 437                 *err = -EBADF;
 438                 return NULL;
 439         }
 440
 441         inode = file->f_dentry->d_inode;
 442         if (!inode->i_sock || !(sock = SOCKET_I(inode)))
 443         {
 444                 *err = -ENOTSOCK;
 445                 fput(file);
 446                 return NULL;
 447         }
 448
 449         if (sock->file != file) {
 450                 printk(KERN_ERR "socki_lookup: socket file changed!\n");
 451                 sock->file = file;
 452         }
 453         return sock;
 454 }
 455
 456 /**
 457  *      sock_alloc      -       allocate a socket
 458  *
 459  *      Allocate a new inode and socket object. The two are bound together
 460  *      and initialised. The socket is then returned. If we are out of inodes
 461  *      NULL is returned.
 462  */
 463
 464 struct socket *sock_alloc(void)
 465 {
 466         struct inode * inode;
 467         struct socket * sock;
 468
 469         inode = new_inode(sock_mnt->mnt_sb);
 470         if (!inode)
 471                 return NULL;
 472
 473         sock = SOCKET_I(inode);
 474
 475         inode->i_mode = S_IFSOCK|S_IRWXUGO;
 476         inode->i_sock = 1;
 477         inode->i_uid = current->fsuid;
 478         inode->i_gid = current->fsgid;
 479
 480         get_cpu_var(sockets_in_use)++;
 481         put_cpu_var(sockets_in_use);
 482         return sock;
 483 }
 484
 485 /*
 486  *      In theory you can't get an open on this inode, but /proc provides
 487  *      a back door. Remember to keep it shut otherwise you'll let the
 488  *      creepy crawlies in.
 489  */
 490
 491 static int sock_no_open(struct inode *irrelevant, struct file *dontcare)
 492 {
 493         return -ENXIO;
 494 }
 495
 496 struct file_operations bad_sock_fops = {
 497         .owner = THIS_MODULE,
 498         .open = sock_no_open,
 499 };
 500
 501 /**
 502  *      sock_release    -       close a socket
 503  *      @sock: socket to close
 504  *
 505  *      The socket is released from the protocol stack if it has a release
 506  *      callback, and the inode is then released if the socket is bound to
 507  *      an inode not a file.
 508  */
 509
 510 void sock_release(struct socket *sock)
 511 {
 512         if (sock->ops) {
 513                 struct module *owner = sock->ops->owner;
 514
 515                 sock->ops->release(sock);
 516                 sock->ops = NULL;
 517                 module_put(owner);
 518         }
 519
 520         if (sock->fasync_list)
 521                 printk(KERN_ERR "sock_release: fasync list not empty!\n");
 522
 523         get_cpu_var(sockets_in_use)--;
 524         put_cpu_var(sockets_in_use);
 525         if (!sock->file) {
 526                 iput(SOCK_INODE(sock));
 527                 return;
 528         }
 529         sock->file=NULL;
 530 }
 531
 532 static inline int __sock_sendmsg(struct kiocb *iocb, struct socket *sock,
 533                                  struct msghdr *msg, size_t size)
 534 {
 535         struct sock_iocb *si = kiocb_to_siocb(iocb);
 536         int err, len;
 537
 538         si->sock = sock;
 539         si->scm = NULL;
 540         si->msg = msg;
 541         si->size = size;
 542
 543         err = security_socket_sendmsg(sock, msg, size);
 544         if (err)
 545                 return err;
 546
 547         len = sock->ops->sendmsg(iocb, sock, msg, size);
 548         if (sock->sk) {
 549                 if (len == size)
 550                         vx_sock_send(sock->sk, size);
 551                 else
 552                         vx_sock_fail(sock->sk, size);
 553         }
 554         vxdprintk("__sock_sendmsg: %p[%p,%p,%p;%d]:%d/%d\n",
 555                 sock, sock->sk,
 556                 (sock->sk)?sock->sk->sk_nx_info:0,
 557                 (sock->sk)?sock->sk->sk_vx_info:0,
 558                 (sock->sk)?sock->sk->sk_xid:0,
 559                 size, len);
 560         return len;
 561 }
 562
 563 int sock_sendmsg(struct socket *sock, struct msghdr *msg, size_t size)
 564 {
 565         struct kiocb iocb;
 566         int ret;
 567
 568         init_sync_kiocb(&iocb, NULL);
 569         ret = __sock_sendmsg(&iocb, sock, msg, size);
 570         if (-EIOCBQUEUED == ret)
 571                 ret = wait_on_sync_kiocb(&iocb);
 572         return ret;
 573 }
 574
 575
 576 static inline int __sock_recvmsg(struct kiocb *iocb, struct socket *sock,
 577                                  struct msghdr *msg, size_t size, int flags)
 578 {
 579         int err, len;
 580         struct sock_iocb *si = kiocb_to_siocb(iocb);
 581
 582         si->sock = sock;
 583         si->scm = NULL;
 584         si->msg = msg;
 585         si->size = size;
 586         si->flags = flags;
 587
 588         err = security_socket_recvmsg(sock, msg, size, flags);
 589         if (err)
 590                 return err;
 591
 592         len = sock->ops->recvmsg(iocb, sock, msg, size, flags);
 593         if ((len >= 0) && sock->sk)
 594                 vx_sock_recv(sock->sk, len);
 595         vxdprintk("__sock_recvmsg: %p[%p,%p,%p;%d]:%d/%d\n",
 596                 sock, sock->sk,
 597                 (sock->sk)?sock->sk->sk_nx_info:0,
 598                 (sock->sk)?sock->sk->sk_vx_info:0,
 599                 (sock->sk)?sock->sk->sk_xid:0,
 600                 size, len);
 601         return len;
 602 }
 603
 604 int sock_recvmsg(struct socket *sock, struct msghdr *msg,
 605                  size_t size, int flags)
 606 {
 607         struct kiocb iocb;
 608         int ret;
 609
 610         init_sync_kiocb(&iocb, NULL);
 611         ret = __sock_recvmsg(&iocb, sock, msg, size, flags);
 612         if (-EIOCBQUEUED == ret)
 613                 ret = wait_on_sync_kiocb(&iocb);
 614         return ret;
 615 }
 616
 617 /*
 618  *      Read data from a socket. ubuf is a user mode pointer. We make sure the user
 619  *      area ubuf...ubuf+size-1 is writable before asking the protocol.
 620  */
 621
 622 static ssize_t sock_aio_read(struct kiocb *iocb, char __user *ubuf,
 623                          size_t size, loff_t pos)
 624 {
 625         struct sock_iocb *x = kiocb_to_siocb(iocb);
 626         struct socket *sock;
 627         int flags;
 628
 629         if (pos != 0)
 630                 return -ESPIPE;
 631         if (size==0)            /* Match SYS5 behaviour */
 632                 return 0;
 633
 634         sock = SOCKET_I(iocb->ki_filp->f_dentry->d_inode);
 635
 636         x->async_msg.msg_name = NULL;
 637         x->async_msg.msg_namelen = 0;
 638         x->async_msg.msg_iov = &x->async_iov;
 639         x->async_msg.msg_iovlen = 1;
 640         x->async_msg.msg_control = NULL;
 641         x->async_msg.msg_controllen = 0;
 642         x->async_iov.iov_base = ubuf;
 643         x->async_iov.iov_len = size;
 644         flags = !(iocb->ki_filp->f_flags & O_NONBLOCK) ? 0 : MSG_DONTWAIT;
 645
 646         return __sock_recvmsg(iocb, sock, &x->async_msg, size, flags);
 647 }
 648
 649
 650 /*
 651  *      Write data to a socket. We verify that the user area ubuf..ubuf+size-1
 652  *      is readable by the user process.
 653  */
 654
 655 static ssize_t sock_aio_write(struct kiocb *iocb, const char __user *ubuf,
 656                           size_t size, loff_t pos)
 657 {
 658         struct sock_iocb *x = kiocb_to_siocb(iocb);
 659         struct socket *sock;
 660
 661         if (pos != 0)
 662                 return -ESPIPE;
 663         if(size==0)             /* Match SYS5 behaviour */
 664                 return 0;
 665
 666         sock = SOCKET_I(iocb->ki_filp->f_dentry->d_inode);
 667
 668         x->async_msg.msg_name = NULL;
 669         x->async_msg.msg_namelen = 0;
 670         x->async_msg.msg_iov = &x->async_iov;
 671         x->async_msg.msg_iovlen = 1;
 672         x->async_msg.msg_control = NULL;
 673         x->async_msg.msg_controllen = 0;
 674         x->async_msg.msg_flags = !(iocb->ki_filp->f_flags & O_NONBLOCK) ? 0 : MSG_DONTWAIT;
 675         if (sock->type == SOCK_SEQPACKET)
 676                 x->async_msg.msg_flags |= MSG_EOR;
 677         x->async_iov.iov_base = (void __user *)ubuf;
 678         x->async_iov.iov_len = size;
 679
 680         return __sock_sendmsg(iocb, sock, &x->async_msg, size);
 681 }
 682
 683 ssize_t sock_sendpage(struct file *file, struct page *page,
 684                       int offset, size_t size, loff_t *ppos, int more)
 685 {
 686         struct socket *sock;
 687         int flags;
 688
 689         if (ppos != &file->f_pos)
 690                 return -ESPIPE;
 691
 692         sock = SOCKET_I(file->f_dentry->d_inode);
 693
 694         flags = !(file->f_flags & O_NONBLOCK) ? 0 : MSG_DONTWAIT;
 695         if (more)
 696                 flags |= MSG_MORE;
 697
 698         return sock->ops->sendpage(sock, page, offset, size, flags);
 699 }
 700
 701 int sock_readv_writev(int type, struct inode * inode, struct file * file,
 702                       const struct iovec * iov, long count, size_t size)
 703 {
 704         struct msghdr msg;
 705         struct socket *sock;
 706
 707         sock = SOCKET_I(inode);
 708
 709         msg.msg_name = NULL;
 710         msg.msg_namelen = 0;
 711         msg.msg_control = NULL;
 712         msg.msg_controllen = 0;
 713         msg.msg_iov = (struct iovec *) iov;
 714         msg.msg_iovlen = count;
 715         msg.msg_flags = (file->f_flags & O_NONBLOCK) ? MSG_DONTWAIT : 0;
 716
 717         /* read() does a VERIFY_WRITE */
 718         if (type == VERIFY_WRITE)
 719                 return sock_recvmsg(sock, &msg, size, msg.msg_flags);
 720
 721         if (sock->type == SOCK_SEQPACKET)
 722                 msg.msg_flags |= MSG_EOR;
 723
 724         return sock_sendmsg(sock, &msg, size);
 725 }
 726
 727 static ssize_t sock_readv(struct file *file, const struct iovec *vector,
 728                           unsigned long count, loff_t *ppos)
 729 {
 730         size_t tot_len = 0;
 731         int i;
 732         for (i = 0 ; i < count ; i++)
 733                 tot_len += vector[i].iov_len;
 734         return sock_readv_writev(VERIFY_WRITE, file->f_dentry->d_inode,
 735                                  file, vector, count, tot_len);
 736 }
 737
 738 static ssize_t sock_writev(struct file *file, const struct iovec *vector,
 739                            unsigned long count, loff_t *ppos)
 740 {
 741         size_t tot_len = 0;
 742         int i;
 743         for (i = 0 ; i < count ; i++)
 744                 tot_len += vector[i].iov_len;
 745         return sock_readv_writev(VERIFY_READ, file->f_dentry->d_inode,
 746                                  file, vector, count, tot_len);
 747 }
 748
 749
 750 /*
 751  * Atomic setting of ioctl hooks to avoid race
 752  * with module unload.
 753  */
 754
 755 static DECLARE_MUTEX(br_ioctl_mutex);
 756 static int (*br_ioctl_hook)(unsigned int cmd, void __user *arg) = NULL;
 757
 758 void brioctl_set(int (*hook)(unsigned int, void __user *))
 759 {
 760         down(&br_ioctl_mutex);
 761         br_ioctl_hook = hook;
 762         up(&br_ioctl_mutex);
 763 }
 764 EXPORT_SYMBOL(brioctl_set);
 765
 766 static DECLARE_MUTEX(vlan_ioctl_mutex);
 767 static int (*vlan_ioctl_hook)(void __user *arg);
 768
 769 void vlan_ioctl_set(int (*hook)(void __user *))
 770 {
 771         down(&vlan_ioctl_mutex);
 772         vlan_ioctl_hook = hook;
 773         up(&vlan_ioctl_mutex);
 774 }
 775 EXPORT_SYMBOL(vlan_ioctl_set);
 776
 777 static DECLARE_MUTEX(dlci_ioctl_mutex);
 778 static int (*dlci_ioctl_hook)(unsigned int, void __user *);
 779
 780 void dlci_ioctl_set(int (*hook)(unsigned int, void __user *))
 781 {
 782         down(&dlci_ioctl_mutex);
 783         dlci_ioctl_hook = hook;
 784         up(&dlci_ioctl_mutex);
 785 }
 786 EXPORT_SYMBOL(dlci_ioctl_set);
 787
 788 /*
 789  *      With an ioctl, arg may well be a user mode pointer, but we don't know
 790  *      what to do with it - that's up to the protocol still.
 791  */
 792
 793 static int sock_ioctl(struct inode *inode, struct file *file, unsigned int cmd,
 794                       unsigned long arg)
 795 {
 796         struct socket *sock;
 797         void __user *argp = (void __user *)arg;
 798         int pid, err;
 799
 800         unlock_kernel();
 801         sock = SOCKET_I(inode);
 802         if (cmd >= SIOCDEVPRIVATE && cmd <= (SIOCDEVPRIVATE + 15)) {
 803                 err = dev_ioctl(cmd, argp);
 804         } else
 805 #ifdef WIRELESS_EXT
 806         if (cmd >= SIOCIWFIRST && cmd <= SIOCIWLAST) {
 807                 err = dev_ioctl(cmd, argp);
 808         } else
 809 #endif  /* WIRELESS_EXT */
 810         switch (cmd) {
 811                 case FIOSETOWN:
 812                 case SIOCSPGRP:
 813                         err = -EFAULT;
 814                         if (get_user(pid, (int __user *)argp))
 815                                 break;
 816                         err = f_setown(sock->file, pid, 1);
 817                         break;
 818                 case FIOGETOWN:
 819                 case SIOCGPGRP:
 820                         err = put_user(sock->file->f_owner.pid, (int __user *)argp);
 821                         break;
 822                 case SIOCGIFBR:
 823                 case SIOCSIFBR:
 824                 case SIOCBRADDBR:
 825                 case SIOCBRDELBR:
 826                         err = -ENOPKG;
 827                         if (!br_ioctl_hook)
 828                                 request_module("bridge");
 829
 830                         down(&br_ioctl_mutex);
 831                         if (br_ioctl_hook)
 832                                 err = br_ioctl_hook(cmd, argp);
 833                         up(&br_ioctl_mutex);
 834                         break;
 835                 case SIOCGIFVLAN:
 836                 case SIOCSIFVLAN:
 837                         err = -ENOPKG;
 838                         if (!vlan_ioctl_hook)
 839                                 request_module("8021q");
 840
 841                         down(&vlan_ioctl_mutex);
 842                         if (vlan_ioctl_hook)
 843                                 err = vlan_ioctl_hook(argp);
 844                         up(&vlan_ioctl_mutex);
 845                         break;
 846                 case SIOCGIFDIVERT:
 847                 case SIOCSIFDIVERT:
 848                 /* Convert this to call through a hook */
 849                         err = divert_ioctl(cmd, argp);
 850                         break;
 851                 case SIOCADDDLCI:
 852                 case SIOCDELDLCI:
 853                         err = -ENOPKG;
 854                         if (!dlci_ioctl_hook)
 855                                 request_module("dlci");
 856
 857                         if (dlci_ioctl_hook) {
 858                                 down(&dlci_ioctl_mutex);
 859                                 err = dlci_ioctl_hook(cmd, argp);
 860                                 up(&dlci_ioctl_mutex);
 861                         }
 862                         break;
 863                 default:
 864                         err = sock->ops->ioctl(sock, cmd, arg);
 865                         break;
 866         }
 867         lock_kernel();
 868
 869         return err;
 870 }
 871
 872 int sock_create_lite(int family, int type, int protocol, struct socket **res)
 873 {
 874         int err;
 875         struct socket *sock = NULL;
 876
 877         err = security_socket_create(family, type, protocol, 1);
 878         if (err)
 879                 goto out;
 880
 881         sock = sock_alloc();
 882         if (!sock) {
 883                 err = -ENOMEM;
 884                 goto out;
 885         }
 886
 887         security_socket_post_create(sock, family, type, protocol, 1);
 888         sock->type = type;
 889 out:
 890         *res = sock;
 891         return err;
 892 }
 893
 894 /* No kernel lock held - perfect */
 895 static unsigned int sock_poll(struct file *file, poll_table * wait)
 896 {
 897         struct socket *sock;
 898
 899         /*
 900          *      We can't return errors to poll, so it's either yes or no.
 901          */
 902         sock = SOCKET_I(file->f_dentry->d_inode);
 903         return sock->ops->poll(file, sock, wait);
 904 }
 905
 906 static int sock_mmap(struct file * file, struct vm_area_struct * vma)
 907 {
 908         struct socket *sock = SOCKET_I(file->f_dentry->d_inode);
 909
 910         return sock->ops->mmap(file, sock, vma);
 911 }
 912
 913 int sock_close(struct inode *inode, struct file *filp)
 914 {
 915         /*
 916          *      It was possible the inode is NULL we were
 917          *      closing an unfinished socket.
 918          */
 919
 920         if (!inode)
 921         {
 922                 printk(KERN_DEBUG "sock_close: NULL inode\n");
 923                 return 0;
 924         }
 925         sock_fasync(-1, filp, 0);
 926         sock_release(SOCKET_I(inode));
 927         return 0;
 928 }
 929
 930 /*
 931  *      Update the socket async list
 932  *
 933  *      Fasync_list locking strategy.
 934  *
 935  *      1. fasync_list is modified only under process context socket lock
 936  *         i.e. under semaphore.
 937  *      2. fasync_list is used under read_lock(&sk->sk_callback_lock)
 938  *         or under socket lock.
 939  *      3. fasync_list can be used from softirq context, so that
 940  *         modification under socket lock have to be enhanced with
 941  *         write_lock_bh(&sk->sk_callback_lock).
 942  *                                                      --ANK (990710)
 943  */
 944
 945 static int sock_fasync(int fd, struct file *filp, int on)
 946 {
 947         struct fasync_struct *fa, *fna=NULL, **prev;
 948         struct socket *sock;
 949         struct sock *sk;
 950
 951         if (on)
 952         {
 953                 fna=(struct fasync_struct *)kmalloc(sizeof(struct fasync_struct), GFP_KERNEL);
 954                 if(fna==NULL)
 955                         return -ENOMEM;
 956         }
 957
 958         sock = SOCKET_I(filp->f_dentry->d_inode);
 959
 960         if ((sk=sock->sk) == NULL) {
 961                 if (fna)
 962                         kfree(fna);
 963                 return -EINVAL;
 964         }
 965
 966         lock_sock(sk);
 967
 968         prev=&(sock->fasync_list);
 969
 970         for (fa=*prev; fa!=NULL; prev=&fa->fa_next,fa=*prev)
 971                 if (fa->fa_file==filp)
 972                         break;
 973
 974         if(on)
 975         {
 976                 if(fa!=NULL)
 977                 {
 978                         write_lock_bh(&sk->sk_callback_lock);
 979                         fa->fa_fd=fd;
 980                         write_unlock_bh(&sk->sk_callback_lock);
 981
 982                         kfree(fna);
 983                         goto out;
 984                 }
 985                 fna->fa_file=filp;
 986                 fna->fa_fd=fd;
 987                 fna->magic=FASYNC_MAGIC;
 988                 fna->fa_next=sock->fasync_list;
 989                 write_lock_bh(&sk->sk_callback_lock);
 990                 sock->fasync_list=fna;
 991                 write_unlock_bh(&sk->sk_callback_lock);
 992         }
 993         else
 994         {
 995                 if (fa!=NULL)
 996                 {
 997                         write_lock_bh(&sk->sk_callback_lock);
 998                         *prev=fa->fa_next;
 999                         write_unlock_bh(&sk->sk_callback_lock);
1000                         kfree(fa);
1001                 }
1002         }
1003
1004 out:
1005         release_sock(sock->sk);
1006         return 0;
1007 }
1008
1009 /* This function may be called only under socket lock or callback_lock */
1010
1011 int sock_wake_async(struct socket *sock, int how, int band)
1012 {
1013         if (!sock || !sock->fasync_list)
1014                 return -1;
1015         switch (how)
1016         {
1017         case 1:
1018
1019                 if (test_bit(SOCK_ASYNC_WAITDATA, &sock->flags))
1020                         break;
1021                 goto call_kill;
1022         case 2:
1023                 if (!test_and_clear_bit(SOCK_ASYNC_NOSPACE, &sock->flags))
1024                         break;
1025                 /* fall through */
1026         case 0:
1027         call_kill:
1028                 __kill_fasync(sock->fasync_list, SIGIO, band);
1029                 break;
1030         case 3:
1031                 __kill_fasync(sock->fasync_list, SIGURG, band);
1032         }
1033         return 0;
1034 }
1035
1036 static int __sock_create(int family, int type, int protocol, struct socket **res, int kern)
1037 {
1038         int i;
1039         int err;
1040         struct socket *sock;
1041
1042         /*
1043          *      Check protocol is in range
1044          */
1045         if (family < 0 || family >= NPROTO)
1046                 return -EAFNOSUPPORT;
1047         if (type < 0 || type >= SOCK_MAX)
1048                 return -EINVAL;
1049
1050         /* disable IPv6 inside vservers for now */
1051         if (family == PF_INET6 && !vx_check(0, VX_ADMIN))
1052                 return -EAFNOSUPPORT;
1053
1054         /* Compatibility.
1055
1056            This uglymoron is moved from INET layer to here to avoid
1057            deadlock in module load.
1058          */
1059         if (family == PF_INET && type == SOCK_PACKET) {
1060                 static int warned;
1061                 if (!warned) {
1062                         warned = 1;
1063                         printk(KERN_INFO "%s uses obsolete (PF_INET,SOCK_PACKET)\n", current->comm);
1064                 }
1065                 family = PF_PACKET;
1066         }
1067
1068         err = security_socket_create(family, type, protocol, kern);
1069         if (err)
1070                 return err;
1071
1072 #if defined(CONFIG_KMOD)
1073         /* Attempt to load a protocol module if the find failed.
1074          *
1075          * 12/09/1996 Marcin: But! this makes REALLY only sense, if the user
1076          * requested real, full-featured networking support upon configuration.
1077          * Otherwise module support will break!
1078          */
1079         if (net_families[family]==NULL)
1080         {
1081                 request_module("net-pf-%d",family);
1082         }
1083 #endif
1084
1085         net_family_read_lock();
1086         if (net_families[family] == NULL) {
1087                 i = -EAFNOSUPPORT;
1088                 goto out;
1089         }
1090
1091 /*
1092  *      Allocate the socket and allow the family to set things up. if
1093  *      the protocol is 0, the family is instructed to select an appropriate
1094  *      default.
1095  */
1096
1097         if (!(sock = sock_alloc()))
1098         {
1099                 printk(KERN_WARNING "socket: no more sockets\n");
1100                 i = -ENFILE;            /* Not exactly a match, but its the
1101                                            closest posix thing */
1102                 goto out;
1103         }
1104
1105         sock->type  = type;
1106
1107         /*
1108          * We will call the ->create function, that possibly is in a loadable
1109          * module, so we have to bump that loadable module refcnt first.
1110          */
1111         i = -EAFNOSUPPORT;
1112         if (!try_module_get(net_families[family]->owner))
1113                 goto out_release;
1114
1115         if ((i = net_families[family]->create(sock, protocol)) < 0)
1116                 goto out_module_put;
1117         /*
1118          * Now to bump the refcnt of the [loadable] module that owns this
1119          * socket at sock_release time we decrement its refcnt.
1120          */
1121         if (!try_module_get(sock->ops->owner)) {
1122                 sock->ops = NULL;
1123                 goto out_module_put;
1124         }
1125         /*
1126          * Now that we're done with the ->create function, the [loadable]
1127          * module can have its refcnt decremented
1128          */
1129         module_put(net_families[family]->owner);
1130         *res = sock;
1131         security_socket_post_create(sock, family, type, protocol, kern);
1132
1133 out:
1134         net_family_read_unlock();
1135         return i;
1136 out_module_put:
1137         module_put(net_families[family]->owner);
1138 out_release:
1139         sock_release(sock);
1140         goto out;
1141 }
1142
1143 int sock_create(int family, int type, int protocol, struct socket **res)
1144 {
1145         return __sock_create(family, type, protocol, res, 0);
1146 }
1147
1148 int sock_create_kern(int family, int type, int protocol, struct socket **res)
1149 {
1150         return __sock_create(family, type, protocol, res, 1);
1151 }
1152
1153 asmlinkage long sys_socket(int family, int type, int protocol)
1154 {
1155         int retval;
1156         struct socket *sock;
1157
1158         retval = sock_create(family, type, protocol, &sock);
1159         if (retval < 0)
1160                 goto out;
1161
1162         set_bit(SOCK_USER_SOCKET, &sock->flags);
1163         retval = sock_map_fd(sock);
1164         if (retval < 0)
1165                 goto out_release;
1166
1167 out:
1168         /* It may be already another descriptor 8) Not kernel problem. */
1169         return retval;
1170
1171 out_release:
1172         sock_release(sock);
1173         return retval;
1174 }
1175
1176 /*
1177  *      Create a pair of connected sockets.
1178  */
1179
1180 asmlinkage long sys_socketpair(int family, int type, int protocol, int __user *usockvec)
1181 {
1182         struct socket *sock1, *sock2;
1183         int fd1, fd2, err;
1184
1185         /*
1186          * Obtain the first socket and check if the underlying protocol
1187          * supports the socketpair call.
1188          */
1189
1190         err = sock_create(family, type, protocol, &sock1);
1191         if (err < 0)
1192                 goto out;
1193         set_bit(SOCK_USER_SOCKET, &sock1->flags);
1194
1195         err = sock_create(family, type, protocol, &sock2);
1196         if (err < 0)
1197                 goto out_release_1;
1198         set_bit(SOCK_USER_SOCKET, &sock2->flags);
1199
1200         err = sock1->ops->socketpair(sock1, sock2);
1201         if (err < 0)
1202                 goto out_release_both;
1203
1204         fd1 = fd2 = -1;
1205
1206         err = sock_map_fd(sock1);
1207         if (err < 0)
1208                 goto out_release_both;
1209         fd1 = err;
1210
1211         err = sock_map_fd(sock2);
1212         if (err < 0)
1213                 goto out_close_1;
1214         fd2 = err;
1215
1216         /* fd1 and fd2 may be already another descriptors.
1217          * Not kernel problem.
1218          */
1219
1220         err = put_user(fd1, &usockvec[0]);
1221         if (!err)
1222                 err = put_user(fd2, &usockvec[1]);
1223         if (!err)
1224                 return 0;
1225
1226         sys_close(fd2);
1227         sys_close(fd1);
1228         return err;
1229
1230 out_close_1:
1231         sock_release(sock2);
1232         sys_close(fd1);
1233         return err;
1234
1235 out_release_both:
1236         sock_release(sock2);
1237 out_release_1:
1238         sock_release(sock1);
1239 out:
1240         return err;
1241 }
1242
1243
1244 /*
1245  *      Bind a name to a socket. Nothing much to do here since it's
1246  *      the protocol's responsibility to handle the local address.
1247  *
1248  *      We move the socket address to kernel space before we call
1249  *      the protocol layer (having also checked the address is ok).
1250  */
1251
1252 asmlinkage long sys_bind(int fd, struct sockaddr __user *umyaddr, int addrlen)
1253 {
1254         struct socket *sock;
1255         char address[MAX_SOCK_ADDR];
1256         int err;
1257
1258         if((sock = sockfd_lookup(fd,&err))!=NULL)
1259         {
1260                 if((err=move_addr_to_kernel(umyaddr,addrlen,address))>=0) {
1261                         err = security_socket_bind(sock, (struct sockaddr *)address, addrlen);
1262                         if (err) {
1263                                 sockfd_put(sock);
1264                                 return err;
1265                         }
1266                         err = sock->ops->bind(sock, (struct sockaddr *)address, addrlen);
1267                 }
1268                 sockfd_put(sock);
1269         }
1270         return err;
1271 }
1272
1273
1274 /*
1275  *      Perform a listen. Basically, we allow the protocol to do anything
1276  *      necessary for a listen, and if that works, we mark the socket as
1277  *      ready for listening.
1278  */
1279
1280 int sysctl_somaxconn = SOMAXCONN;
1281
1282 asmlinkage long sys_listen(int fd, int backlog)
1283 {
1284         struct socket *sock;
1285         int err;
1286
1287         if ((sock = sockfd_lookup(fd, &err)) != NULL) {
1288                 if ((unsigned) backlog > sysctl_somaxconn)
1289                         backlog = sysctl_somaxconn;
1290
1291                 err = security_socket_listen(sock, backlog);
1292                 if (err) {
1293                         sockfd_put(sock);
1294                         return err;
1295                 }
1296
1297                 err=sock->ops->listen(sock, backlog);
1298                 sockfd_put(sock);
1299         }
1300         return err;
1301 }
1302
1303
1304 /*
1305  *      For accept, we attempt to create a new socket, set up the link
1306  *      with the client, wake up the client, then return the new
1307  *      connected fd. We collect the address of the connector in kernel
1308  *      space and move it to user at the very end. This is unclean because
1309  *      we open the socket then return an error.
1310  *
1311  *      1003.1g adds the ability to recvmsg() to query connection pending
1312  *      status to recvmsg. We need to add that support in a way thats
1313  *      clean when we restucture accept also.
1314  */
1315
1316 asmlinkage long sys_accept(int fd, struct sockaddr __user *upeer_sockaddr, int __user *upeer_addrlen)
1317 {
1318         struct socket *sock, *newsock;
1319         int err, len;
1320         char address[MAX_SOCK_ADDR];
1321
1322         sock = sockfd_lookup(fd, &err);
1323         if (!sock)
1324                 goto out;
1325
1326         err = -EMFILE;
1327         if (!(newsock = sock_alloc()))
1328                 goto out_put;
1329
1330         newsock->type = sock->type;
1331         newsock->ops = sock->ops;
1332
1333         err = security_socket_accept(sock, newsock);
1334         if (err)
1335                 goto out_release;
1336
1337         /*
1338          * We don't need try_module_get here, as the listening socket (sock)
1339          * has the protocol module (sock->ops->owner) held.
1340          */
1341         __module_get(newsock->ops->owner);
1342
1343         err = sock->ops->accept(sock, newsock, sock->file->f_flags);
1344         if (err < 0)
1345                 goto out_release;
1346
1347         if (upeer_sockaddr) {
1348                 if(newsock->ops->getname(newsock, (struct sockaddr *)address, &len, 2)<0) {
1349                         err = -ECONNABORTED;
1350                         goto out_release;
1351                 }
1352                 err = move_addr_to_user(address, len, upeer_sockaddr, upeer_addrlen);
1353                 if (err < 0)
1354                         goto out_release;
1355         }
1356
1357         /* File flags are not inherited via accept() unlike another OSes. */
1358
1359         if ((err = sock_map_fd(newsock)) < 0)
1360                 goto out_release;
1361
1362         security_socket_post_accept(sock, newsock);
1363
1364 out_put:
1365         sockfd_put(sock);
1366 out:
1367         return err;
1368 out_release:
1369         sock_release(newsock);
1370         goto out_put;
1371 }
1372
1373
1374 /*
1375  *      Attempt to connect to a socket with the server address.  The address
1376  *      is in user space so we verify it is OK and move it to kernel space.
1377  *
1378  *      For 1003.1g we need to add clean support for a bind to AF_UNSPEC to
1379  *      break bindings
1380  *
1381  *      NOTE: 1003.1g draft 6.3 is broken with respect to AX.25/NetROM and
1382  *      other SEQPACKET protocols that take time to connect() as it doesn't
1383  *      include the -EINPROGRESS status for such sockets.
1384  */
1385
1386 asmlinkage long sys_connect(int fd, struct sockaddr __user *uservaddr, int addrlen)
1387 {
1388         struct socket *sock;
1389         char address[MAX_SOCK_ADDR];
1390         int err;
1391
1392         sock = sockfd_lookup(fd, &err);
1393         if (!sock)
1394                 goto out;
1395         err = move_addr_to_kernel(uservaddr, addrlen, address);
1396         if (err < 0)
1397                 goto out_put;
1398
1399         err = security_socket_connect(sock, (struct sockaddr *)address, addrlen);
1400         if (err)
1401                 goto out_put;
1402
1403         err = sock->ops->connect(sock, (struct sockaddr *) address, addrlen,
1404                                  sock->file->f_flags);
1405 out_put:
1406         sockfd_put(sock);
1407 out:
1408         return err;
1409 }
1410
1411 /*
1412  *      Get the local address ('name') of a socket object. Move the obtained
1413  *      name to user space.
1414  */
1415
1416 asmlinkage long sys_getsockname(int fd, struct sockaddr __user *usockaddr, int __user *usockaddr_len)
1417 {
1418         struct socket *sock;
1419         char address[MAX_SOCK_ADDR];
1420         int len, err;
1421
1422         sock = sockfd_lookup(fd, &err);
1423         if (!sock)
1424                 goto out;
1425
1426         err = security_socket_getsockname(sock);
1427         if (err)
1428                 goto out_put;
1429
1430         err = sock->ops->getname(sock, (struct sockaddr *)address, &len, 0);
1431         if (err)
1432                 goto out_put;
1433         err = move_addr_to_user(address, len, usockaddr, usockaddr_len);
1434
1435 out_put:
1436         sockfd_put(sock);
1437 out:
1438         return err;
1439 }
1440
1441 /*
1442  *      Get the remote address ('name') of a socket object. Move the obtained
1443  *      name to user space.
1444  */
1445
1446 asmlinkage long sys_getpeername(int fd, struct sockaddr __user *usockaddr, int __user *usockaddr_len)
1447 {
1448         struct socket *sock;
1449         char address[MAX_SOCK_ADDR];
1450         int len, err;
1451
1452         if ((sock = sockfd_lookup(fd, &err))!=NULL)
1453         {
1454                 err = security_socket_getpeername(sock);
1455                 if (err) {
1456                         sockfd_put(sock);
1457                         return err;
1458                 }
1459
1460                 err = sock->ops->getname(sock, (struct sockaddr *)address, &len, 1);
1461                 if (!err)
1462                         err=move_addr_to_user(address,len, usockaddr, usockaddr_len);
1463                 sockfd_put(sock);
1464         }
1465         return err;
1466 }
1467
1468 /*
1469  *      Send a datagram to a given address. We move the address into kernel
1470  *      space and check the user space data area is readable before invoking
1471  *      the protocol.
1472  */
1473
1474 asmlinkage long sys_sendto(int fd, void __user * buff, size_t len, unsigned flags,
1475                            struct sockaddr __user *addr, int addr_len)
1476 {
1477         struct socket *sock;
1478         char address[MAX_SOCK_ADDR];
1479         int err;
1480         struct msghdr msg;
1481         struct iovec iov;
1482
1483         sock = sockfd_lookup(fd, &err);
1484         if (!sock)
1485                 goto out;
1486         iov.iov_base=buff;
1487         iov.iov_len=len;
1488         msg.msg_name=NULL;
1489         msg.msg_iov=&iov;
1490         msg.msg_iovlen=1;
1491         msg.msg_control=NULL;
1492         msg.msg_controllen=0;
1493         msg.msg_namelen=0;
1494         if(addr)
1495         {
1496                 err = move_addr_to_kernel(addr, addr_len, address);
1497                 if (err < 0)
1498                         goto out_put;
1499                 msg.msg_name=address;
1500                 msg.msg_namelen=addr_len;
1501         }
1502         if (sock->file->f_flags & O_NONBLOCK)
1503                 flags |= MSG_DONTWAIT;
1504         msg.msg_flags = flags;
1505         err = sock_sendmsg(sock, &msg, len);
1506
1507 out_put:
1508         sockfd_put(sock);
1509 out:
1510         return err;
1511 }
1512
1513 /*
1514  *      Send a datagram down a socket.
1515  */
1516
1517 asmlinkage long sys_send(int fd, void __user * buff, size_t len, unsigned flags)
1518 {
1519         return sys_sendto(fd, buff, len, flags, NULL, 0);
1520 }
1521
1522 /*
1523  *      Receive a frame from the socket and optionally record the address of the
1524  *      sender. We verify the buffers are writable and if needed move the
1525  *      sender address from kernel to user space.
1526  */
1527
1528 asmlinkage long sys_recvfrom(int fd, void __user * ubuf, size_t size, unsigned flags,
1529                              struct sockaddr __user *addr, int __user *addr_len)
1530 {
1531         struct socket *sock;
1532         struct iovec iov;
1533         struct msghdr msg;
1534         char address[MAX_SOCK_ADDR];
1535         int err,err2;
1536
1537         sock = sockfd_lookup(fd, &err);
1538         if (!sock)
1539                 goto out;
1540
1541         msg.msg_control=NULL;
1542         msg.msg_controllen=0;
1543         msg.msg_iovlen=1;
1544         msg.msg_iov=&iov;
1545         iov.iov_len=size;
1546         iov.iov_base=ubuf;
1547         msg.msg_name=address;
1548         msg.msg_namelen=MAX_SOCK_ADDR;
1549         if (sock->file->f_flags & O_NONBLOCK)
1550                 flags |= MSG_DONTWAIT;
1551         err=sock_recvmsg(sock, &msg, size, flags);
1552
1553         if(err >= 0 && addr != NULL)
1554         {
1555                 err2=move_addr_to_user(address, msg.msg_namelen, addr, addr_len);
1556                 if(err2<0)
1557                         err=err2;
1558         }
1559         sockfd_put(sock);
1560 out:
1561         return err;
1562 }
1563
1564 /*
1565  *      Receive a datagram from a socket.
1566  */
1567
1568 asmlinkage long sys_recv(int fd, void __user * ubuf, size_t size, unsigned flags)
1569 {
1570         return sys_recvfrom(fd, ubuf, size, flags, NULL, NULL);
1571 }
1572
1573 /*
1574  *      Set a socket option. Because we don't know the option lengths we have
1575  *      to pass the user mode parameter for the protocols to sort out.
1576  */
1577
1578 asmlinkage long sys_setsockopt(int fd, int level, int optname, char __user *optval, int optlen)
1579 {
1580         int err;
1581         struct socket *sock;
1582
1583         if (optlen < 0)
1584                 return -EINVAL;
1585
1586         if ((sock = sockfd_lookup(fd, &err))!=NULL)
1587         {
1588                 err = security_socket_setsockopt(sock,level,optname);
1589                 if (err) {
1590                         sockfd_put(sock);
1591                         return err;
1592                 }
1593
1594                 if (level == SOL_SOCKET)
1595                         err=sock_setsockopt(sock,level,optname,optval,optlen);
1596                 else
1597                         err=sock->ops->setsockopt(sock, level, optname, optval, optlen);
1598                 sockfd_put(sock);
1599         }
1600         return err;
1601 }
1602
1603 /*
1604  *      Get a socket option. Because we don't know the option lengths we have
1605  *      to pass a user mode parameter for the protocols to sort out.
1606  */
1607
1608 asmlinkage long sys_getsockopt(int fd, int level, int optname, char __user *optval, int __user *optlen)
1609 {
1610         int err;
1611         struct socket *sock;
1612
1613         if ((sock = sockfd_lookup(fd, &err))!=NULL)
1614         {
1615                 err = security_socket_getsockopt(sock, level,
1616                                                            optname);
1617                 if (err) {
1618                         sockfd_put(sock);
1619                         return err;
1620                 }
1621
1622                 if (level == SOL_SOCKET)
1623                         err=sock_getsockopt(sock,level,optname,optval,optlen);
1624                 else
1625                         err=sock->ops->getsockopt(sock, level, optname, optval, optlen);
1626                 sockfd_put(sock);
1627         }
1628         return err;
1629 }
1630
1631
1632 /*
1633  *      Shutdown a socket.
1634  */
1635
1636 asmlinkage long sys_shutdown(int fd, int how)
1637 {
1638         int err;
1639         struct socket *sock;
1640
1641         if ((sock = sockfd_lookup(fd, &err))!=NULL)
1642         {
1643                 err = security_socket_shutdown(sock, how);
1644                 if (err) {
1645                         sockfd_put(sock);
1646                         return err;
1647                 }
1648
1649                 err=sock->ops->shutdown(sock, how);
1650                 sockfd_put(sock);
1651         }
1652         return err;
1653 }
1654
1655 /* A couple of helpful macros for getting the address of the 32/64 bit
1656  * fields which are the same type (int / unsigned) on our platforms.
1657  */
1658 #define COMPAT_MSG(msg, member) ((MSG_CMSG_COMPAT & flags) ? &msg##_compat->member : &msg->member)
1659 #define COMPAT_NAMELEN(msg)     COMPAT_MSG(msg, msg_namelen)
1660 #define COMPAT_FLAGS(msg)       COMPAT_MSG(msg, msg_flags)
1661
1662
1663 /*
1664  *      BSD sendmsg interface
1665  */
1666
1667 asmlinkage long sys_sendmsg(int fd, struct msghdr __user *msg, unsigned flags)
1668 {
1669         struct compat_msghdr __user *msg_compat = (struct compat_msghdr __user *)msg;
1670         struct socket *sock;
1671         char address[MAX_SOCK_ADDR];
1672         struct iovec iovstack[UIO_FASTIOV], *iov = iovstack;
1673         unsigned char ctl[sizeof(struct cmsghdr) + 20]; /* 20 is size of ipv6_pktinfo */
1674         unsigned char *ctl_buf = ctl;
1675         struct msghdr msg_sys;
1676         int err, ctl_len, iov_size, total_len;
1677
1678         err = -EFAULT;
1679         if (MSG_CMSG_COMPAT & flags) {
1680                 if (get_compat_msghdr(&msg_sys, msg_compat))
1681                         return -EFAULT;
1682         } else if (copy_from_user(&msg_sys, msg, sizeof(struct msghdr)))
1683                 return -EFAULT;
1684
1685         sock = sockfd_lookup(fd, &err);
1686         if (!sock)
1687                 goto out;
1688
1689         /* do not move before msg_sys is valid */
1690         err = -EMSGSIZE;
1691         if (msg_sys.msg_iovlen > UIO_MAXIOV)
1692                 goto out_put;
1693
1694         /* Check whether to allocate the iovec area*/
1695         err = -ENOMEM;
1696         iov_size = msg_sys.msg_iovlen * sizeof(struct iovec);
1697         if (msg_sys.msg_iovlen > UIO_FASTIOV) {
1698                 iov = sock_kmalloc(sock->sk, iov_size, GFP_KERNEL);
1699                 if (!iov)
1700                         goto out_put;
1701         }
1702
1703         /* This will also move the address data into kernel space */
1704         if (MSG_CMSG_COMPAT & flags) {
1705                 err = verify_compat_iovec(&msg_sys, iov, address, VERIFY_READ);
1706         } else
1707                 err = verify_iovec(&msg_sys, iov, address, VERIFY_READ);
1708         if (err < 0)
1709                 goto out_freeiov;
1710         total_len = err;
1711
1712         err = -ENOBUFS;
1713
1714         if (msg_sys.msg_controllen > INT_MAX)
1715                 goto out_freeiov;
1716         ctl_len = msg_sys.msg_controllen;
1717         if ((MSG_CMSG_COMPAT & flags) && ctl_len) {
1718                 err = cmsghdr_from_user_compat_to_kern(&msg_sys, ctl, sizeof(ctl));
1719                 if (err)
1720                         goto out_freeiov;
1721                 ctl_buf = msg_sys.msg_control;
1722         } else if (ctl_len) {
1723                 if (ctl_len > sizeof(ctl))
1724                 {
1725                         ctl_buf = sock_kmalloc(sock->sk, ctl_len, GFP_KERNEL);
1726                         if (ctl_buf == NULL)
1727                                 goto out_freeiov;
1728                 }
1729                 err = -EFAULT;
1730                 /*
1731                  * Careful! Before this, msg_sys.msg_control contains a user pointer.
1732                  * Afterwards, it will be a kernel pointer. Thus the compiler-assisted
1733                  * checking falls down on this.
1734                  */
1735                 if (copy_from_user(ctl_buf, (void __user *) msg_sys.msg_control, ctl_len))
1736                         goto out_freectl;
1737                 msg_sys.msg_control = ctl_buf;
1738         }
1739         msg_sys.msg_flags = flags;
1740
1741         if (sock->file->f_flags & O_NONBLOCK)
1742                 msg_sys.msg_flags |= MSG_DONTWAIT;
1743         err = sock_sendmsg(sock, &msg_sys, total_len);
1744
1745 out_freectl:
1746         if (ctl_buf != ctl)
1747                 sock_kfree_s(sock->sk, ctl_buf, ctl_len);
1748 out_freeiov:
1749         if (iov != iovstack)
1750                 sock_kfree_s(sock->sk, iov, iov_size);
1751 out_put:
1752         sockfd_put(sock);
1753 out:
1754         return err;
1755 }
1756
1757 /*
1758  *      BSD recvmsg interface
1759  */
1760
1761 asmlinkage long sys_recvmsg(int fd, struct msghdr __user *msg, unsigned int flags)
1762 {
1763         struct compat_msghdr __user *msg_compat = (struct compat_msghdr __user *)msg;
1764         struct socket *sock;
1765         struct iovec iovstack[UIO_FASTIOV];
1766         struct iovec *iov=iovstack;
1767         struct msghdr msg_sys;
1768         unsigned long cmsg_ptr;
1769         int err, iov_size, total_len, len;
1770
1771         /* kernel mode address */
1772         char addr[MAX_SOCK_ADDR];
1773
1774         /* user mode address pointers */
1775         struct sockaddr __user *uaddr;
1776         int __user *uaddr_len;
1777
1778         if (MSG_CMSG_COMPAT & flags) {
1779                 if (get_compat_msghdr(&msg_sys, msg_compat))
1780                         return -EFAULT;
1781         } else
1782                 if (copy_from_user(&msg_sys,msg,sizeof(struct msghdr)))
1783                         return -EFAULT;
1784
1785         sock = sockfd_lookup(fd, &err);
1786         if (!sock)
1787                 goto out;
1788
1789         err = -EMSGSIZE;
1790         if (msg_sys.msg_iovlen > UIO_MAXIOV)
1791                 goto out_put;
1792
1793         /* Check whether to allocate the iovec area*/
1794         err = -ENOMEM;
1795         iov_size = msg_sys.msg_iovlen * sizeof(struct iovec);
1796         if (msg_sys.msg_iovlen > UIO_FASTIOV) {
1797                 iov = sock_kmalloc(sock->sk, iov_size, GFP_KERNEL);
1798                 if (!iov)
1799                         goto out_put;
1800         }
1801
1802         /*
1803          *      Save the user-mode address (verify_iovec will change the
1804          *      kernel msghdr to use the kernel address space)
1805          */
1806
1807         uaddr = (void __user *) msg_sys.msg_name;
1808         uaddr_len = COMPAT_NAMELEN(msg);
1809         if (MSG_CMSG_COMPAT & flags) {
1810                 err = verify_compat_iovec(&msg_sys, iov, addr, VERIFY_WRITE);
1811         } else
1812                 err = verify_iovec(&msg_sys, iov, addr, VERIFY_WRITE);
1813         if (err < 0)
1814                 goto out_freeiov;
1815         total_len=err;
1816
1817         cmsg_ptr = (unsigned long)msg_sys.msg_control;
1818         msg_sys.msg_flags = 0;
1819         if (MSG_CMSG_COMPAT & flags)
1820                 msg_sys.msg_flags = MSG_CMSG_COMPAT;
1821
1822         if (sock->file->f_flags & O_NONBLOCK)
1823                 flags |= MSG_DONTWAIT;
1824         err = sock_recvmsg(sock, &msg_sys, total_len, flags);
1825         if (err < 0)
1826                 goto out_freeiov;
1827         len = err;
1828
1829         if (uaddr != NULL) {
1830                 err = move_addr_to_user(addr, msg_sys.msg_namelen, uaddr, uaddr_len);
1831                 if (err < 0)
1832                         goto out_freeiov;
1833         }
1834         err = __put_user(msg_sys.msg_flags, COMPAT_FLAGS(msg));
1835         if (err)
1836                 goto out_freeiov;
1837         if (MSG_CMSG_COMPAT & flags)
1838                 err = __put_user((unsigned long)msg_sys.msg_control-cmsg_ptr,
1839                                  &msg_compat->msg_controllen);
1840         else
1841                 err = __put_user((unsigned long)msg_sys.msg_control-cmsg_ptr,
1842                                  &msg->msg_controllen);
1843         if (err)
1844                 goto out_freeiov;
1845         err = len;
1846
1847 out_freeiov:
1848         if (iov != iovstack)
1849                 sock_kfree_s(sock->sk, iov, iov_size);
1850 out_put:
1851         sockfd_put(sock);
1852 out:
1853         return err;
1854 }
1855
1856 #ifdef __ARCH_WANT_SYS_SOCKETCALL
1857
1858 /* Argument list sizes for sys_socketcall */
1859 #define AL(x) ((x) * sizeof(unsigned long))
1860 static unsigned char nargs[18]={AL(0),AL(3),AL(3),AL(3),AL(2),AL(3),
1861                                 AL(3),AL(3),AL(4),AL(4),AL(4),AL(6),
1862                                 AL(6),AL(2),AL(5),AL(5),AL(3),AL(3)};
1863 #undef AL
1864
1865 /*
1866  *      System call vectors.
1867  *
1868  *      Argument checking cleaned up. Saved 20% in size.
1869  *  This function doesn't need to set the kernel lock because
1870  *  it is set by the callees.
1871  */
1872
1873 asmlinkage long sys_socketcall(int call, unsigned long __user *args)
1874 {
1875         unsigned long a[6];
1876         unsigned long a0,a1;
1877         int err;
1878
1879         if(call<1||call>SYS_RECVMSG)
1880                 return -EINVAL;
1881
1882         /* copy_from_user should be SMP safe. */
1883         if (copy_from_user(a, args, nargs[call]))
1884                 return -EFAULT;
1885
1886         a0=a[0];
1887         a1=a[1];
1888
1889         switch(call)
1890         {
1891                 case SYS_SOCKET:
1892                         err = sys_socket(a0,a1,a[2]);
1893                         break;
1894                 case SYS_BIND:
1895                         err = sys_bind(a0,(struct sockaddr __user *)a1, a[2]);
1896                         break;
1897                 case SYS_CONNECT:
1898                         err = sys_connect(a0, (struct sockaddr __user *)a1, a[2]);
1899                         break;
1900                 case SYS_LISTEN:
1901                         err = sys_listen(a0,a1);
1902                         break;
1903                 case SYS_ACCEPT:
1904                         err = sys_accept(a0,(struct sockaddr __user *)a1, (int __user *)a[2]);
1905                         break;
1906                 case SYS_GETSOCKNAME:
1907                         err = sys_getsockname(a0,(struct sockaddr __user *)a1, (int __user *)a[2]);
1908                         break;
1909                 case SYS_GETPEERNAME:
1910                         err = sys_getpeername(a0, (struct sockaddr __user *)a1, (int __user *)a[2]);
1911                         break;
1912                 case SYS_SOCKETPAIR:
1913                         err = sys_socketpair(a0,a1, a[2], (int __user *)a[3]);
1914                         break;
1915                 case SYS_SEND:
1916                         err = sys_send(a0, (void __user *)a1, a[2], a[3]);
1917                         break;
1918                 case SYS_SENDTO:
1919                         err = sys_sendto(a0,(void __user *)a1, a[2], a[3],
1920                                          (struct sockaddr __user *)a[4], a[5]);
1921                         break;
1922                 case SYS_RECV:
1923                         err = sys_recv(a0, (void __user *)a1, a[2], a[3]);
1924                         break;
1925                 case SYS_RECVFROM:
1926                         err = sys_recvfrom(a0, (void __user *)a1, a[2], a[3],
1927                                            (struct sockaddr __user *)a[4], (int __user *)a[5]);
1928                         break;
1929                 case SYS_SHUTDOWN:
1930                         err = sys_shutdown(a0,a1);
1931                         break;
1932                 case SYS_SETSOCKOPT:
1933                         err = sys_setsockopt(a0, a1, a[2], (char __user *)a[3], a[4]);
1934                         break;
1935                 case SYS_GETSOCKOPT:
1936                         err = sys_getsockopt(a0, a1, a[2], (char __user *)a[3], (int __user *)a[4]);
1937                         break;
1938                 case SYS_SENDMSG:
1939                         err = sys_sendmsg(a0, (struct msghdr __user *) a1, a[2]);
1940                         break;
1941                 case SYS_RECVMSG:
1942                         err = sys_recvmsg(a0, (struct msghdr __user *) a1, a[2]);
1943                         break;
1944                 default:
1945                         err = -EINVAL;
1946                         break;
1947         }
1948         return err;
1949 }
1950
1951 #endif /* __ARCH_WANT_SYS_SOCKETCALL */
1952
1953 /*
1954  *      This function is called by a protocol handler that wants to
1955  *      advertise its address family, and have it linked into the
1956  *      SOCKET module.
1957  */
1958
1959 int sock_register(struct net_proto_family *ops)
1960 {
1961         int err;
1962
1963         if (ops->family >= NPROTO) {
1964                 printk(KERN_CRIT "protocol %d >= NPROTO(%d)\n", ops->family, NPROTO);
1965                 return -ENOBUFS;
1966         }
1967         net_family_write_lock();
1968         err = -EEXIST;
1969         if (net_families[ops->family] == NULL) {
1970                 net_families[ops->family]=ops;
1971                 err = 0;
1972         }
1973         net_family_write_unlock();
1974         printk(KERN_INFO "NET: Registered protocol family %d\n",
1975                ops->family);
1976         return err;
1977 }
1978
1979 /*
1980  *      This function is called by a protocol handler that wants to
1981  *      remove its address family, and have it unlinked from the
1982  *      SOCKET module.
1983  */
1984
1985 int sock_unregister(int family)
1986 {
1987         if (family < 0 || family >= NPROTO)
1988                 return -1;
1989
1990         net_family_write_lock();
1991         net_families[family]=NULL;
1992         net_family_write_unlock();
1993         printk(KERN_INFO "NET: Unregistered protocol family %d\n",
1994                family);
1995         return 0;
1996 }
1997
1998
1999 extern void sk_init(void);
2000
2001 void __init sock_init(void)
2002 {
2003         int i;
2004
2005         /*
2006          *      Initialize all address (protocol) families.
2007          */
2008
2009         for (i = 0; i < NPROTO; i++)
2010                 net_families[i] = NULL;
2011
2012         /*
2013          *      Initialize sock SLAB cache.
2014          */
2015
2016         sk_init();
2017
2018 #ifdef SLAB_SKB
2019         /*
2020          *      Initialize skbuff SLAB cache
2021          */
2022         skb_init();
2023 #endif
2024
2025         /*
2026          *      Initialize the protocols module.
2027          */
2028
2029         init_inodecache();
2030         register_filesystem(&sock_fs_type);
2031         sock_mnt = kern_mount(&sock_fs_type);
2032         /* The real protocol initialization is performed when
2033          *  do_initcalls is run.
2034          */
2035
2036 #ifdef CONFIG_NETFILTER
2037         netfilter_init();
2038 #endif
2039 }
2040
2041 #ifdef CONFIG_PROC_FS
2042 void socket_seq_show(struct seq_file *seq)
2043 {
2044         int cpu;
2045         int counter = 0;
2046
2047         for (cpu = 0; cpu < NR_CPUS; cpu++)
2048                 counter += per_cpu(sockets_in_use, cpu);
2049
2050         /* It can be negative, by the way. 8) */
2051         if (counter < 0)
2052                 counter = 0;
2053
2054         seq_printf(seq, "sockets: used %d\n", counter);
2055 }
2056 #endif /* CONFIG_PROC_FS */
2057
2058 /* ABI emulation layers need these two */
2059 EXPORT_SYMBOL(move_addr_to_kernel);
2060 EXPORT_SYMBOL(move_addr_to_user);
2061 EXPORT_SYMBOL(sock_alloc);
2062 EXPORT_SYMBOL(sock_alloc_inode);
2063 EXPORT_SYMBOL(sock_create);
2064 EXPORT_SYMBOL(sock_create_kern);
2065 EXPORT_SYMBOL(sock_create_lite);
2066 EXPORT_SYMBOL(sock_map_fd);
2067 EXPORT_SYMBOL(sock_recvmsg);
2068 EXPORT_SYMBOL(sock_register);
2069 EXPORT_SYMBOL(sock_release);
2070 EXPORT_SYMBOL(sock_sendmsg);
2071 EXPORT_SYMBOL(sock_unregister);
2072 EXPORT_SYMBOL(sock_wake_async);
2073 EXPORT_SYMBOL(sockfd_lookup);