include/asm-mips/checksum.h

   1 /*
   2  * This file is subject to the terms and conditions of the GNU General Public
   3  * License.  See the file "COPYING" in the main directory of this archive
   4  * for more details.
   5  *
   6  * Copyright (C) 1995, 96, 97, 98, 99, 2001 by Ralf Baechle
   7  * Copyright (C) 1999 Silicon Graphics, Inc.
   8  * Copyright (C) 2001 Thiemo Seufer.
   9  * Copyright (C) 2002 Maciej W. Rozycki
  10  */
  11 #ifndef _ASM_CHECKSUM_H
  12 #define _ASM_CHECKSUM_H
  13
  14 #include <linux/config.h>
  15 #include <linux/in6.h>
  16
  17 #include <asm/uaccess.h>
  18
  19 /*
  20  * computes the checksum of a memory block at buff, length len,
  21  * and adds in "sum" (32-bit)
  22  *
  23  * returns a 32-bit number suitable for feeding into itself
  24  * or csum_tcpudp_magic
  25  *
  26  * this function must be called with even lengths, except
  27  * for the last fragment, which may be odd
  28  *
  29  * it's best to have buff aligned on a 32-bit boundary
  30  */
  31 unsigned int csum_partial(const unsigned char *buff, int len, unsigned int sum);
  32
  33 /*
  34  * this is a new version of the above that records errors it finds in *errp,
  35  * but continues and zeros the rest of the buffer.
  36  */
  37 unsigned int csum_partial_copy_from_user(const char *src, char *dst, int len,
  38                                          unsigned int sum, int *errp);
  39
  40 /*
  41  * Copy and checksum to user
  42  */
  43 #define HAVE_CSUM_COPY_USER
  44 static inline unsigned int csum_and_copy_to_user (const char *src, char *dst,
  45                                                   int len, int sum,
  46                                                   int *err_ptr)
  47 {
  48         sum = csum_partial(src, len, sum);
  49
  50         if (copy_to_user(dst, src, len)) {
  51                 *err_ptr = -EFAULT;
  52                 return -1;
  53         }
  54
  55         return sum;
  56 }
  57
  58 /*
  59  * the same as csum_partial, but copies from user space (but on MIPS
  60  * we have just one address space, so this is identical to the above)
  61  */
  62 unsigned int csum_partial_copy_nocheck(const char *src, char *dst, int len,
  63                                        unsigned int sum);
  64
  65 /*
  66  *      Fold a partial checksum without adding pseudo headers
  67  */
  68 static inline unsigned short int csum_fold(unsigned int sum)
  69 {
  70         __asm__(
  71         ".set\tnoat\t\t\t# csum_fold\n\t"
  72         "sll\t$1,%0,16\n\t"
  73         "addu\t%0,$1\n\t"
  74         "sltu\t$1,%0,$1\n\t"
  75         "srl\t%0,%0,16\n\t"
  76         "addu\t%0,$1\n\t"
  77         "xori\t%0,0xffff\n\t"
  78         ".set\tat"
  79         : "=r" (sum)
  80         : "0" (sum));
  81
  82         return sum;
  83 }
  84
  85 /*
  86  *      This is a version of ip_compute_csum() optimized for IP headers,
  87  *      which always checksum on 4 octet boundaries.
  88  *
  89  *      By Jorge Cwik <jorge@laser.satlink.net>, adapted for linux by
  90  *      Arnt Gulbrandsen.
  91  */
  92 static inline unsigned short ip_fast_csum(unsigned char *iph, unsigned int ihl)
  93 {
  94         unsigned int *word = (unsigned int *) iph;
  95         unsigned int *stop = word + ihl;
  96         unsigned int csum;
  97         int carry;
  98
  99         csum = word[0];
 100         csum += word[1];
 101         carry = (csum < word[1]);
 102         csum += carry;
 103
 104         csum += word[2];
 105         carry = (csum < word[2]);
 106         csum += carry;
 107
 108         csum += word[3];
 109         carry = (csum < word[3]);
 110         csum += carry;
 111
 112         word += 4;
 113         do {
 114                 csum += *word;
 115                 carry = (csum < *word);
 116                 csum += carry;
 117                 word++;
 118         } while (word != stop);
 119
 120         return csum_fold(csum);
 121 }
 122
 123 /*
 124  * computes the checksum of the TCP/UDP pseudo-header
 125  * returns a 16-bit checksum, already complemented
 126  */
 127 static inline unsigned int csum_tcpudp_nofold(unsigned long saddr,
 128         unsigned long daddr, unsigned short len, unsigned short proto,
 129         unsigned int sum)
 130 {
 131         __asm__(
 132         ".set\tnoat\t\t\t# csum_tcpudp_nofold\n\t"
 133 #ifdef CONFIG_MIPS32
 134         "addu\t%0, %2\n\t"
 135         "sltu\t$1, %0, %2\n\t"
 136         "addu\t%0, $1\n\t"
 137
 138         "addu\t%0, %3\n\t"
 139         "sltu\t$1, %0, %3\n\t"
 140         "addu\t%0, $1\n\t"
 141
 142         "addu\t%0, %4\n\t"
 143         "sltu\t$1, %0, %4\n\t"
 144         "addu\t%0, $1\n\t"
 145 #endif
 146 #ifdef CONFIG_MIPS64
 147         "daddu\t%0, %2\n\t"
 148         "daddu\t%0, %3\n\t"
 149         "daddu\t%0, %4\n\t"
 150         "dsll32\t$1, %0, 0\n\t"
 151         "daddu\t%0, $1\n\t"
 152         "dsrl32\t%0, %0, 0\n\t"
 153 #endif
 154         ".set\tat"
 155         : "=r" (sum)
 156         : "0" (daddr), "r"(saddr),
 157 #ifdef __MIPSEL__
 158           "r" (((unsigned long)htons(len)<<16) + proto*256),
 159 #else
 160           "r" (((unsigned long)(proto)<<16) + len),
 161 #endif
 162           "r" (sum));
 163
 164         return sum;
 165 }
 166
 167 /*
 168  * computes the checksum of the TCP/UDP pseudo-header
 169  * returns a 16-bit checksum, already complemented
 170  */
 171 static inline unsigned short int csum_tcpudp_magic(unsigned long saddr,
 172                                                    unsigned long daddr,
 173                                                    unsigned short len,
 174                                                    unsigned short proto,
 175                                                    unsigned int sum)
 176 {
 177         return csum_fold(csum_tcpudp_nofold(saddr, daddr, len, proto, sum));
 178 }
 179
 180 /*
 181  * this routine is used for miscellaneous IP-like checksums, mainly
 182  * in icmp.c
 183  */
 184 static inline unsigned short ip_compute_csum(unsigned char * buff, int len)
 185 {
 186         return csum_fold(csum_partial(buff, len, 0));
 187 }
 188
 189 #define _HAVE_ARCH_IPV6_CSUM
 190 static __inline__ unsigned short int csum_ipv6_magic(struct in6_addr *saddr,
 191                                                      struct in6_addr *daddr,
 192                                                      __u32 len,
 193                                                      unsigned short proto,
 194                                                      unsigned int sum)
 195 {
 196         __asm__(
 197         ".set\tpush\t\t\t# csum_ipv6_magic\n\t"
 198         ".set\tnoreorder\n\t"
 199         ".set\tnoat\n\t"
 200         "addu\t%0, %5\t\t\t# proto (long in network byte order)\n\t"
 201         "sltu\t$1, %0, %5\n\t"
 202         "addu\t%0, $1\n\t"
 203
 204         "addu\t%0, %6\t\t\t# csum\n\t"
 205         "sltu\t$1, %0, %6\n\t"
 206         "lw\t%1, 0(%2)\t\t\t# four words source address\n\t"
 207         "addu\t%0, $1\n\t"
 208         "addu\t%0, %1\n\t"
 209         "sltu\t$1, %0, %1\n\t"
 210
 211         "lw\t%1, 4(%2)\n\t"
 212         "addu\t%0, $1\n\t"
 213         "addu\t%0, %1\n\t"
 214         "sltu\t$1, %0, %1\n\t"
 215
 216         "lw\t%1, 8(%2)\n\t"
 217         "addu\t%0, $1\n\t"
 218         "addu\t%0, %1\n\t"
 219         "sltu\t$1, %0, %1\n\t"
 220
 221         "lw\t%1, 12(%2)\n\t"
 222         "addu\t%0, $1\n\t"
 223         "addu\t%0, %1\n\t"
 224         "sltu\t$1, %0, %1\n\t"
 225
 226         "lw\t%1, 0(%3)\n\t"
 227         "addu\t%0, $1\n\t"
 228         "addu\t%0, %1\n\t"
 229         "sltu\t$1, %0, %1\n\t"
 230
 231         "lw\t%1, 4(%3)\n\t"
 232         "addu\t%0, $1\n\t"
 233         "addu\t%0, %1\n\t"
 234         "sltu\t$1, %0, %1\n\t"
 235
 236         "lw\t%1, 8(%3)\n\t"
 237         "addu\t%0, $1\n\t"
 238         "addu\t%0, %1\n\t"
 239         "sltu\t$1, %0, %1\n\t"
 240
 241         "lw\t%1, 12(%3)\n\t"
 242         "addu\t%0, $1\n\t"
 243         "addu\t%0, %1\n\t"
 244         "sltu\t$1, %0, %1\n\t"
 245
 246         "addu\t%0, $1\t\t\t# Add final carry\n\t"
 247         ".set\tpop"
 248         : "=r" (sum), "=r" (proto)
 249         : "r" (saddr), "r" (daddr),
 250           "0" (htonl(len)), "1" (htonl(proto)), "r" (sum));
 251
 252         return csum_fold(sum);
 253 }
 254
 255 #endif /* _ASM_CHECKSUM_H */