This commit was manufactured by cvs2svn to create branch 'vserver'.
[linux-2.6.git] / crypto / mpi / mpicoder.c
1 /* mpicoder.c  -  Coder for the external representation of MPIs
2  * Copyright (C) 1998, 1999 Free Software Foundation, Inc.
3  *
4  * This file is part of GnuPG.
5  *
6  * GnuPG is free software; you can redistribute it and/or modify
7  * it under the terms of the GNU General Public License as published by
8  * the Free Software Foundation; either version 2 of the License, or
9  * (at your option) any later version.
10  *
11  * GnuPG is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
14  * GNU General Public License for more details.
15  *
16  * You should have received a copy of the GNU General Public License
17  * along with this program; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place - Suite 330, Boston, MA 02111-1307, USA
19  */
20
21 #include "mpi-internal.h"
22
23 #define DIM(v) (sizeof(v)/sizeof((v)[0]))
24 #define MAX_EXTERN_MPI_BITS 16384
25
26
27 static uint8_t asn[15] = /* Object ID is 1.3.14.3.2.26 */
28   { 0x30, 0x21, 0x30, 0x09, 0x06, 0x05, 0x2b, 0x0e, 0x03,
29     0x02, 0x1a, 0x05, 0x00, 0x04, 0x14 };
30  
31
32
33 MPI
34 do_encode_md(const void *sha_buffer, unsigned nbits)
35 {
36   int nframe = (nbits+7) / 8;
37   uint8_t *frame, *fr_pt;
38   int i = 0, n;
39   size_t asnlen = DIM(asn);
40   MPI a = MPI_NULL;
41
42   if(SHA1_DIGEST_LENGTH + asnlen + 4  > nframe )
43     printk("MPI: can't encode a %d bit MD into a %d bits frame\n",
44           (int)(SHA1_DIGEST_LENGTH*8), (int)nbits);
45
46   /* We encode the MD in this way:
47    *
48    *       0  A PAD(n bytes)   0  ASN(asnlen bytes)  MD(len bytes)
49    *
50    * PAD consists of FF bytes.
51    */
52   frame = kmalloc(nframe, GFP_KERNEL);
53   if (!frame)
54           return MPI_NULL;
55   n = 0;
56   frame[n++] = 0;
57   frame[n++] = 1; /* block type */
58   i = nframe - SHA1_DIGEST_LENGTH - asnlen -3 ;
59   
60   if(i <= 1) {
61     printk("MPI: message digest encoding failed\n");
62     kfree(frame);
63     return a;
64   }
65
66   memset( frame+n, 0xff, i ); n += i;
67   frame[n++] = 0;
68   memcpy( frame+n, &asn, asnlen ); n += asnlen;
69   memcpy( frame+n, sha_buffer, SHA1_DIGEST_LENGTH ); n += SHA1_DIGEST_LENGTH;
70   
71   i = nframe;
72   fr_pt = frame;
73
74   if (n != nframe) {
75     printk("MPI: message digest encoding failed, frame length is wrong\n");
76     kfree(frame);
77     return a;
78   }
79   
80   a = mpi_alloc( (nframe+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB );
81   mpi_set_buffer( a, frame, nframe, 0 );
82   kfree(frame);
83
84   return a;
85 }
86
87
88 MPI
89 mpi_read_from_buffer(const void *xbuffer, unsigned *ret_nread)
90 {
91   const uint8_t *buffer = xbuffer;
92   int i, j;
93   unsigned nbits, nbytes, nlimbs, nread=0;
94   mpi_limb_t a;
95   MPI val = MPI_NULL;
96
97   if( *ret_nread < 2 )
98     goto leave;
99   nbits = buffer[0] << 8 | buffer[1];
100
101   if( nbits > MAX_EXTERN_MPI_BITS ) {
102     printk("MPI: mpi too large (%u bits)\n", nbits);
103     goto leave;
104   }
105   buffer += 2;
106   nread = 2;
107
108   nbytes = (nbits+7) / 8;
109   nlimbs = (nbytes+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB;
110   val = mpi_alloc( nlimbs );
111   if (!val)
112           return MPI_NULL;
113   i = BYTES_PER_MPI_LIMB - nbytes % BYTES_PER_MPI_LIMB;
114   i %= BYTES_PER_MPI_LIMB;
115   val->nbits = nbits;
116   j= val->nlimbs = nlimbs;
117   val->sign = 0;
118   for( ; j > 0; j-- ) {
119     a = 0;
120     for(; i < BYTES_PER_MPI_LIMB; i++ ) {
121       if( ++nread > *ret_nread ) {
122         printk("MPI: mpi larger than buffer nread=%d ret_nread=%d\n", nread, *ret_nread);
123         goto leave;
124       }
125       a <<= 8;
126       a |= *buffer++;
127     }
128     i = 0;
129     val->d[j-1] = a;
130   }
131
132  leave:
133   *ret_nread = nread;
134   return val;
135 }
136
137
138 /****************
139  * Make an mpi from a character string.
140  */
141 int
142 mpi_fromstr(MPI val, const char *str)
143 {
144     int hexmode=0, sign=0, prepend_zero=0, i, j, c, c1, c2;
145     unsigned nbits, nbytes, nlimbs;
146     mpi_limb_t a;
147
148     if( *str == '-' ) {
149         sign = 1;
150         str++;
151     }
152     if( *str == '0' && str[1] == 'x' )
153         hexmode = 1;
154     else
155         return -EINVAL; /* other bases are not yet supported */
156     str += 2;
157
158     nbits = strlen(str)*4;
159     if( nbits % 8 )
160         prepend_zero = 1;
161     nbytes = (nbits+7) / 8;
162     nlimbs = (nbytes+BYTES_PER_MPI_LIMB-1) / BYTES_PER_MPI_LIMB;
163     if( val->alloced < nlimbs )
164             if (!mpi_resize(val, nlimbs ))
165                     return -ENOMEM;
166     i = BYTES_PER_MPI_LIMB - nbytes % BYTES_PER_MPI_LIMB;
167     i %= BYTES_PER_MPI_LIMB;
168     j= val->nlimbs = nlimbs;
169     val->sign = sign;
170     for( ; j > 0; j-- ) {
171         a = 0;
172         for(; i < BYTES_PER_MPI_LIMB; i++ ) {
173             if( prepend_zero ) {
174                 c1 = '0';
175                 prepend_zero = 0;
176             }
177             else
178                 c1 = *str++;
179             assert(c1);
180             c2 = *str++;
181             assert(c2);
182             if( c1 >= '0' && c1 <= '9' )
183                 c = c1 - '0';
184             else if( c1 >= 'a' && c1 <= 'f' )
185                 c = c1 - 'a' + 10;
186             else if( c1 >= 'A' && c1 <= 'F' )
187                 c = c1 - 'A' + 10;
188             else {
189                 mpi_clear(val);
190                 return 1;
191             }
192             c <<= 4;
193             if( c2 >= '0' && c2 <= '9' )
194                 c |= c2 - '0';
195             else if( c2 >= 'a' && c2 <= 'f' )
196                 c |= c2 - 'a' + 10;
197             else if( c2 >= 'A' && c2 <= 'F' )
198                 c |= c2 - 'A' + 10;
199             else {
200                 mpi_clear(val);
201                 return 1;
202             }
203             a <<= 8;
204             a |= c;
205         }
206         i = 0;
207
208         val->d[j-1] = a;
209     }
210
211     return 0;
212 }
213
214
215 /****************
216  * Special function to get the low 8 bytes from an mpi.
217  * This can be used as a keyid; KEYID is an 2 element array.
218  * Return the low 4 bytes.
219  */
220 u32
221 mpi_get_keyid( const MPI a, u32 *keyid )
222 {
223 #if BYTES_PER_MPI_LIMB == 4
224     if( keyid ) {
225         keyid[0] = a->nlimbs >= 2? a->d[1] : 0;
226         keyid[1] = a->nlimbs >= 1? a->d[0] : 0;
227     }
228     return a->nlimbs >= 1? a->d[0] : 0;
229 #elif BYTES_PER_MPI_LIMB == 8
230     if( keyid ) {
231         keyid[0] = a->nlimbs? (u32)(a->d[0] >> 32) : 0;
232         keyid[1] = a->nlimbs? (u32)(a->d[0] & 0xffffffff) : 0;
233     }
234     return a->nlimbs? (u32)(a->d[0] & 0xffffffff) : 0;
235 #else
236   #error Make this function work with other LIMB sizes
237 #endif
238 }
239
240
241 /****************
242  * Return an allocated buffer with the MPI (msb first).
243  * NBYTES receives the length of this buffer. Caller must free the
244  * return string (This function does return a 0 byte buffer with NBYTES
245  * set to zero if the value of A is zero. If sign is not NULL, it will
246  * be set to the sign of the A.
247  */
248 void *
249 mpi_get_buffer( MPI a, unsigned *nbytes, int *sign )
250 {
251     uint8_t *p, *buffer;
252     mpi_limb_t alimb;
253     int i;
254     unsigned int n;
255
256     if( sign )
257         *sign = a->sign;
258     *nbytes = n = a->nlimbs * BYTES_PER_MPI_LIMB;
259     if (!n)
260       n++; /* avoid zero length allocation */
261     p = buffer = kmalloc(n, GFP_KERNEL);
262
263     for(i=a->nlimbs-1; i >= 0; i-- ) {
264         alimb = a->d[i];
265 #if BYTES_PER_MPI_LIMB == 4
266         *p++ = alimb >> 24;
267         *p++ = alimb >> 16;
268         *p++ = alimb >>  8;
269         *p++ = alimb      ;
270 #elif BYTES_PER_MPI_LIMB == 8
271         *p++ = alimb >> 56;
272         *p++ = alimb >> 48;
273         *p++ = alimb >> 40;
274         *p++ = alimb >> 32;
275         *p++ = alimb >> 24;
276         *p++ = alimb >> 16;
277         *p++ = alimb >>  8;
278         *p++ = alimb      ;
279 #else
280 #error please implement for this limb size.
281 #endif
282     }
283
284     /* this is sub-optimal but we need to do the shift operation
285      * because the caller has to free the returned buffer */
286     for(p=buffer; !*p && *nbytes; p++, --*nbytes )
287       ;
288     if( p != buffer )
289       memmove(buffer,p, *nbytes);
290
291     return buffer;
292 }
293
294
295 /****************
296  * Use BUFFER to update MPI.
297  */
298 int
299 mpi_set_buffer( MPI a, const void *xbuffer, unsigned nbytes, int sign )
300 {
301     const uint8_t *buffer = xbuffer, *p;
302     mpi_limb_t alimb;
303     int nlimbs;
304     int i;
305
306     nlimbs = (nbytes + BYTES_PER_MPI_LIMB - 1) / BYTES_PER_MPI_LIMB;
307     if (RESIZE_IF_NEEDED(a, nlimbs) < 0)
308             return -ENOMEM;
309     a->sign = sign;
310
311     for(i=0, p = buffer+nbytes-1; p >= buffer+BYTES_PER_MPI_LIMB; ) {
312       #if BYTES_PER_MPI_LIMB == 4
313         alimb  = (mpi_limb_t)*p-- ;
314         alimb |= (mpi_limb_t)*p-- <<  8 ;
315         alimb |= (mpi_limb_t)*p-- << 16 ;
316         alimb |= (mpi_limb_t)*p-- << 24 ;
317       #elif BYTES_PER_MPI_LIMB == 8
318         alimb  = (mpi_limb_t)*p--       ;
319         alimb |= (mpi_limb_t)*p-- <<  8 ;
320         alimb |= (mpi_limb_t)*p-- << 16 ;
321         alimb |= (mpi_limb_t)*p-- << 24 ;
322         alimb |= (mpi_limb_t)*p-- << 32 ;
323         alimb |= (mpi_limb_t)*p-- << 40 ;
324         alimb |= (mpi_limb_t)*p-- << 48 ;
325         alimb |= (mpi_limb_t)*p-- << 56 ;
326       #else
327         #error please implement for this limb size.
328       #endif
329         a->d[i++] = alimb;
330     }
331     if( p >= buffer ) {
332       #if BYTES_PER_MPI_LIMB == 4
333         alimb  = *p--       ;
334         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- <<  8 ;
335         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 16 ;
336         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 24 ;
337       #elif BYTES_PER_MPI_LIMB == 8
338         alimb  = (mpi_limb_t)*p-- ;
339         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- <<  8 ;
340         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 16 ;
341         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 24 ;
342         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 32 ;
343         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 40 ;
344         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 48 ;
345         if( p >= buffer ) alimb |= (mpi_limb_t)*p-- << 56 ;
346       #else
347         #error please implement for this limb size.
348       #endif
349         a->d[i++] = alimb;
350     }
351     a->nlimbs = i;
352
353     if (i != nlimbs) {
354             printk("MPI: mpi_set_buffer: Assertion failed (%d != %d)", i, nlimbs);
355             BUG();
356     }
357     return 0;
358 }
359