Implement arbitrary bitwise masks for tun_id field.
[sliver-openvswitch.git] / lib / nx-match.c
1 /*
2  * Copyright (c) 2010, 2011 Nicira Networks.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at:
7  *
8  *     http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #include <config.h>
18
19 #include "nx-match.h"
20
21 #include "classifier.h"
22 #include "dynamic-string.h"
23 #include "ofp-util.h"
24 #include "ofpbuf.h"
25 #include "openflow/nicira-ext.h"
26 #include "packets.h"
27 #include "unaligned.h"
28 #include "vlog.h"
29
30 VLOG_DEFINE_THIS_MODULE(nx_match);
31
32 /* Rate limit for nx_match parse errors.  These always indicate a bug in the
33  * peer and so there's not much point in showing a lot of them. */
34 static struct vlog_rate_limit rl = VLOG_RATE_LIMIT_INIT(1, 5);
35
36 enum {
37     NXM_INVALID = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_INVALID),
38     NXM_BAD_TYPE = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_BAD_TYPE),
39     NXM_BAD_VALUE = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_BAD_VALUE),
40     NXM_BAD_MASK = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_BAD_MASK),
41     NXM_BAD_PREREQ = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_BAD_PREREQ),
42     NXM_DUP_TYPE = OFP_MKERR_NICIRA(OFPET_BAD_REQUEST, NXBRC_NXM_DUP_TYPE),
43     BAD_ARGUMENT = OFP_MKERR(OFPET_BAD_ACTION, OFPBAC_BAD_ARGUMENT)
44 };
45
46 /* For each NXM_* field, define NFI_NXM_* as consecutive integers starting from
47  * zero. */
48 enum nxm_field_index {
49 #define DEFINE_FIELD(HEADER, WILDCARD, DL_TYPE, NW_PROTO, WRITABLE) \
50         NFI_NXM_##HEADER,
51 #include "nx-match.def"
52     N_NXM_FIELDS
53 };
54
55 struct nxm_field {
56     struct hmap_node hmap_node;
57     enum nxm_field_index index; /* NFI_* value. */
58     uint32_t header;            /* NXM_* value. */
59     flow_wildcards_t wildcard;  /* FWW_* bit, if exactly one. */
60     ovs_be16 dl_type;           /* dl_type prerequisite, if nonzero. */
61     uint8_t nw_proto;           /* nw_proto prerequisite, if nonzero. */
62     const char *name;           /* "NXM_*" string. */
63     bool writable;              /* Writable with NXAST_REG_{MOVE,LOAD}? */
64 };
65
66 /* All the known fields. */
67 static struct nxm_field nxm_fields[N_NXM_FIELDS] = {
68 #define DEFINE_FIELD(HEADER, WILDCARD, DL_TYPE, NW_PROTO, WRITABLE)     \
69     { HMAP_NODE_NULL_INITIALIZER, NFI_NXM_##HEADER, NXM_##HEADER, WILDCARD, \
70       CONSTANT_HTONS(DL_TYPE), NW_PROTO, "NXM_" #HEADER, WRITABLE },
71 #include "nx-match.def"
72 };
73
74 /* Hash table of 'nxm_fields'. */
75 static struct hmap all_nxm_fields = HMAP_INITIALIZER(&all_nxm_fields);
76
77 /* Possible masks for NXM_OF_ETH_DST_W. */
78 static const uint8_t eth_all_0s[ETH_ADDR_LEN]
79     = {0x00, 0x00, 0x00, 0x00, 0x00, 0x00};
80 static const uint8_t eth_all_1s[ETH_ADDR_LEN]
81     = {0xff, 0xff, 0xff, 0xff, 0xff, 0xff};
82 static const uint8_t eth_mcast_1[ETH_ADDR_LEN]
83     = {0x01, 0x00, 0x00, 0x00, 0x00, 0x00};
84 static const uint8_t eth_mcast_0[ETH_ADDR_LEN]
85     = {0xfe, 0xff, 0xff, 0xff, 0xff, 0xff};
86
87 static void
88 nxm_init(void)
89 {
90     if (hmap_is_empty(&all_nxm_fields)) {
91         int i;
92
93         for (i = 0; i < N_NXM_FIELDS; i++) {
94             struct nxm_field *f = &nxm_fields[i];
95             hmap_insert(&all_nxm_fields, &f->hmap_node,
96                         hash_int(f->header, 0));
97         }
98
99         /* Verify that the header values are unique (duplicate "case" values
100          * cause a compile error). */
101         switch (0) {
102 #define DEFINE_FIELD(HEADER, WILDCARD, DL_TYPE, NW_PROTO, WRITABLE)  \
103         case NXM_##HEADER: break;
104 #include "nx-match.def"
105         }
106     }
107 }
108
109 static const struct nxm_field *
110 nxm_field_lookup(uint32_t header)
111 {
112     struct nxm_field *f;
113
114     nxm_init();
115
116     HMAP_FOR_EACH_WITH_HASH (f, hmap_node, hash_int(header, 0),
117                              &all_nxm_fields) {
118         if (f->header == header) {
119             return f;
120         }
121     }
122
123     return NULL;
124 }
125
126 /* Returns the width of the data for a field with the given 'header', in
127  * bytes. */
128 int
129 nxm_field_bytes(uint32_t header)
130 {
131     unsigned int length = NXM_LENGTH(header);
132     return NXM_HASMASK(header) ? length / 2 : length;
133 }
134
135 /* Returns the width of the data for a field with the given 'header', in
136  * bits. */
137 int
138 nxm_field_bits(uint32_t header)
139 {
140     return nxm_field_bytes(header) * 8;
141 }
142 \f
143 /* nx_pull_match() and helpers. */
144
145 static int
146 parse_nx_reg(const struct nxm_field *f,
147              struct flow *flow, struct flow_wildcards *wc,
148              const void *value, const void *maskp)
149 {
150     int idx = NXM_NX_REG_IDX(f->header);
151     if (wc->reg_masks[idx]) {
152         return NXM_DUP_TYPE;
153     } else {
154         flow_wildcards_set_reg_mask(wc, idx,
155                                     (NXM_HASMASK(f->header)
156                                      ? ntohl(get_unaligned_be32(maskp))
157                                      : UINT32_MAX));
158         flow->regs[idx] = ntohl(get_unaligned_be32(value));
159         flow->regs[idx] &= wc->reg_masks[idx];
160         return 0;
161     }
162 }
163
164 static int
165 parse_nxm_entry(struct cls_rule *rule, const struct nxm_field *f,
166                 const void *value, const void *mask)
167 {
168     struct flow_wildcards *wc = &rule->wc;
169     struct flow *flow = &rule->flow;
170
171     switch (f->index) {
172         /* Metadata. */
173     case NFI_NXM_OF_IN_PORT:
174         flow->in_port = ntohs(get_unaligned_be16(value));
175         if (flow->in_port == OFPP_LOCAL) {
176             flow->in_port = ODPP_LOCAL;
177         }
178         return 0;
179
180         /* Ethernet header. */
181     case NFI_NXM_OF_ETH_DST:
182         if ((wc->wildcards & (FWW_DL_DST | FWW_ETH_MCAST))
183             != (FWW_DL_DST | FWW_ETH_MCAST)) {
184             return NXM_DUP_TYPE;
185         } else {
186             wc->wildcards &= ~(FWW_DL_DST | FWW_ETH_MCAST);
187             memcpy(flow->dl_dst, value, ETH_ADDR_LEN);
188             return 0;
189         }
190     case NFI_NXM_OF_ETH_DST_W:
191         if ((wc->wildcards & (FWW_DL_DST | FWW_ETH_MCAST))
192             != (FWW_DL_DST | FWW_ETH_MCAST)) {
193             return NXM_DUP_TYPE;
194         } else if (eth_addr_equals(mask, eth_mcast_1)) {
195             wc->wildcards &= ~FWW_ETH_MCAST;
196             flow->dl_dst[0] = *(uint8_t *) value & 0x01;
197         } else if (eth_addr_equals(mask, eth_mcast_0)) {
198             wc->wildcards &= ~FWW_DL_DST;
199             memcpy(flow->dl_dst, value, ETH_ADDR_LEN);
200             flow->dl_dst[0] &= 0xfe;
201         } else if (eth_addr_equals(mask, eth_all_0s)) {
202             return 0;
203         } else if (eth_addr_equals(mask, eth_all_1s)) {
204             wc->wildcards &= ~(FWW_DL_DST | FWW_ETH_MCAST);
205             memcpy(flow->dl_dst, value, ETH_ADDR_LEN);
206             return 0;
207         } else {
208             return NXM_BAD_MASK;
209         }
210     case NFI_NXM_OF_ETH_SRC:
211         memcpy(flow->dl_src, value, ETH_ADDR_LEN);
212         return 0;
213     case NFI_NXM_OF_ETH_TYPE:
214         flow->dl_type = get_unaligned_be16(value);
215         return 0;
216
217         /* 802.1Q header. */
218     case NFI_NXM_OF_VLAN_TCI:
219         if (wc->vlan_tci_mask) {
220             return NXM_DUP_TYPE;
221         } else {
222             cls_rule_set_dl_tci(rule, get_unaligned_be16(value));
223             return 0;
224         }
225     case NFI_NXM_OF_VLAN_TCI_W:
226         if (wc->vlan_tci_mask) {
227             return NXM_DUP_TYPE;
228         } else {
229             cls_rule_set_dl_tci_masked(rule, get_unaligned_be16(value),
230                                        get_unaligned_be16(mask));
231             return 0;
232         }
233
234         /* IP header. */
235     case NFI_NXM_OF_IP_TOS:
236         if (*(uint8_t *) value & 0x03) {
237             return NXM_BAD_VALUE;
238         } else {
239             flow->nw_tos = *(uint8_t *) value;
240             return 0;
241         }
242     case NFI_NXM_OF_IP_PROTO:
243         flow->nw_proto = *(uint8_t *) value;
244         return 0;
245
246         /* IP addresses in IP and ARP headers. */
247     case NFI_NXM_OF_IP_SRC:
248     case NFI_NXM_OF_ARP_SPA:
249         if (wc->nw_src_mask) {
250             return NXM_DUP_TYPE;
251         } else {
252             cls_rule_set_nw_src(rule, get_unaligned_be32(value));
253             return 0;
254         }
255     case NFI_NXM_OF_IP_SRC_W:
256     case NFI_NXM_OF_ARP_SPA_W:
257         if (wc->nw_src_mask) {
258             return NXM_DUP_TYPE;
259         } else {
260             ovs_be32 ip = get_unaligned_be32(value);
261             ovs_be32 netmask = get_unaligned_be32(mask);
262             if (!cls_rule_set_nw_src_masked(rule, ip, netmask)) {
263                 return NXM_BAD_MASK;
264             }
265             return 0;
266         }
267     case NFI_NXM_OF_IP_DST:
268     case NFI_NXM_OF_ARP_TPA:
269         if (wc->nw_dst_mask) {
270             return NXM_DUP_TYPE;
271         } else {
272             cls_rule_set_nw_dst(rule, get_unaligned_be32(value));
273             return 0;
274         }
275     case NFI_NXM_OF_IP_DST_W:
276     case NFI_NXM_OF_ARP_TPA_W:
277         if (wc->nw_dst_mask) {
278             return NXM_DUP_TYPE;
279         } else {
280             ovs_be32 ip = get_unaligned_be32(value);
281             ovs_be32 netmask = get_unaligned_be32(mask);
282             if (!cls_rule_set_nw_dst_masked(rule, ip, netmask)) {
283                 return NXM_BAD_MASK;
284             }
285             return 0;
286         }
287
288         /* TCP header. */
289     case NFI_NXM_OF_TCP_SRC:
290         flow->tp_src = get_unaligned_be16(value);
291         return 0;
292     case NFI_NXM_OF_TCP_DST:
293         flow->tp_dst = get_unaligned_be16(value);
294         return 0;
295
296         /* UDP header. */
297     case NFI_NXM_OF_UDP_SRC:
298         flow->tp_src = get_unaligned_be16(value);
299         return 0;
300     case NFI_NXM_OF_UDP_DST:
301         flow->tp_dst = get_unaligned_be16(value);
302         return 0;
303
304         /* ICMP header. */
305     case NFI_NXM_OF_ICMP_TYPE:
306         flow->tp_src = htons(*(uint8_t *) value);
307         return 0;
308     case NFI_NXM_OF_ICMP_CODE:
309         flow->tp_dst = htons(*(uint8_t *) value);
310         return 0;
311
312         /* ARP header. */
313     case NFI_NXM_OF_ARP_OP:
314         if (ntohs(get_unaligned_be16(value)) > 255) {
315             return NXM_BAD_VALUE;
316         } else {
317             flow->nw_proto = ntohs(get_unaligned_be16(value));
318             return 0;
319         }
320
321         /* Tunnel ID. */
322     case NFI_NXM_NX_TUN_ID:
323         if (wc->tun_id_mask) {
324             return NXM_DUP_TYPE;
325         } else {
326             cls_rule_set_tun_id(rule, get_unaligned_be64(value));
327             return 0;
328         }
329     case NFI_NXM_NX_TUN_ID_W:
330         if (wc->tun_id_mask) {
331             return NXM_DUP_TYPE;
332         } else {
333             ovs_be64 tun_id = get_unaligned_be64(value);
334             ovs_be64 tun_mask = get_unaligned_be64(mask);
335             cls_rule_set_tun_id_masked(rule, tun_id, tun_mask);
336             return 0;
337         }
338
339         /* Registers. */
340     case NFI_NXM_NX_REG0:
341     case NFI_NXM_NX_REG0_W:
342 #if FLOW_N_REGS >= 2
343     case NFI_NXM_NX_REG1:
344     case NFI_NXM_NX_REG1_W:
345 #endif
346 #if FLOW_N_REGS >= 3
347     case NFI_NXM_NX_REG2:
348     case NFI_NXM_NX_REG2_W:
349 #endif
350 #if FLOW_N_REGS >= 4
351     case NFI_NXM_NX_REG3:
352     case NFI_NXM_NX_REG3_W:
353 #endif
354 #if FLOW_N_REGS > 4
355 #error
356 #endif
357         return parse_nx_reg(f, flow, wc, value, mask);
358
359     case N_NXM_FIELDS:
360         NOT_REACHED();
361     }
362     NOT_REACHED();
363 }
364
365 static bool
366 nxm_prereqs_ok(const struct nxm_field *field, const struct flow *flow)
367 {
368     return (!field->dl_type
369             || (field->dl_type == flow->dl_type
370                 && (!field->nw_proto || field->nw_proto == flow->nw_proto)));
371 }
372
373 static uint32_t
374 nx_entry_ok(const void *p, unsigned int match_len)
375 {
376     unsigned int payload_len;
377     ovs_be32 header_be;
378     uint32_t header;
379
380     if (match_len < 4) {
381         if (match_len) {
382             VLOG_DBG_RL(&rl, "nx_match ends with partial nxm_header");
383         }
384         return 0;
385     }
386     memcpy(&header_be, p, 4);
387     header = ntohl(header_be);
388
389     payload_len = NXM_LENGTH(header);
390     if (!payload_len) {
391         VLOG_DBG_RL(&rl, "nxm_entry %08"PRIx32" has invalid payload "
392                     "length 0", header);
393         return 0;
394     }
395     if (match_len < payload_len + 4) {
396         VLOG_DBG_RL(&rl, "%"PRIu32"-byte nxm_entry but only "
397                     "%u bytes left in nx_match", payload_len + 4, match_len);
398         return 0;
399     }
400
401     return header;
402 }
403
404 int
405 nx_pull_match(struct ofpbuf *b, unsigned int match_len, uint16_t priority,
406               struct cls_rule *rule)
407 {
408     uint32_t header;
409     uint8_t *p;
410
411     p = ofpbuf_try_pull(b, ROUND_UP(match_len, 8));
412     if (!p) {
413         VLOG_DBG_RL(&rl, "nx_match length %u, rounded up to a "
414                     "multiple of 8, is longer than space in message (max "
415                     "length %zu)", match_len, b->size);
416         return ofp_mkerr(OFPET_BAD_REQUEST, OFPBRC_BAD_LEN);
417     }
418
419     cls_rule_init_catchall(rule, priority);
420     while ((header = nx_entry_ok(p, match_len)) != 0) {
421         unsigned length = NXM_LENGTH(header);
422         const struct nxm_field *f;
423         int error;
424
425         f = nxm_field_lookup(header);
426         if (!f) {
427             error = NXM_BAD_TYPE;
428         } else if (!nxm_prereqs_ok(f, &rule->flow)) {
429             error = NXM_BAD_PREREQ;
430         } else if (f->wildcard && !(rule->wc.wildcards & f->wildcard)) {
431             error = NXM_DUP_TYPE;
432         } else {
433             /* 'hasmask' and 'length' are known to be correct at this point
434              * because they are included in 'header' and nxm_field_lookup()
435              * checked them already. */
436             rule->wc.wildcards &= ~f->wildcard;
437             error = parse_nxm_entry(rule, f, p + 4, p + 4 + length / 2);
438         }
439         if (error) {
440             VLOG_DBG_RL(&rl, "bad nxm_entry with vendor=%"PRIu32", "
441                         "field=%"PRIu32", hasmask=%"PRIu32", type=%"PRIu32" "
442                         "(error %x)",
443                         NXM_VENDOR(header), NXM_FIELD(header),
444                         NXM_HASMASK(header), NXM_TYPE(header),
445                         error);
446             return error;
447         }
448
449
450         p += 4 + length;
451         match_len -= 4 + length;
452     }
453
454     return match_len ? NXM_INVALID : 0;
455 }
456 \f
457 /* nx_put_match() and helpers.
458  *
459  * 'put' functions whose names end in 'w' add a wildcarded field.
460  * 'put' functions whose names end in 'm' add a field that might be wildcarded.
461  * Other 'put' functions add exact-match fields.
462  */
463
464 static void
465 nxm_put_header(struct ofpbuf *b, uint32_t header)
466 {
467     ovs_be32 n_header = htonl(header);
468     ofpbuf_put(b, &n_header, sizeof n_header);
469 }
470
471 static void
472 nxm_put_8(struct ofpbuf *b, uint32_t header, uint8_t value)
473 {
474     nxm_put_header(b, header);
475     ofpbuf_put(b, &value, sizeof value);
476 }
477
478 static void
479 nxm_put_16(struct ofpbuf *b, uint32_t header, ovs_be16 value)
480 {
481     nxm_put_header(b, header);
482     ofpbuf_put(b, &value, sizeof value);
483 }
484
485 static void
486 nxm_put_16w(struct ofpbuf *b, uint32_t header, ovs_be16 value, ovs_be16 mask)
487 {
488     nxm_put_header(b, header);
489     ofpbuf_put(b, &value, sizeof value);
490     ofpbuf_put(b, &mask, sizeof mask);
491 }
492
493 static void
494 nxm_put_16m(struct ofpbuf *b, uint32_t header, ovs_be16 value, ovs_be16 mask)
495 {
496     switch (mask) {
497     case 0:
498         break;
499
500     case CONSTANT_HTONS(UINT16_MAX):
501         nxm_put_16(b, header, value);
502         break;
503
504     default:
505         nxm_put_16w(b, NXM_MAKE_WILD_HEADER(header), value, mask);
506         break;
507     }
508 }
509
510 static void
511 nxm_put_32(struct ofpbuf *b, uint32_t header, ovs_be32 value)
512 {
513     nxm_put_header(b, header);
514     ofpbuf_put(b, &value, sizeof value);
515 }
516
517 static void
518 nxm_put_32w(struct ofpbuf *b, uint32_t header, ovs_be32 value, ovs_be32 mask)
519 {
520     nxm_put_header(b, header);
521     ofpbuf_put(b, &value, sizeof value);
522     ofpbuf_put(b, &mask, sizeof mask);
523 }
524
525 static void
526 nxm_put_32m(struct ofpbuf *b, uint32_t header, ovs_be32 value, ovs_be32 mask)
527 {
528     switch (mask) {
529     case 0:
530         break;
531
532     case CONSTANT_HTONL(UINT32_MAX):
533         nxm_put_32(b, header, value);
534         break;
535
536     default:
537         nxm_put_32w(b, NXM_MAKE_WILD_HEADER(header), value, mask);
538         break;
539     }
540 }
541
542 static void
543 nxm_put_64(struct ofpbuf *b, uint32_t header, ovs_be64 value)
544 {
545     nxm_put_header(b, header);
546     ofpbuf_put(b, &value, sizeof value);
547 }
548
549 static void
550 nxm_put_64w(struct ofpbuf *b, uint32_t header, ovs_be64 value, ovs_be64 mask)
551 {
552     nxm_put_header(b, header);
553     ofpbuf_put(b, &value, sizeof value);
554     ofpbuf_put(b, &mask, sizeof mask);
555 }
556
557 static void
558 nxm_put_64m(struct ofpbuf *b, uint32_t header, ovs_be64 value, ovs_be64 mask)
559 {
560     switch (mask) {
561     case 0:
562         break;
563
564     case CONSTANT_HTONLL(UINT64_MAX):
565         nxm_put_64(b, header, value);
566         break;
567
568     default:
569         nxm_put_64w(b, NXM_MAKE_WILD_HEADER(header), value, mask);
570         break;
571     }
572 }
573
574 static void
575 nxm_put_eth(struct ofpbuf *b, uint32_t header,
576             const uint8_t value[ETH_ADDR_LEN])
577 {
578     nxm_put_header(b, header);
579     ofpbuf_put(b, value, ETH_ADDR_LEN);
580 }
581
582 static void
583 nxm_put_eth_dst(struct ofpbuf *b,
584                 uint32_t wc, const uint8_t value[ETH_ADDR_LEN])
585 {
586     switch (wc & (FWW_DL_DST | FWW_ETH_MCAST)) {
587     case FWW_DL_DST | FWW_ETH_MCAST:
588         break;
589     case FWW_DL_DST:
590         nxm_put_header(b, NXM_OF_ETH_DST_W);
591         ofpbuf_put(b, value, ETH_ADDR_LEN);
592         ofpbuf_put(b, eth_mcast_1, ETH_ADDR_LEN);
593         break;
594     case FWW_ETH_MCAST:
595         nxm_put_header(b, NXM_OF_ETH_DST_W);
596         ofpbuf_put(b, value, ETH_ADDR_LEN);
597         ofpbuf_put(b, eth_mcast_0, ETH_ADDR_LEN);
598         break;
599     case 0:
600         nxm_put_eth(b, NXM_OF_ETH_DST, value);
601         break;
602     }
603 }
604
605 /* Appends to 'b' the nx_match format that expresses 'cr' (except for
606  * 'cr->priority', because priority is not part of nx_match), plus enough
607  * zero bytes to pad the nx_match out to a multiple of 8.
608  *
609  * This function can cause 'b''s data to be reallocated.
610  *
611  * Returns the number of bytes appended to 'b', excluding padding.
612  *
613  * If 'cr' is a catch-all rule that matches every packet, then this function
614  * appends nothing to 'b' and returns 0. */
615 int
616 nx_put_match(struct ofpbuf *b, const struct cls_rule *cr)
617 {
618     const flow_wildcards_t wc = cr->wc.wildcards;
619     const struct flow *flow = &cr->flow;
620     const size_t start_len = b->size;
621     int match_len;
622     int i;
623
624     /* Metadata. */
625     if (!(wc & FWW_IN_PORT)) {
626         uint16_t in_port = flow->in_port;
627         if (in_port == ODPP_LOCAL) {
628             in_port = OFPP_LOCAL;
629         }
630         nxm_put_16(b, NXM_OF_IN_PORT, htons(in_port));
631     }
632
633     /* Ethernet. */
634     nxm_put_eth_dst(b, wc, flow->dl_dst);
635     if (!(wc & FWW_DL_SRC)) {
636         nxm_put_eth(b, NXM_OF_ETH_SRC, flow->dl_src);
637     }
638     if (!(wc & FWW_DL_TYPE)) {
639         nxm_put_16(b, NXM_OF_ETH_TYPE, flow->dl_type);
640     }
641
642     /* 802.1Q. */
643     nxm_put_16m(b, NXM_OF_VLAN_TCI, flow->vlan_tci, cr->wc.vlan_tci_mask);
644
645     /* L3. */
646     if (!(wc & FWW_DL_TYPE) && flow->dl_type == htons(ETH_TYPE_IP)) {
647         /* IP. */
648         if (!(wc & FWW_NW_TOS)) {
649             nxm_put_8(b, NXM_OF_IP_TOS, flow->nw_tos & 0xfc);
650         }
651         nxm_put_32m(b, NXM_OF_IP_SRC, flow->nw_src, cr->wc.nw_src_mask);
652         nxm_put_32m(b, NXM_OF_IP_DST, flow->nw_dst, cr->wc.nw_dst_mask);
653
654         if (!(wc & FWW_NW_PROTO)) {
655             nxm_put_8(b, NXM_OF_IP_PROTO, flow->nw_proto);
656             switch (flow->nw_proto) {
657                 /* TCP. */
658             case IP_TYPE_TCP:
659                 if (!(wc & FWW_TP_SRC)) {
660                     nxm_put_16(b, NXM_OF_TCP_SRC, flow->tp_src);
661                 }
662                 if (!(wc & FWW_TP_DST)) {
663                     nxm_put_16(b, NXM_OF_TCP_DST, flow->tp_dst);
664                 }
665                 break;
666
667                 /* UDP. */
668             case IP_TYPE_UDP:
669                 if (!(wc & FWW_TP_SRC)) {
670                     nxm_put_16(b, NXM_OF_UDP_SRC, flow->tp_src);
671                 }
672                 if (!(wc & FWW_TP_DST)) {
673                     nxm_put_16(b, NXM_OF_UDP_DST, flow->tp_dst);
674                 }
675                 break;
676
677                 /* ICMP. */
678             case IP_TYPE_ICMP:
679                 if (!(wc & FWW_TP_SRC)) {
680                     nxm_put_8(b, NXM_OF_ICMP_TYPE, ntohs(flow->tp_src));
681                 }
682                 if (!(wc & FWW_TP_DST)) {
683                     nxm_put_8(b, NXM_OF_ICMP_CODE, ntohs(flow->tp_dst));
684                 }
685                 break;
686             }
687         }
688     } else if (!(wc & FWW_DL_TYPE) && flow->dl_type == htons(ETH_TYPE_ARP)) {
689         /* ARP. */
690         if (!(wc & FWW_NW_PROTO)) {
691             nxm_put_16(b, NXM_OF_ARP_OP, htons(flow->nw_proto));
692         }
693         nxm_put_32m(b, NXM_OF_ARP_SPA, flow->nw_src, cr->wc.nw_src_mask);
694         nxm_put_32m(b, NXM_OF_ARP_TPA, flow->nw_dst, cr->wc.nw_dst_mask);
695     }
696
697     /* Tunnel ID. */
698     nxm_put_64m(b, NXM_NX_TUN_ID, flow->tun_id, cr->wc.tun_id_mask);
699
700     /* Registers. */
701     for (i = 0; i < FLOW_N_REGS; i++) {
702         nxm_put_32m(b, NXM_NX_REG(i),
703                     htonl(flow->regs[i]), htonl(cr->wc.reg_masks[i]));
704     }
705
706     match_len = b->size - start_len;
707     ofpbuf_put_zeros(b, ROUND_UP(match_len, 8) - match_len);
708     return match_len;
709 }
710 \f
711 /* nx_match_to_string() and helpers. */
712
713 static void format_nxm_field_name(struct ds *, uint32_t header);
714
715 char *
716 nx_match_to_string(const uint8_t *p, unsigned int match_len)
717 {
718     uint32_t header;
719     struct ds s;
720
721     if (!match_len) {
722         return xstrdup("<any>");
723     }
724
725     ds_init(&s);
726     while ((header = nx_entry_ok(p, match_len)) != 0) {
727         unsigned int length = NXM_LENGTH(header);
728         unsigned int value_len = nxm_field_bytes(header);
729         const uint8_t *value = p + 4;
730         const uint8_t *mask = value + value_len;
731         unsigned int i;
732
733         if (s.length) {
734             ds_put_cstr(&s, ", ");
735         }
736
737         format_nxm_field_name(&s, header);
738         ds_put_char(&s, '(');
739
740         for (i = 0; i < value_len; i++) {
741             ds_put_format(&s, "%02x", value[i]);
742         }
743         if (NXM_HASMASK(header)) {
744             ds_put_char(&s, '/');
745             for (i = 0; i < value_len; i++) {
746                 ds_put_format(&s, "%02x", mask[i]);
747             }
748         }
749         ds_put_char(&s, ')');
750
751         p += 4 + length;
752         match_len -= 4 + length;
753     }
754
755     if (match_len) {
756         if (s.length) {
757             ds_put_cstr(&s, ", ");
758         }
759
760         ds_put_format(&s, "<%u invalid bytes>", match_len);
761     }
762
763     return ds_steal_cstr(&s);
764 }
765
766 static void
767 format_nxm_field_name(struct ds *s, uint32_t header)
768 {
769     const struct nxm_field *f = nxm_field_lookup(header);
770     if (f) {
771         ds_put_cstr(s, f->name);
772     } else {
773         ds_put_format(s, "%d:%d", NXM_VENDOR(header), NXM_FIELD(header));
774     }
775 }
776
777 static uint32_t
778 parse_nxm_field_name(const char *name, int name_len)
779 {
780     const struct nxm_field *f;
781
782     /* Check whether it's a field name. */
783     for (f = nxm_fields; f < &nxm_fields[ARRAY_SIZE(nxm_fields)]; f++) {
784         if (!strncmp(f->name, name, name_len) && f->name[name_len] == '\0') {
785             return f->header;
786         }
787     }
788
789     /* Check whether it's a 32-bit field header value as hex.
790      * (This isn't ordinarily useful except for testing error behavior.) */
791     if (name_len == 8) {
792         uint32_t header = hexits_value(name, name_len, NULL);
793         if (header != UINT_MAX) {
794             return header;
795         }
796     }
797
798     return 0;
799 }
800 \f
801 /* nx_match_from_string(). */
802
803 int
804 nx_match_from_string(const char *s, struct ofpbuf *b)
805 {
806     const char *full_s = s;
807     const size_t start_len = b->size;
808     int match_len;
809
810     if (!strcmp(s, "<any>")) {
811         /* Ensure that 'b->data' isn't actually null. */
812         ofpbuf_prealloc_tailroom(b, 1);
813         return 0;
814     }
815
816     for (s += strspn(s, ", "); *s; s += strspn(s, ", ")) {
817         const char *name;
818         uint32_t header;
819         int name_len;
820         size_t n;
821
822         name = s;
823         name_len = strcspn(s, "(");
824         if (s[name_len] != '(') {
825             ovs_fatal(0, "%s: missing ( at end of nx_match", full_s);
826         }
827
828         header = parse_nxm_field_name(name, name_len);
829         if (!header) {
830             ovs_fatal(0, "%s: unknown field `%.*s'", full_s, name_len, s);
831         }
832
833         s += name_len + 1;
834
835         nxm_put_header(b, header);
836         s = ofpbuf_put_hex(b, s, &n);
837         if (n != nxm_field_bytes(header)) {
838             ovs_fatal(0, "%.2s: hex digits expected", s);
839         }
840         if (NXM_HASMASK(header)) {
841             s += strspn(s, " ");
842             if (*s != '/') {
843                 ovs_fatal(0, "%s: missing / in masked field %.*s",
844                           full_s, name_len, name);
845             }
846             s = ofpbuf_put_hex(b, s + 1, &n);
847             if (n != nxm_field_bytes(header)) {
848                 ovs_fatal(0, "%.2s: hex digits expected", s);
849             }
850         }
851
852         s += strspn(s, " ");
853         if (*s != ')') {
854             ovs_fatal(0, "%s: missing ) following field %.*s",
855                       full_s, name_len, name);
856         }
857         s++;
858     }
859
860     match_len = b->size - start_len;
861     ofpbuf_put_zeros(b, ROUND_UP(match_len, 8) - match_len);
862     return match_len;
863 }
864 \f
865 const char *
866 nxm_parse_field_bits(const char *s, uint32_t *headerp, int *ofsp, int *n_bitsp)
867 {
868     const char *full_s = s;
869     const char *name;
870     uint32_t header;
871     int start, end;
872     int name_len;
873     int width;
874
875     name = s;
876     name_len = strcspn(s, "[");
877     if (s[name_len] != '[') {
878         ovs_fatal(0, "%s: missing [ looking for field name", full_s);
879     }
880
881     header = parse_nxm_field_name(name, name_len);
882     if (!header) {
883         ovs_fatal(0, "%s: unknown field `%.*s'", full_s, name_len, s);
884     }
885     width = nxm_field_bits(header);
886
887     s += name_len;
888     if (sscanf(s, "[%d..%d]", &start, &end) == 2) {
889         /* Nothing to do. */
890     } else if (sscanf(s, "[%d]", &start) == 1) {
891         end = start;
892     } else if (!strncmp(s, "[]", 2)) {
893         start = 0;
894         end = width - 1;
895     } else {
896         ovs_fatal(0, "%s: syntax error expecting [] or [<bit>] or "
897                   "[<start>..<end>]", full_s);
898     }
899     s = strchr(s, ']') + 1;
900
901     if (start > end) {
902         ovs_fatal(0, "%s: starting bit %d is after ending bit %d",
903                   full_s, start, end);
904     } else if (start >= width) {
905         ovs_fatal(0, "%s: starting bit %d is not valid because field is only "
906                   "%d bits wide", full_s, start, width);
907     } else if (end >= width){
908         ovs_fatal(0, "%s: ending bit %d is not valid because field is only "
909                   "%d bits wide", full_s, end, width);
910     }
911
912     *headerp = header;
913     *ofsp = start;
914     *n_bitsp = end - start + 1;
915
916     return s;
917 }
918
919 void
920 nxm_parse_reg_move(struct nx_action_reg_move *move, const char *s)
921 {
922     const char *full_s = s;
923     uint32_t src, dst;
924     int src_ofs, dst_ofs;
925     int src_n_bits, dst_n_bits;
926
927     s = nxm_parse_field_bits(s, &src, &src_ofs, &src_n_bits);
928     if (strncmp(s, "->", 2)) {
929         ovs_fatal(0, "%s: missing `->' following source", full_s);
930     }
931     s += 2;
932     s = nxm_parse_field_bits(s, &dst, &dst_ofs, &dst_n_bits);
933     if (*s != '\0') {
934         ovs_fatal(0, "%s: trailing garbage following destination", full_s);
935     }
936
937     if (src_n_bits != dst_n_bits) {
938         ovs_fatal(0, "%s: source field is %d bits wide but destination is "
939                   "%d bits wide", full_s, src_n_bits, dst_n_bits);
940     }
941
942     move->type = htons(OFPAT_VENDOR);
943     move->len = htons(sizeof *move);
944     move->vendor = htonl(NX_VENDOR_ID);
945     move->subtype = htons(NXAST_REG_MOVE);
946     move->n_bits = htons(src_n_bits);
947     move->src_ofs = htons(src_ofs);
948     move->dst_ofs = htons(dst_ofs);
949     move->src = htonl(src);
950     move->dst = htonl(dst);
951 }
952
953 void
954 nxm_parse_reg_load(struct nx_action_reg_load *load, const char *s)
955 {
956     const char *full_s = s;
957     uint32_t dst;
958     int ofs, n_bits;
959     uint64_t value;
960
961     value = strtoull(s, (char **) &s, 0);
962     if (strncmp(s, "->", 2)) {
963         ovs_fatal(0, "%s: missing `->' following value", full_s);
964     }
965     s += 2;
966     s = nxm_parse_field_bits(s, &dst, &ofs, &n_bits);
967     if (*s != '\0') {
968         ovs_fatal(0, "%s: trailing garbage following destination", full_s);
969     }
970
971     if (n_bits < 64 && (value >> n_bits) != 0) {
972         ovs_fatal(0, "%s: value %"PRIu64" does not fit into %d bits",
973                   full_s, value, n_bits);
974     }
975
976     load->type = htons(OFPAT_VENDOR);
977     load->len = htons(sizeof *load);
978     load->vendor = htonl(NX_VENDOR_ID);
979     load->subtype = htons(NXAST_REG_LOAD);
980     load->ofs_nbits = nxm_encode_ofs_nbits(ofs, n_bits);
981     load->dst = htonl(dst);
982     load->value = htonll(value);
983 }
984 \f
985 /* nxm_format_reg_move(), nxm_format_reg_load(). */
986
987 void
988 nxm_format_field_bits(struct ds *s, uint32_t header, int ofs, int n_bits)
989 {
990     format_nxm_field_name(s, header);
991     if (ofs == 0 && n_bits == nxm_field_bits(header)) {
992         ds_put_cstr(s, "[]");
993     } else if (n_bits == 1) {
994         ds_put_format(s, "[%d]", ofs);
995     } else {
996         ds_put_format(s, "[%d..%d]", ofs, ofs + n_bits - 1);
997     }
998 }
999
1000 void
1001 nxm_format_reg_move(const struct nx_action_reg_move *move, struct ds *s)
1002 {
1003     int n_bits = ntohs(move->n_bits);
1004     int src_ofs = ntohs(move->src_ofs);
1005     int dst_ofs = ntohs(move->dst_ofs);
1006     uint32_t src = ntohl(move->src);
1007     uint32_t dst = ntohl(move->dst);
1008
1009     ds_put_format(s, "move:");
1010     nxm_format_field_bits(s, src, src_ofs, n_bits);
1011     ds_put_cstr(s, "->");
1012     nxm_format_field_bits(s, dst, dst_ofs, n_bits);
1013 }
1014
1015 void
1016 nxm_format_reg_load(const struct nx_action_reg_load *load, struct ds *s)
1017 {
1018     int ofs = nxm_decode_ofs(load->ofs_nbits);
1019     int n_bits = nxm_decode_n_bits(load->ofs_nbits);
1020     uint32_t dst = ntohl(load->dst);
1021     uint64_t value = ntohll(load->value);
1022
1023     ds_put_format(s, "load:%#"PRIx64"->", value);
1024     nxm_format_field_bits(s, dst, ofs, n_bits);
1025 }
1026 \f
1027 /* nxm_check_reg_move(), nxm_check_reg_load(). */
1028
1029 static bool
1030 field_ok(const struct nxm_field *f, const struct flow *flow, int size)
1031 {
1032     return (f && !NXM_HASMASK(f->header)
1033             && nxm_prereqs_ok(f, flow) && size <= nxm_field_bits(f->header));
1034 }
1035
1036 int
1037 nxm_check_reg_move(const struct nx_action_reg_move *action,
1038                    const struct flow *flow)
1039 {
1040     const struct nxm_field *src;
1041     const struct nxm_field *dst;
1042
1043     if (action->n_bits == htons(0)) {
1044         return BAD_ARGUMENT;
1045     }
1046
1047     src = nxm_field_lookup(ntohl(action->src));
1048     if (!field_ok(src, flow, ntohs(action->src_ofs) + ntohs(action->n_bits))) {
1049         return BAD_ARGUMENT;
1050     }
1051
1052     dst = nxm_field_lookup(ntohl(action->dst));
1053     if (!field_ok(dst, flow, ntohs(action->dst_ofs) + ntohs(action->n_bits))) {
1054         return BAD_ARGUMENT;
1055     }
1056
1057     if (!dst->writable) {
1058         return BAD_ARGUMENT;
1059     }
1060
1061     return 0;
1062 }
1063
1064 int
1065 nxm_check_reg_load(const struct nx_action_reg_load *action,
1066                    const struct flow *flow)
1067 {
1068     const struct nxm_field *dst;
1069     int ofs, n_bits;
1070
1071     ofs = nxm_decode_ofs(action->ofs_nbits);
1072     n_bits = nxm_decode_n_bits(action->ofs_nbits);
1073     dst = nxm_field_lookup(ntohl(action->dst));
1074     if (!field_ok(dst, flow, ofs + n_bits)) {
1075         return BAD_ARGUMENT;
1076     }
1077
1078     /* Reject 'action' if a bit numbered 'n_bits' or higher is set to 1 in
1079      * action->value. */
1080     if (n_bits < 64 && ntohll(action->value) >> n_bits) {
1081         return BAD_ARGUMENT;
1082     }
1083
1084     if (!dst->writable) {
1085         return BAD_ARGUMENT;
1086     }
1087
1088     return 0;
1089 }
1090 \f
1091 /* nxm_execute_reg_move(), nxm_execute_reg_load(). */
1092
1093 static uint64_t
1094 nxm_read_field(const struct nxm_field *src, const struct flow *flow)
1095 {
1096     switch (src->index) {
1097     case NFI_NXM_OF_IN_PORT:
1098         return flow->in_port == ODPP_LOCAL ? OFPP_LOCAL : flow->in_port;
1099
1100     case NFI_NXM_OF_ETH_DST:
1101         return eth_addr_to_uint64(flow->dl_dst);
1102
1103     case NFI_NXM_OF_ETH_SRC:
1104         return eth_addr_to_uint64(flow->dl_src);
1105
1106     case NFI_NXM_OF_ETH_TYPE:
1107         return ntohs(flow->dl_type);
1108
1109     case NFI_NXM_OF_VLAN_TCI:
1110         return ntohs(flow->vlan_tci);
1111
1112     case NFI_NXM_OF_IP_TOS:
1113         return flow->nw_tos;
1114
1115     case NFI_NXM_OF_IP_PROTO:
1116     case NFI_NXM_OF_ARP_OP:
1117         return flow->nw_proto;
1118
1119     case NFI_NXM_OF_IP_SRC:
1120     case NFI_NXM_OF_ARP_SPA:
1121         return ntohl(flow->nw_src);
1122
1123     case NFI_NXM_OF_IP_DST:
1124     case NFI_NXM_OF_ARP_TPA:
1125         return ntohl(flow->nw_dst);
1126
1127     case NFI_NXM_OF_TCP_SRC:
1128     case NFI_NXM_OF_UDP_SRC:
1129         return ntohs(flow->tp_src);
1130
1131     case NFI_NXM_OF_TCP_DST:
1132     case NFI_NXM_OF_UDP_DST:
1133         return ntohs(flow->tp_dst);
1134
1135     case NFI_NXM_OF_ICMP_TYPE:
1136         return ntohs(flow->tp_src) & 0xff;
1137
1138     case NFI_NXM_OF_ICMP_CODE:
1139         return ntohs(flow->tp_dst) & 0xff;
1140
1141     case NFI_NXM_NX_TUN_ID:
1142         return ntohll(flow->tun_id);
1143
1144 #define NXM_READ_REGISTER(IDX)                  \
1145     case NFI_NXM_NX_REG##IDX:                   \
1146         return flow->regs[IDX];                 \
1147     case NFI_NXM_NX_REG##IDX##_W:               \
1148         NOT_REACHED();
1149
1150     NXM_READ_REGISTER(0);
1151 #if FLOW_N_REGS >= 2
1152     NXM_READ_REGISTER(1);
1153 #endif
1154 #if FLOW_N_REGS >= 3
1155     NXM_READ_REGISTER(2);
1156 #endif
1157 #if FLOW_N_REGS >= 4
1158     NXM_READ_REGISTER(3);
1159 #endif
1160 #if FLOW_N_REGS > 4
1161 #error
1162 #endif
1163
1164     case NFI_NXM_NX_TUN_ID_W:
1165     case NFI_NXM_OF_ETH_DST_W:
1166     case NFI_NXM_OF_VLAN_TCI_W:
1167     case NFI_NXM_OF_IP_SRC_W:
1168     case NFI_NXM_OF_IP_DST_W:
1169     case NFI_NXM_OF_ARP_SPA_W:
1170     case NFI_NXM_OF_ARP_TPA_W:
1171     case N_NXM_FIELDS:
1172         NOT_REACHED();
1173     }
1174
1175     NOT_REACHED();
1176 }
1177
1178 static void
1179 nxm_write_field(const struct nxm_field *dst, struct flow *flow,
1180                 uint64_t new_value)
1181 {
1182     switch (dst->index) {
1183     case NFI_NXM_OF_VLAN_TCI:
1184         flow->vlan_tci = htons(new_value);
1185         break;
1186
1187     case NFI_NXM_NX_TUN_ID:
1188         flow->tun_id = htonll(new_value);
1189         break;
1190
1191 #define NXM_WRITE_REGISTER(IDX)                 \
1192     case NFI_NXM_NX_REG##IDX:                   \
1193         flow->regs[IDX] = new_value;            \
1194         break;                                  \
1195     case NFI_NXM_NX_REG##IDX##_W:               \
1196         NOT_REACHED();
1197
1198     NXM_WRITE_REGISTER(0);
1199 #if FLOW_N_REGS >= 2
1200     NXM_WRITE_REGISTER(1);
1201 #endif
1202 #if FLOW_N_REGS >= 3
1203     NXM_WRITE_REGISTER(2);
1204 #endif
1205 #if FLOW_N_REGS >= 4
1206     NXM_WRITE_REGISTER(3);
1207 #endif
1208 #if FLOW_N_REGS > 4
1209 #error
1210 #endif
1211
1212     case NFI_NXM_OF_IN_PORT:
1213     case NFI_NXM_OF_ETH_DST:
1214     case NFI_NXM_OF_ETH_SRC:
1215     case NFI_NXM_OF_ETH_TYPE:
1216     case NFI_NXM_OF_IP_TOS:
1217     case NFI_NXM_OF_IP_PROTO:
1218     case NFI_NXM_OF_ARP_OP:
1219     case NFI_NXM_OF_IP_SRC:
1220     case NFI_NXM_OF_ARP_SPA:
1221     case NFI_NXM_OF_IP_DST:
1222     case NFI_NXM_OF_ARP_TPA:
1223     case NFI_NXM_OF_TCP_SRC:
1224     case NFI_NXM_OF_UDP_SRC:
1225     case NFI_NXM_OF_TCP_DST:
1226     case NFI_NXM_OF_UDP_DST:
1227     case NFI_NXM_OF_ICMP_TYPE:
1228     case NFI_NXM_OF_ICMP_CODE:
1229     case NFI_NXM_NX_TUN_ID_W:
1230     case NFI_NXM_OF_ETH_DST_W:
1231     case NFI_NXM_OF_VLAN_TCI_W:
1232     case NFI_NXM_OF_IP_SRC_W:
1233     case NFI_NXM_OF_IP_DST_W:
1234     case NFI_NXM_OF_ARP_SPA_W:
1235     case NFI_NXM_OF_ARP_TPA_W:
1236     case N_NXM_FIELDS:
1237         NOT_REACHED();
1238     }
1239 }
1240
1241 void
1242 nxm_execute_reg_move(const struct nx_action_reg_move *action,
1243                      struct flow *flow)
1244 {
1245     /* Preparation. */
1246     int n_bits = ntohs(action->n_bits);
1247     uint64_t mask = n_bits == 64 ? UINT64_MAX : (UINT64_C(1) << n_bits) - 1;
1248
1249     /* Get the interesting bits of the source field. */
1250     const struct nxm_field *src = nxm_field_lookup(ntohl(action->src));
1251     int src_ofs = ntohs(action->src_ofs);
1252     uint64_t src_data = nxm_read_field(src, flow) & (mask << src_ofs);
1253
1254     /* Get the remaining bits of the destination field. */
1255     const struct nxm_field *dst = nxm_field_lookup(ntohl(action->dst));
1256     int dst_ofs = ntohs(action->dst_ofs);
1257     uint64_t dst_data = nxm_read_field(dst, flow) & ~(mask << dst_ofs);
1258
1259     /* Get the final value. */
1260     uint64_t new_data = dst_data | ((src_data >> src_ofs) << dst_ofs);
1261
1262     nxm_write_field(dst, flow, new_data);
1263 }
1264
1265 void
1266 nxm_execute_reg_load(const struct nx_action_reg_load *action,
1267                      struct flow *flow)
1268 {
1269     /* Preparation. */
1270     int n_bits = nxm_decode_n_bits(action->ofs_nbits);
1271     uint64_t mask = n_bits == 64 ? UINT64_MAX : (UINT64_C(1) << n_bits) - 1;
1272
1273     /* Get source data. */
1274     uint64_t src_data = ntohll(action->value);
1275
1276     /* Get remaining bits of the destination field. */
1277     const struct nxm_field *dst = nxm_field_lookup(ntohl(action->dst));
1278     int dst_ofs = nxm_decode_ofs(action->ofs_nbits);
1279     uint64_t dst_data = nxm_read_field(dst, flow) & ~(mask << dst_ofs);
1280
1281     /* Get the final value. */
1282     uint64_t new_data = dst_data | (src_data << dst_ofs);
1283
1284     nxm_write_field(dst, flow, new_data);
1285 }