lib/classifier.c

   1 /*
   2  * Copyright (c) 2009, 2010, 2011 Nicira Networks.
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at:
   7  *
   8  *     http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #include <config.h>
  18 #include "classifier.h"
  19 #include <assert.h>
  20 #include <errno.h>
  21 #include <netinet/in.h>
  22 #include "byte-order.h"
  23 #include "dynamic-string.h"
  24 #include "flow.h"
  25 #include "hash.h"
  26 #include "odp-util.h"
  27 #include "ofp-util.h"
  28 #include "packets.h"
  29
  30 static struct cls_table *find_table(const struct classifier *,
  31                                     const struct flow_wildcards *);
  32 static struct cls_table *insert_table(struct classifier *,
  33                                       const struct flow_wildcards *);
  34
  35 static struct cls_table *classifier_first_table(const struct classifier *);
  36 static struct cls_table *classifier_next_table(const struct classifier *,
  37                                                const struct cls_table *);
  38 static void destroy_table(struct classifier *, struct cls_table *);
  39
  40 static struct cls_rule *find_match(const struct cls_table *,
  41                                    const struct flow *);
  42 static struct cls_rule *find_equal(struct cls_table *, const struct flow *,
  43                                    uint32_t hash);
  44 static struct cls_rule *insert_rule(struct cls_table *, struct cls_rule *);
  45
  46 static bool flow_equal_except(const struct flow *, const struct flow *,
  47                                 const struct flow_wildcards *);
  48 static void zero_wildcards(struct flow *, const struct flow_wildcards *);
  49
  50 /* Iterates RULE over HEAD and all of the cls_rules on HEAD->list. */
  51 #define FOR_EACH_RULE_IN_LIST(RULE, HEAD)                               \
  52     for ((RULE) = (HEAD); (RULE) != NULL; (RULE) = next_rule_in_list(RULE))
  53 #define FOR_EACH_RULE_IN_LIST_SAFE(RULE, NEXT, HEAD)                    \
  54     for ((RULE) = (HEAD);                                               \
  55          (RULE) != NULL && ((NEXT) = next_rule_in_list(RULE), true);    \
  56          (RULE) = (NEXT))
  57
  58 static struct cls_rule *next_rule_in_list__(struct cls_rule *);
  59 static struct cls_rule *next_rule_in_list(struct cls_rule *);
  60
  61 static struct cls_table *
  62 cls_table_from_hmap_node(const struct hmap_node *node)
  63 {
  64     return node ? CONTAINER_OF(node, struct cls_table, hmap_node) : NULL;
  65 }
  66
  67 /* Converts the flow in 'flow' into a cls_rule in 'rule', with the given
  68  * 'wildcards' and 'priority'. */
  69 void
  70 cls_rule_init(const struct flow *flow, const struct flow_wildcards *wildcards,
  71               unsigned int priority, struct cls_rule *rule)
  72 {
  73     rule->flow = *flow;
  74     rule->wc = *wildcards;
  75     rule->priority = priority;
  76     cls_rule_zero_wildcarded_fields(rule);
  77 }
  78
  79 /* Converts the flow in 'flow' into an exact-match cls_rule in 'rule', with the
  80  * given 'priority'.  (For OpenFlow 1.0, exact-match rule are always highest
  81  * priority, so 'priority' should be at least 65535.) */
  82 void
  83 cls_rule_init_exact(const struct flow *flow,
  84                     unsigned int priority, struct cls_rule *rule)
  85 {
  86     rule->flow = *flow;
  87     flow_wildcards_init_exact(&rule->wc);
  88     rule->priority = priority;
  89 }
  90
  91 /* Initializes 'rule' as a "catch-all" rule that matches every packet, with
  92  * priority 'priority'. */
  93 void
  94 cls_rule_init_catchall(struct cls_rule *rule, unsigned int priority)
  95 {
  96     memset(&rule->flow, 0, sizeof rule->flow);
  97     flow_wildcards_init_catchall(&rule->wc);
  98     rule->priority = priority;
  99 }
 100
 101 /* For each bit or field wildcarded in 'rule', sets the corresponding bit or
 102  * field in 'flow' to all-0-bits.  It is important to maintain this invariant
 103  * in a clr_rule that might be inserted into a classifier.
 104  *
 105  * It is never necessary to call this function directly for a cls_rule that is
 106  * initialized or modified only by cls_rule_*() functions.  It is useful to
 107  * restore the invariant in a cls_rule whose 'wc' member is modified by hand.
 108  */
 109 void
 110 cls_rule_zero_wildcarded_fields(struct cls_rule *rule)
 111 {
 112     zero_wildcards(&rule->flow, &rule->wc);
 113 }
 114
 115 void
 116 cls_rule_set_reg(struct cls_rule *rule, unsigned int reg_idx, uint32_t value)
 117 {
 118     cls_rule_set_reg_masked(rule, reg_idx, value, UINT32_MAX);
 119 }
 120
 121 void
 122 cls_rule_set_reg_masked(struct cls_rule *rule, unsigned int reg_idx,
 123                         uint32_t value, uint32_t mask)
 124 {
 125     assert(reg_idx < FLOW_N_REGS);
 126     flow_wildcards_set_reg_mask(&rule->wc, reg_idx, mask);
 127     rule->flow.regs[reg_idx] = value & mask;
 128 }
 129
 130 void
 131 cls_rule_set_tun_id(struct cls_rule *rule, ovs_be64 tun_id)
 132 {
 133     cls_rule_set_tun_id_masked(rule, tun_id, htonll(UINT64_MAX));
 134 }
 135
 136 void
 137 cls_rule_set_tun_id_masked(struct cls_rule *rule,
 138                            ovs_be64 tun_id, ovs_be64 mask)
 139 {
 140     rule->wc.tun_id_mask = mask;
 141     rule->flow.tun_id = tun_id & mask;
 142 }
 143
 144 void
 145 cls_rule_set_in_port(struct cls_rule *rule, uint16_t ofp_port)
 146 {
 147     rule->wc.wildcards &= ~FWW_IN_PORT;
 148     rule->flow.in_port = ofp_port;
 149 }
 150
 151 void
 152 cls_rule_set_dl_type(struct cls_rule *rule, ovs_be16 dl_type)
 153 {
 154     rule->wc.wildcards &= ~FWW_DL_TYPE;
 155     rule->flow.dl_type = dl_type;
 156 }
 157
 158 void
 159 cls_rule_set_dl_src(struct cls_rule *rule, const uint8_t dl_src[ETH_ADDR_LEN])
 160 {
 161     rule->wc.wildcards &= ~FWW_DL_SRC;
 162     memcpy(rule->flow.dl_src, dl_src, ETH_ADDR_LEN);
 163 }
 164
 165 void
 166 cls_rule_set_dl_dst(struct cls_rule *rule, const uint8_t dl_dst[ETH_ADDR_LEN])
 167 {
 168     rule->wc.wildcards &= ~(FWW_DL_DST | FWW_ETH_MCAST);
 169     memcpy(rule->flow.dl_dst, dl_dst, ETH_ADDR_LEN);
 170 }
 171
 172 void
 173 cls_rule_set_dl_tci(struct cls_rule *rule, ovs_be16 tci)
 174 {
 175     cls_rule_set_dl_tci_masked(rule, tci, htons(0xffff));
 176 }
 177
 178 void
 179 cls_rule_set_dl_tci_masked(struct cls_rule *rule, ovs_be16 tci, ovs_be16 mask)
 180 {
 181     rule->flow.vlan_tci = tci & mask;
 182     rule->wc.vlan_tci_mask = mask;
 183 }
 184
 185 /* Modifies 'rule' so that the VLAN VID is wildcarded.  If the PCP is already
 186  * wildcarded, then 'rule' will match a packet regardless of whether it has an
 187  * 802.1Q header or not. */
 188 void
 189 cls_rule_set_any_vid(struct cls_rule *rule)
 190 {
 191     if (rule->wc.vlan_tci_mask & htons(VLAN_PCP_MASK)) {
 192         rule->wc.vlan_tci_mask &= ~htons(VLAN_VID_MASK);
 193         rule->flow.vlan_tci &= ~htons(VLAN_VID_MASK);
 194     } else {
 195         cls_rule_set_dl_tci_masked(rule, htons(0), htons(0));
 196     }
 197 }
 198
 199 /* Modifies 'rule' depending on 'dl_vlan':
 200  *
 201  *   - If 'dl_vlan' is htons(OFP_VLAN_NONE), makes 'rule' match only packets
 202  *     without an 802.1Q header.
 203  *
 204  *   - Otherwise, makes 'rule' match only packets with an 802.1Q header whose
 205  *     VID equals the low 12 bits of 'dl_vlan'.
 206  */
 207 void
 208 cls_rule_set_dl_vlan(struct cls_rule *rule, ovs_be16 dl_vlan)
 209 {
 210     if (dl_vlan == htons(OFP_VLAN_NONE)) {
 211         cls_rule_set_dl_tci(rule, htons(0));
 212     } else {
 213         dl_vlan &= htons(VLAN_VID_MASK);
 214         rule->flow.vlan_tci &= ~htons(VLAN_VID_MASK);
 215         rule->flow.vlan_tci |= htons(VLAN_CFI) | dl_vlan;
 216         rule->wc.vlan_tci_mask |= htons(VLAN_VID_MASK | VLAN_CFI);
 217     }
 218 }
 219
 220 /* Modifies 'rule' so that the VLAN PCP is wildcarded.  If the VID is already
 221  * wildcarded, then 'rule' will match a packet regardless of whether it has an
 222  * 802.1Q header or not. */
 223 void
 224 cls_rule_set_any_pcp(struct cls_rule *rule)
 225 {
 226     if (rule->wc.vlan_tci_mask & htons(VLAN_VID_MASK)) {
 227         rule->wc.vlan_tci_mask &= ~htons(VLAN_PCP_MASK);
 228         rule->flow.vlan_tci &= ~htons(VLAN_PCP_MASK);
 229     } else {
 230         cls_rule_set_dl_tci_masked(rule, htons(0), htons(0));
 231     }
 232 }
 233
 234 /* Modifies 'rule' so that it matches only packets with an 802.1Q header whose
 235  * PCP equals the low 3 bits of 'dl_vlan_pcp'. */
 236 void
 237 cls_rule_set_dl_vlan_pcp(struct cls_rule *rule, uint8_t dl_vlan_pcp)
 238 {
 239     dl_vlan_pcp &= 0x07;
 240     rule->flow.vlan_tci &= ~htons(VLAN_PCP_MASK);
 241     rule->flow.vlan_tci |= htons((dl_vlan_pcp << VLAN_PCP_SHIFT) | VLAN_CFI);
 242     rule->wc.vlan_tci_mask |= htons(VLAN_CFI | VLAN_PCP_MASK);
 243 }
 244
 245 void
 246 cls_rule_set_tp_src(struct cls_rule *rule, ovs_be16 tp_src)
 247 {
 248     rule->wc.wildcards &= ~FWW_TP_SRC;
 249     rule->flow.tp_src = tp_src;
 250 }
 251
 252 void
 253 cls_rule_set_tp_dst(struct cls_rule *rule, ovs_be16 tp_dst)
 254 {
 255     rule->wc.wildcards &= ~FWW_TP_DST;
 256     rule->flow.tp_dst = tp_dst;
 257 }
 258
 259 void
 260 cls_rule_set_nw_proto(struct cls_rule *rule, uint8_t nw_proto)
 261 {
 262     rule->wc.wildcards &= ~FWW_NW_PROTO;
 263     rule->flow.nw_proto = nw_proto;
 264 }
 265
 266 void
 267 cls_rule_set_nw_src(struct cls_rule *rule, ovs_be32 nw_src)
 268 {
 269     cls_rule_set_nw_src_masked(rule, nw_src, htonl(UINT32_MAX));
 270 }
 271
 272 bool
 273 cls_rule_set_nw_src_masked(struct cls_rule *rule, ovs_be32 ip, ovs_be32 mask)
 274 {
 275     if (flow_wildcards_set_nw_src_mask(&rule->wc, mask)) {
 276         rule->flow.nw_src = ip & mask;
 277         return true;
 278     } else {
 279         return false;
 280     }
 281 }
 282
 283 void
 284 cls_rule_set_nw_dst(struct cls_rule *rule, ovs_be32 nw_dst)
 285 {
 286     cls_rule_set_nw_dst_masked(rule, nw_dst, htonl(UINT32_MAX));
 287 }
 288
 289 bool
 290 cls_rule_set_nw_dst_masked(struct cls_rule *rule, ovs_be32 ip, ovs_be32 mask)
 291 {
 292     if (flow_wildcards_set_nw_dst_mask(&rule->wc, mask)) {
 293         rule->flow.nw_dst = ip & mask;
 294         return true;
 295     } else {
 296         return false;
 297     }
 298 }
 299
 300 void
 301 cls_rule_set_nw_tos(struct cls_rule *rule, uint8_t nw_tos)
 302 {
 303     rule->wc.wildcards &= ~FWW_NW_TOS;
 304     rule->flow.nw_tos = nw_tos & IP_DSCP_MASK;
 305 }
 306
 307 void
 308 cls_rule_set_icmp_type(struct cls_rule *rule, uint8_t icmp_type)
 309 {
 310     rule->wc.wildcards &= ~FWW_TP_SRC;
 311     rule->flow.icmp_type = htons(icmp_type);
 312
 313 }
 314
 315 void
 316 cls_rule_set_icmp_code(struct cls_rule *rule, uint8_t icmp_code)
 317 {
 318     rule->wc.wildcards &= ~FWW_TP_DST;
 319     rule->flow.icmp_code = htons(icmp_code);
 320 }
 321
 322 void
 323 cls_rule_set_arp_sha(struct cls_rule *rule, const uint8_t sha[ETH_ADDR_LEN])
 324 {
 325     rule->wc.wildcards &= ~FWW_ARP_SHA;
 326     memcpy(rule->flow.arp_sha, sha, ETH_ADDR_LEN);
 327 }
 328
 329 void
 330 cls_rule_set_arp_tha(struct cls_rule *rule, const uint8_t tha[ETH_ADDR_LEN])
 331 {
 332     rule->wc.wildcards &= ~FWW_ARP_THA;
 333     memcpy(rule->flow.arp_tha, tha, ETH_ADDR_LEN);
 334 }
 335
 336 void
 337 cls_rule_set_ipv6_src(struct cls_rule *rule, const struct in6_addr *src)
 338 {
 339     cls_rule_set_ipv6_src_masked(rule, src, &in6addr_exact);
 340 }
 341
 342 bool
 343 cls_rule_set_ipv6_src_masked(struct cls_rule *rule, const struct in6_addr *src,
 344                              const struct in6_addr *mask)
 345 {
 346     if (flow_wildcards_set_ipv6_src_mask(&rule->wc, mask)) {
 347         rule->flow.ipv6_src = ipv6_addr_bitand(src, mask);
 348         return true;
 349     } else {
 350         return false;
 351     }
 352 }
 353
 354 void
 355 cls_rule_set_ipv6_dst(struct cls_rule *rule, const struct in6_addr *dst)
 356 {
 357     cls_rule_set_ipv6_dst_masked(rule, dst, &in6addr_exact);
 358 }
 359
 360 bool
 361 cls_rule_set_ipv6_dst_masked(struct cls_rule *rule, const struct in6_addr *dst,
 362                              const struct in6_addr *mask)
 363 {
 364     if (flow_wildcards_set_ipv6_dst_mask(&rule->wc, mask)) {
 365         rule->flow.ipv6_dst = ipv6_addr_bitand(dst, mask);
 366         return true;
 367     } else {
 368         return false;
 369     }
 370 }
 371
 372 void
 373 cls_rule_set_nd_target(struct cls_rule *rule, const struct in6_addr target)
 374 {
 375     rule->wc.wildcards &= ~FWW_ND_TARGET;
 376     rule->flow.nd_target = target;
 377 }
 378
 379 /* Returns true if 'a' and 'b' have the same priority, wildcard the same
 380  * fields, and have the same values for fixed fields, otherwise false. */
 381 bool
 382 cls_rule_equal(const struct cls_rule *a, const struct cls_rule *b)
 383 {
 384     return (a->priority == b->priority
 385             && flow_wildcards_equal(&a->wc, &b->wc)
 386             && flow_equal(&a->flow, &b->flow));
 387 }
 388
 389 static void
 390 format_ip_netmask(struct ds *s, const char *name, ovs_be32 ip,
 391                   ovs_be32 netmask)
 392 {
 393     if (netmask) {
 394         ds_put_format(s, "%s="IP_FMT, name, IP_ARGS(&ip));
 395         if (netmask != htonl(UINT32_MAX)) {
 396             if (ip_is_cidr(netmask)) {
 397                 int wcbits = ofputil_netmask_to_wcbits(netmask);
 398                 ds_put_format(s, "/%d", 32 - wcbits);
 399             } else {
 400                 ds_put_format(s, "/"IP_FMT, IP_ARGS(&netmask));
 401             }
 402         }
 403         ds_put_char(s, ',');
 404     }
 405 }
 406
 407 static void
 408 format_ipv6_netmask(struct ds *s, const char *name,
 409                     const struct in6_addr *addr,
 410                     const struct in6_addr *netmask)
 411 {
 412     if (!ipv6_mask_is_any(netmask)) {
 413         ds_put_format(s, "%s=", name);
 414         print_ipv6_addr(s, addr);
 415         if (!ipv6_mask_is_exact(netmask)) {
 416             if (ipv6_is_cidr(netmask)) {
 417                 int cidr_bits = ipv6_count_cidr_bits(netmask);
 418                 ds_put_format(s, "/%d", cidr_bits);
 419             } else {
 420                 ds_put_char(s, '/');
 421                 print_ipv6_addr(s, netmask);
 422             }
 423         }
 424         ds_put_char(s, ',');
 425     }
 426 }
 427
 428 void
 429 cls_rule_format(const struct cls_rule *rule, struct ds *s)
 430 {
 431     const struct flow_wildcards *wc = &rule->wc;
 432     size_t start_len = s->length;
 433     flow_wildcards_t w = wc->wildcards;
 434     const struct flow *f = &rule->flow;
 435     bool skip_type = false;
 436     bool skip_proto = false;
 437
 438     int i;
 439
 440     if (rule->priority != OFP_DEFAULT_PRIORITY) {
 441         ds_put_format(s, "priority=%d,", rule->priority);
 442     }
 443
 444     if (!(w & FWW_DL_TYPE)) {
 445         skip_type = true;
 446         if (f->dl_type == htons(ETH_TYPE_IP)) {
 447             if (!(w & FWW_NW_PROTO)) {
 448                 skip_proto = true;
 449                 if (f->nw_proto == IPPROTO_ICMP) {
 450                     ds_put_cstr(s, "icmp,");
 451                 } else if (f->nw_proto == IPPROTO_TCP) {
 452                     ds_put_cstr(s, "tcp,");
 453                 } else if (f->nw_proto == IPPROTO_UDP) {
 454                     ds_put_cstr(s, "udp,");
 455                 } else {
 456                     ds_put_cstr(s, "ip,");
 457                     skip_proto = false;
 458                 }
 459             } else {
 460                 ds_put_cstr(s, "ip,");
 461             }
 462         } else if (f->dl_type == htons(ETH_TYPE_IPV6)) {
 463             if (!(w & FWW_NW_PROTO)) {
 464                 skip_proto = true;
 465                 if (f->nw_proto == IPPROTO_ICMPV6) {
 466                     ds_put_cstr(s, "icmp6,");
 467                 } else if (f->nw_proto == IPPROTO_TCP) {
 468                     ds_put_cstr(s, "tcp6,");
 469                 } else if (f->nw_proto == IPPROTO_UDP) {
 470                     ds_put_cstr(s, "udp6,");
 471                 } else {
 472                     ds_put_cstr(s, "ipv6,");
 473                     skip_proto = false;
 474                 }
 475             } else {
 476                 ds_put_cstr(s, "ipv6,");
 477             }
 478         } else if (f->dl_type == htons(ETH_TYPE_ARP)) {
 479             ds_put_cstr(s, "arp,");
 480         } else {
 481             skip_type = false;
 482         }
 483     }
 484     for (i = 0; i < FLOW_N_REGS; i++) {
 485         switch (wc->reg_masks[i]) {
 486         case 0:
 487             break;
 488         case UINT32_MAX:
 489             ds_put_format(s, "reg%d=0x%"PRIx32",", i, f->regs[i]);
 490             break;
 491         default:
 492             ds_put_format(s, "reg%d=0x%"PRIx32"/0x%"PRIx32",",
 493                           i, f->regs[i], wc->reg_masks[i]);
 494             break;
 495         }
 496     }
 497     switch (wc->tun_id_mask) {
 498     case 0:
 499         break;
 500     case CONSTANT_HTONLL(UINT64_MAX):
 501         ds_put_format(s, "tun_id=%#"PRIx64",", ntohll(f->tun_id));
 502         break;
 503     default:
 504         ds_put_format(s, "tun_id=%#"PRIx64"/%#"PRIx64",",
 505                       ntohll(f->tun_id), ntohll(wc->tun_id_mask));
 506         break;
 507     }
 508     if (!(w & FWW_IN_PORT)) {
 509         ds_put_format(s, "in_port=%"PRIu16",", f->in_port);
 510     }
 511     if (wc->vlan_tci_mask) {
 512         ovs_be16 vid_mask = wc->vlan_tci_mask & htons(VLAN_VID_MASK);
 513         ovs_be16 pcp_mask = wc->vlan_tci_mask & htons(VLAN_PCP_MASK);
 514         ovs_be16 cfi = wc->vlan_tci_mask & htons(VLAN_CFI);
 515
 516         if (cfi && f->vlan_tci & htons(VLAN_CFI)
 517             && (!vid_mask || vid_mask == htons(VLAN_VID_MASK))
 518             && (!pcp_mask || pcp_mask == htons(VLAN_PCP_MASK))
 519             && (vid_mask || pcp_mask)) {
 520             if (vid_mask) {
 521                 ds_put_format(s, "dl_vlan=%"PRIu16",",
 522                               vlan_tci_to_vid(f->vlan_tci));
 523             }
 524             if (pcp_mask) {
 525                 ds_put_format(s, "dl_vlan_pcp=%d,",
 526                               vlan_tci_to_pcp(f->vlan_tci));
 527             }
 528         } else if (wc->vlan_tci_mask == htons(0xffff)) {
 529             ds_put_format(s, "vlan_tci=0x%04"PRIx16",", ntohs(f->vlan_tci));
 530         } else {
 531             ds_put_format(s, "vlan_tci=0x%04"PRIx16"/0x%04"PRIx16",",
 532                           ntohs(f->vlan_tci), ntohs(wc->vlan_tci_mask));
 533         }
 534     }
 535     if (!(w & FWW_DL_SRC)) {
 536         ds_put_format(s, "dl_src="ETH_ADDR_FMT",", ETH_ADDR_ARGS(f->dl_src));
 537     }
 538     switch (w & (FWW_DL_DST | FWW_ETH_MCAST)) {
 539     case 0:
 540         ds_put_format(s, "dl_dst="ETH_ADDR_FMT",", ETH_ADDR_ARGS(f->dl_dst));
 541         break;
 542     case FWW_DL_DST:
 543         ds_put_format(s, "dl_dst="ETH_ADDR_FMT"/01:00:00:00:00:00,",
 544                       ETH_ADDR_ARGS(f->dl_dst));
 545         break;
 546     case FWW_ETH_MCAST:
 547         ds_put_format(s, "dl_dst="ETH_ADDR_FMT"/fe:ff:ff:ff:ff:ff,",
 548                       ETH_ADDR_ARGS(f->dl_dst));
 549         break;
 550     case FWW_DL_DST | FWW_ETH_MCAST:
 551         break;
 552     }
 553     if (!skip_type && !(w & FWW_DL_TYPE)) {
 554         ds_put_format(s, "dl_type=0x%04"PRIx16",", ntohs(f->dl_type));
 555     }
 556     if (f->dl_type == htons(ETH_TYPE_IPV6)) {
 557         format_ipv6_netmask(s, "ipv6_src", &f->ipv6_src, &wc->ipv6_src_mask);
 558         format_ipv6_netmask(s, "ipv6_dst", &f->ipv6_dst, &wc->ipv6_dst_mask);
 559     } else {
 560         format_ip_netmask(s, "nw_src", f->nw_src, wc->nw_src_mask);
 561         format_ip_netmask(s, "nw_dst", f->nw_dst, wc->nw_dst_mask);
 562     }
 563     if (!skip_proto && !(w & FWW_NW_PROTO)) {
 564         if (f->dl_type == htons(ETH_TYPE_ARP)) {
 565             ds_put_format(s, "opcode=%"PRIu8",", f->nw_proto);
 566         } else {
 567             ds_put_format(s, "nw_proto=%"PRIu8",", f->nw_proto);
 568         }
 569     }
 570     if (f->dl_type == htons(ETH_TYPE_ARP)) {
 571         if (!(w & FWW_ARP_SHA)) {
 572             ds_put_format(s, "arp_sha="ETH_ADDR_FMT",",
 573                     ETH_ADDR_ARGS(f->arp_sha));
 574         }
 575         if (!(w & FWW_ARP_THA)) {
 576             ds_put_format(s, "arp_tha="ETH_ADDR_FMT",",
 577                     ETH_ADDR_ARGS(f->arp_tha));
 578         }
 579     }
 580     if (!(w & FWW_NW_TOS)) {
 581         ds_put_format(s, "nw_tos=%"PRIu8",", f->nw_tos);
 582     }
 583     if (f->nw_proto == IPPROTO_ICMP) {
 584         if (!(w & FWW_TP_SRC)) {
 585             ds_put_format(s, "icmp_type=%"PRIu16",", ntohs(f->tp_src));
 586         }
 587         if (!(w & FWW_TP_DST)) {
 588             ds_put_format(s, "icmp_code=%"PRIu16",", ntohs(f->tp_dst));
 589         }
 590     } else if (f->nw_proto == IPPROTO_ICMPV6) {
 591         if (!(w & FWW_TP_SRC)) {
 592             ds_put_format(s, "icmp_type=%"PRIu16",", ntohs(f->tp_src));
 593         }
 594         if (!(w & FWW_TP_DST)) {
 595             ds_put_format(s, "icmp_code=%"PRIu16",", ntohs(f->tp_dst));
 596         }
 597         if (!(w & FWW_ND_TARGET)) {
 598             ds_put_cstr(s, "nd_target=");
 599             print_ipv6_addr(s, &f->nd_target);
 600             ds_put_char(s, ',');
 601         }
 602         if (!(w & FWW_ARP_SHA)) {
 603             ds_put_format(s, "nd_sll="ETH_ADDR_FMT",",
 604                     ETH_ADDR_ARGS(f->arp_sha));
 605         }
 606         if (!(w & FWW_ARP_THA)) {
 607             ds_put_format(s, "nd_tll="ETH_ADDR_FMT",",
 608                     ETH_ADDR_ARGS(f->arp_tha));
 609         }
 610    } else {
 611         if (!(w & FWW_TP_SRC)) {
 612             ds_put_format(s, "tp_src=%"PRIu16",", ntohs(f->tp_src));
 613         }
 614         if (!(w & FWW_TP_DST)) {
 615             ds_put_format(s, "tp_dst=%"PRIu16",", ntohs(f->tp_dst));
 616         }
 617     }
 618
 619     if (s->length > start_len && ds_last(s) == ',') {
 620         s->length--;
 621     }
 622 }
 623
 624 /* Converts 'rule' to a string and returns the string.  The caller must free
 625  * the string (with free()). */
 626 char *
 627 cls_rule_to_string(const struct cls_rule *rule)
 628 {
 629     struct ds s = DS_EMPTY_INITIALIZER;
 630     cls_rule_format(rule, &s);
 631     return ds_steal_cstr(&s);
 632 }
 633
 634 void
 635 cls_rule_print(const struct cls_rule *rule)
 636 {
 637     char *s = cls_rule_to_string(rule);
 638     puts(s);
 639     free(s);
 640 }
 641 \f
 642 /* Initializes 'cls' as a classifier that initially contains no classification
 643  * rules. */
 644 void
 645 classifier_init(struct classifier *cls)
 646 {
 647     cls->n_rules = 0;
 648     hmap_init(&cls->tables);
 649 }
 650
 651 /* Destroys 'cls'.  Rules within 'cls', if any, are not freed; this is the
 652  * caller's responsibility. */
 653 void
 654 classifier_destroy(struct classifier *cls)
 655 {
 656     if (cls) {
 657         struct cls_table *table, *next_table;
 658
 659         HMAP_FOR_EACH_SAFE (table, next_table, hmap_node, &cls->tables) {
 660             hmap_destroy(&table->rules);
 661             hmap_remove(&cls->tables, &table->hmap_node);
 662             free(table);
 663         }
 664         hmap_destroy(&cls->tables);
 665     }
 666 }
 667
 668 /* Returns true if 'cls' contains no classification rules, false otherwise. */
 669 bool
 670 classifier_is_empty(const struct classifier *cls)
 671 {
 672     return cls->n_rules == 0;
 673 }
 674
 675 /* Returns the number of rules in 'classifier'. */
 676 int
 677 classifier_count(const struct classifier *cls)
 678 {
 679     return cls->n_rules;
 680 }
 681
 682 /* Inserts 'rule' into 'cls'.  Until 'rule' is removed from 'cls', the caller
 683  * must not modify or free it.
 684  *
 685  * If 'cls' already contains an identical rule (including wildcards, values of
 686  * fixed fields, and priority), replaces the old rule by 'rule' and returns the
 687  * rule that was replaced.  The caller takes ownership of the returned rule and
 688  * is thus responsible for freeing it, etc., as necessary.
 689  *
 690  * Returns NULL if 'cls' does not contain a rule with an identical key, after
 691  * inserting the new rule.  In this case, no rules are displaced by the new
 692  * rule, even rules that cannot have any effect because the new rule matches a
 693  * superset of their flows and has higher priority. */
 694 struct cls_rule *
 695 classifier_replace(struct classifier *cls, struct cls_rule *rule)
 696 {
 697     struct cls_rule *old_rule;
 698     struct cls_table *table;
 699
 700     table = find_table(cls, &rule->wc);
 701     if (!table) {
 702         table = insert_table(cls, &rule->wc);
 703     }
 704
 705     old_rule = insert_rule(table, rule);
 706     if (!old_rule) {
 707         table->n_table_rules++;
 708         cls->n_rules++;
 709     }
 710     return old_rule;
 711 }
 712
 713 /* Inserts 'rule' into 'cls'.  Until 'rule' is removed from 'cls', the caller
 714  * must not modify or free it.
 715  *
 716  * 'cls' must not contain an identical rule (including wildcards, values of
 717  * fixed fields, and priority).  Use classifier_find_rule_exactly() to find
 718  * such a rule. */
 719 void
 720 classifier_insert(struct classifier *cls, struct cls_rule *rule)
 721 {
 722     struct cls_rule *displaced_rule = classifier_replace(cls, rule);
 723     assert(!displaced_rule);
 724 }
 725
 726 /* Removes 'rule' from 'cls'.  It is the caller's responsibility to free
 727  * 'rule', if this is desirable. */
 728 void
 729 classifier_remove(struct classifier *cls, struct cls_rule *rule)
 730 {
 731     struct cls_rule *head;
 732     struct cls_table *table;
 733
 734     table = find_table(cls, &rule->wc);
 735     head = find_equal(table, &rule->flow, rule->hmap_node.hash);
 736     if (head != rule) {
 737         list_remove(&rule->list);
 738     } else if (list_is_empty(&rule->list)) {
 739         hmap_remove(&table->rules, &rule->hmap_node);
 740     } else {
 741         struct cls_rule *next = CONTAINER_OF(rule->list.next,
 742                                              struct cls_rule, list);
 743
 744         list_remove(&rule->list);
 745         hmap_replace(&table->rules, &rule->hmap_node, &next->hmap_node);
 746     }
 747
 748     if (--table->n_table_rules == 0) {
 749         destroy_table(cls, table);
 750     }
 751
 752     cls->n_rules--;
 753 }
 754
 755 /* Finds and returns the highest-priority rule in 'cls' that matches 'flow'.
 756  * Returns a null pointer if no rules in 'cls' match 'flow'.  If multiple rules
 757  * of equal priority match 'flow', returns one arbitrarily. */
 758 struct cls_rule *
 759 classifier_lookup(const struct classifier *cls, const struct flow *flow)
 760 {
 761     struct cls_table *table;
 762     struct cls_rule *best;
 763
 764     best = NULL;
 765     HMAP_FOR_EACH (table, hmap_node, &cls->tables) {
 766         struct cls_rule *rule = find_match(table, flow);
 767         if (rule && (!best || rule->priority > best->priority)) {
 768             best = rule;
 769         }
 770     }
 771     return best;
 772 }
 773
 774 /* Finds and returns a rule in 'cls' with exactly the same priority and
 775  * matching criteria as 'target'.  Returns a null pointer if 'cls' doesn't
 776  * contain an exact match. */
 777 struct cls_rule *
 778 classifier_find_rule_exactly(const struct classifier *cls,
 779                              const struct cls_rule *target)
 780 {
 781     struct cls_rule *head, *rule;
 782     struct cls_table *table;
 783
 784     table = find_table(cls, &target->wc);
 785     if (!table) {
 786         return NULL;
 787     }
 788
 789     head = find_equal(table, &target->flow, flow_hash(&target->flow, 0));
 790     FOR_EACH_RULE_IN_LIST (rule, head) {
 791         if (target->priority >= rule->priority) {
 792             return target->priority == rule->priority ? rule : NULL;
 793         }
 794     }
 795     return NULL;
 796 }
 797
 798 /* Checks if 'target' would overlap any other rule in 'cls'.  Two rules are
 799  * considered to overlap if both rules have the same priority and a packet
 800  * could match both. */
 801 bool
 802 classifier_rule_overlaps(const struct classifier *cls,
 803                          const struct cls_rule *target)
 804 {
 805     struct cls_table *table;
 806
 807     HMAP_FOR_EACH (table, hmap_node, &cls->tables) {
 808         struct flow_wildcards wc;
 809         struct cls_rule *head;
 810
 811         flow_wildcards_combine(&wc, &target->wc, &table->wc);
 812         HMAP_FOR_EACH (head, hmap_node, &table->rules) {
 813             struct cls_rule *rule;
 814
 815             FOR_EACH_RULE_IN_LIST (rule, head) {
 816                 if (rule->priority == target->priority
 817                     && flow_equal_except(&target->flow, &rule->flow, &wc)) {
 818                     return true;
 819                 }
 820             }
 821         }
 822     }
 823
 824     return false;
 825 }
 826 \f
 827 /* Iteration. */
 828
 829 static bool
 830 rule_matches(const struct cls_rule *rule, const struct cls_rule *target)
 831 {
 832     return (!target
 833             || flow_equal_except(&rule->flow, &target->flow, &target->wc));
 834 }
 835
 836 static struct cls_rule *
 837 search_table(const struct cls_table *table, const struct cls_rule *target)
 838 {
 839     if (!target || !flow_wildcards_has_extra(&table->wc, &target->wc)) {
 840         struct cls_rule *rule;
 841
 842         HMAP_FOR_EACH (rule, hmap_node, &table->rules) {
 843             if (rule_matches(rule, target)) {
 844                 return rule;
 845             }
 846         }
 847     }
 848     return NULL;
 849 }
 850
 851 /* Initializes 'cursor' for iterating through 'cls' rules that exactly match
 852  * 'target' or are more specific than 'target'.  That is, a given 'rule'
 853  * matches 'target' if, for every field:
 854  *
 855  *   - 'target' and 'rule' specify the same (non-wildcarded) value for the
 856  *     field, or
 857  *
 858  *   - 'target' wildcards the field,
 859  *
 860  * but not if:
 861  *
 862  *   - 'target' and 'rule' specify different values for the field, or
 863  *
 864  *   - 'target' specifies a value for the field but 'rule' wildcards it.
 865  *
 866  * Equivalently, the truth table for whether a field matches is:
 867  *
 868  *                                     rule
 869  *
 870  *                             wildcard    exact
 871  *                            +---------+---------+
 872  *                   t   wild |   yes   |   yes   |
 873  *                   a   card |         |         |
 874  *                   r        +---------+---------+
 875  *                   g  exact |    no   |if values|
 876  *                   e        |         |are equal|
 877  *                   t        +---------+---------+
 878  *
 879  * This is the matching rule used by OpenFlow 1.0 non-strict OFPT_FLOW_MOD
 880  * commands and by OpenFlow 1.0 aggregate and flow stats.
 881  *
 882  * Ignores target->priority.
 883  *
 884  * 'target' may be NULL to iterate over every rule in 'cls'. */
 885 void
 886 cls_cursor_init(struct cls_cursor *cursor, const struct classifier *cls,
 887                 const struct cls_rule *target)
 888 {
 889     cursor->cls = cls;
 890     cursor->target = target;
 891 }
 892
 893 /* Returns the first matching cls_rule in 'cursor''s iteration, or a null
 894  * pointer if there are no matches. */
 895 struct cls_rule *
 896 cls_cursor_first(struct cls_cursor *cursor)
 897 {
 898     struct cls_table *table;
 899
 900     for (table = classifier_first_table(cursor->cls); table;
 901          table = classifier_next_table(cursor->cls, table)) {
 902         struct cls_rule *rule = search_table(table, cursor->target);
 903         if (rule) {
 904             cursor->table = table;
 905             return rule;
 906         }
 907     }
 908
 909     return NULL;
 910 }
 911
 912 /* Returns the next matching cls_rule in 'cursor''s iteration, or a null
 913  * pointer if there are no more matches. */
 914 struct cls_rule *
 915 cls_cursor_next(struct cls_cursor *cursor, struct cls_rule *rule)
 916 {
 917     const struct cls_table *table;
 918     struct cls_rule *next;
 919
 920     next = next_rule_in_list__(rule);
 921     if (next->priority < rule->priority) {
 922         return next;
 923     }
 924
 925     /* 'next' is the head of the list, that is, the rule that is included in
 926      * the table's hmap.  (This is important when the classifier contains rules
 927      * that differ only in priority.) */
 928     rule = next;
 929     HMAP_FOR_EACH_CONTINUE (rule, hmap_node, &cursor->table->rules) {
 930         if (rule_matches(rule, cursor->target)) {
 931             return rule;
 932         }
 933     }
 934
 935     for (table = classifier_next_table(cursor->cls, cursor->table); table;
 936          table = classifier_next_table(cursor->cls, table)) {
 937         rule = search_table(table, cursor->target);
 938         if (rule) {
 939             cursor->table = table;
 940             return rule;
 941         }
 942     }
 943
 944     return NULL;
 945 }
 946 \f
 947 static struct cls_table *
 948 find_table(const struct classifier *cls, const struct flow_wildcards *wc)
 949 {
 950     struct cls_table *table;
 951
 952     HMAP_FOR_EACH_IN_BUCKET (table, hmap_node, flow_wildcards_hash(wc),
 953                              &cls->tables) {
 954         if (flow_wildcards_equal(wc, &table->wc)) {
 955             return table;
 956         }
 957     }
 958     return NULL;
 959 }
 960
 961 static struct cls_table *
 962 insert_table(struct classifier *cls, const struct flow_wildcards *wc)
 963 {
 964     struct cls_table *table;
 965
 966     table = xzalloc(sizeof *table);
 967     hmap_init(&table->rules);
 968     table->wc = *wc;
 969     hmap_insert(&cls->tables, &table->hmap_node, flow_wildcards_hash(wc));
 970
 971     return table;
 972 }
 973
 974 static struct cls_table *
 975 classifier_first_table(const struct classifier *cls)
 976 {
 977     return cls_table_from_hmap_node(hmap_first(&cls->tables));
 978 }
 979
 980 static struct cls_table *
 981 classifier_next_table(const struct classifier *cls,
 982                       const struct cls_table *table)
 983 {
 984     return cls_table_from_hmap_node(hmap_next(&cls->tables,
 985                                               &table->hmap_node));
 986 }
 987
 988 static void
 989 destroy_table(struct classifier *cls, struct cls_table *table)
 990 {
 991     hmap_remove(&cls->tables, &table->hmap_node);
 992     hmap_destroy(&table->rules);
 993     free(table);
 994 }
 995
 996 static struct cls_rule *
 997 find_match(const struct cls_table *table, const struct flow *flow)
 998 {
 999     struct cls_rule *rule;
1000     struct flow f;
1001
1002     f = *flow;
1003     zero_wildcards(&f, &table->wc);
1004     HMAP_FOR_EACH_WITH_HASH (rule, hmap_node, flow_hash(&f, 0),
1005                              &table->rules) {
1006         if (flow_equal(&f, &rule->flow)) {
1007             return rule;
1008         }
1009     }
1010     return NULL;
1011 }
1012
1013 static struct cls_rule *
1014 find_equal(struct cls_table *table, const struct flow *flow, uint32_t hash)
1015 {
1016     struct cls_rule *head;
1017
1018     HMAP_FOR_EACH_WITH_HASH (head, hmap_node, hash, &table->rules) {
1019         if (flow_equal(&head->flow, flow)) {
1020             return head;
1021         }
1022     }
1023     return NULL;
1024 }
1025
1026 static struct cls_rule *
1027 insert_rule(struct cls_table *table, struct cls_rule *new)
1028 {
1029     struct cls_rule *head;
1030
1031     new->hmap_node.hash = flow_hash(&new->flow, 0);
1032
1033     head = find_equal(table, &new->flow, new->hmap_node.hash);
1034     if (!head) {
1035         hmap_insert(&table->rules, &new->hmap_node, new->hmap_node.hash);
1036         list_init(&new->list);
1037         return NULL;
1038     } else {
1039         /* Scan the list for the insertion point that will keep the list in
1040          * order of decreasing priority. */
1041         struct cls_rule *rule;
1042         FOR_EACH_RULE_IN_LIST (rule, head) {
1043             if (new->priority >= rule->priority) {
1044                 if (rule == head) {
1045                     /* 'new' is the new highest-priority flow in the list. */
1046                     hmap_replace(&table->rules,
1047                                  &rule->hmap_node, &new->hmap_node);
1048                 }
1049
1050                 if (new->priority == rule->priority) {
1051                     list_replace(&new->list, &rule->list);
1052                     return rule;
1053                 } else {
1054                     list_insert(&rule->list, &new->list);
1055                     return NULL;
1056                 }
1057             }
1058         }
1059
1060         /* Insert 'new' at the end of the list. */
1061         list_push_back(&head->list, &new->list);
1062         return NULL;
1063     }
1064 }
1065
1066 static struct cls_rule *
1067 next_rule_in_list__(struct cls_rule *rule)
1068 {
1069     struct cls_rule *next = OBJECT_CONTAINING(rule->list.next, next, list);
1070     return next;
1071 }
1072
1073 static struct cls_rule *
1074 next_rule_in_list(struct cls_rule *rule)
1075 {
1076     struct cls_rule *next = next_rule_in_list__(rule);
1077     return next->priority < rule->priority ? next : NULL;
1078 }
1079
1080 static bool
1081 ipv6_equal_except(const struct in6_addr *a, const struct in6_addr *b,
1082                   const struct in6_addr *mask)
1083 {
1084     int i;
1085
1086 #ifdef s6_addr32
1087     for (i=0; i<4; i++) {
1088         if ((a->s6_addr32[i] ^ b->s6_addr32[i]) & mask->s6_addr32[i]) {
1089             return false;
1090         }
1091     }
1092 #else
1093     for (i=0; i<16; i++) {
1094         if ((a->s6_addr[i] ^ b->s6_addr[i]) & mask->s6_addr[i]) {
1095             return false;
1096         }
1097     }
1098 #endif
1099
1100     return true;
1101 }
1102
1103
1104 static bool
1105 flow_equal_except(const struct flow *a, const struct flow *b,
1106                   const struct flow_wildcards *wildcards)
1107 {
1108     const flow_wildcards_t wc = wildcards->wildcards;
1109     int i;
1110
1111     BUILD_ASSERT_DECL(FLOW_SIG_SIZE == 100 + FLOW_N_REGS * 4);
1112
1113     for (i = 0; i < FLOW_N_REGS; i++) {
1114         if ((a->regs[i] ^ b->regs[i]) & wildcards->reg_masks[i]) {
1115             return false;
1116         }
1117     }
1118
1119     return (!((a->tun_id ^ b->tun_id) & wildcards->tun_id_mask)
1120             && !((a->nw_src ^ b->nw_src) & wildcards->nw_src_mask)
1121             && !((a->nw_dst ^ b->nw_dst) & wildcards->nw_dst_mask)
1122             && (wc & FWW_IN_PORT || a->in_port == b->in_port)
1123             && !((a->vlan_tci ^ b->vlan_tci) & wildcards->vlan_tci_mask)
1124             && (wc & FWW_DL_TYPE || a->dl_type == b->dl_type)
1125             && (wc & FWW_TP_SRC || a->tp_src == b->tp_src)
1126             && (wc & FWW_TP_DST || a->tp_dst == b->tp_dst)
1127             && (wc & FWW_DL_SRC || eth_addr_equals(a->dl_src, b->dl_src))
1128             && (wc & FWW_DL_DST
1129                 || (!((a->dl_dst[0] ^ b->dl_dst[0]) & 0xfe)
1130                     && a->dl_dst[1] == b->dl_dst[1]
1131                     && a->dl_dst[2] == b->dl_dst[2]
1132                     && a->dl_dst[3] == b->dl_dst[3]
1133                     && a->dl_dst[4] == b->dl_dst[4]
1134                     && a->dl_dst[5] == b->dl_dst[5]))
1135             && (wc & FWW_ETH_MCAST
1136                 || !((a->dl_dst[0] ^ b->dl_dst[0]) & 0x01))
1137             && (wc & FWW_NW_PROTO || a->nw_proto == b->nw_proto)
1138             && (wc & FWW_NW_TOS || a->nw_tos == b->nw_tos)
1139             && (wc & FWW_ARP_SHA || eth_addr_equals(a->arp_sha, b->arp_sha))
1140             && (wc & FWW_ARP_THA || eth_addr_equals(a->arp_tha, b->arp_tha))
1141             && ipv6_equal_except(&a->ipv6_src, &b->ipv6_src,
1142                     &wildcards->ipv6_src_mask)
1143             && ipv6_equal_except(&a->ipv6_dst, &b->ipv6_dst,
1144                     &wildcards->ipv6_dst_mask)
1145             && (wc & FWW_ND_TARGET
1146                 || ipv6_addr_equals(&a->nd_target, &b->nd_target)));
1147 }
1148
1149 static void
1150 zero_wildcards(struct flow *flow, const struct flow_wildcards *wildcards)
1151 {
1152     const flow_wildcards_t wc = wildcards->wildcards;
1153     int i;
1154
1155     BUILD_ASSERT_DECL(FLOW_SIG_SIZE == 100 + 4 * FLOW_N_REGS);
1156
1157     for (i = 0; i < FLOW_N_REGS; i++) {
1158         flow->regs[i] &= wildcards->reg_masks[i];
1159     }
1160     flow->tun_id &= wildcards->tun_id_mask;
1161     flow->nw_src &= wildcards->nw_src_mask;
1162     flow->nw_dst &= wildcards->nw_dst_mask;
1163     if (wc & FWW_IN_PORT) {
1164         flow->in_port = 0;
1165     }
1166     flow->vlan_tci &= wildcards->vlan_tci_mask;
1167     if (wc & FWW_DL_TYPE) {
1168         flow->dl_type = 0;
1169     }
1170     if (wc & FWW_TP_SRC) {
1171         flow->tp_src = 0;
1172     }
1173     if (wc & FWW_TP_DST) {
1174         flow->tp_dst = 0;
1175     }
1176     if (wc & FWW_DL_SRC) {
1177         memset(flow->dl_src, 0, sizeof flow->dl_src);
1178     }
1179     if (wc & FWW_DL_DST) {
1180         flow->dl_dst[0] &= 0x01;
1181         memset(&flow->dl_dst[1], 0, 5);
1182     }
1183     if (wc & FWW_ETH_MCAST) {
1184         flow->dl_dst[0] &= 0xfe;
1185     }
1186     if (wc & FWW_NW_PROTO) {
1187         flow->nw_proto = 0;
1188     }
1189     if (wc & FWW_NW_TOS) {
1190         flow->nw_tos = 0;
1191     }
1192     if (wc & FWW_ARP_SHA) {
1193         memset(flow->arp_sha, 0, sizeof flow->arp_sha);
1194     }
1195     if (wc & FWW_ARP_THA) {
1196         memset(flow->arp_tha, 0, sizeof flow->arp_tha);
1197     }
1198     flow->ipv6_src = ipv6_addr_bitand(&flow->ipv6_src,
1199             &wildcards->ipv6_src_mask);
1200     flow->ipv6_dst = ipv6_addr_bitand(&flow->ipv6_dst,
1201             &wildcards->ipv6_dst_mask);
1202     if (wc & FWW_ND_TARGET) {
1203         memset(&flow->nd_target, 0, sizeof flow->nd_target);
1204     }
1205 }