Merge branch 'mainstream'
[sliver-openvswitch.git] / lib / dpif.c
1 /*
2  * Copyright (c) 2008, 2009, 2010, 2011, 2012, 2013 Nicira, Inc.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at:
7  *
8  *     http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #include <config.h>
18 #include "dpif-provider.h"
19
20 #include <ctype.h>
21 #include <errno.h>
22 #include <inttypes.h>
23 #include <stdlib.h>
24 #include <string.h>
25
26 #include "coverage.h"
27 #include "dynamic-string.h"
28 #include "flow.h"
29 #include "netdev.h"
30 #include "netlink.h"
31 #include "odp-execute.h"
32 #include "odp-util.h"
33 #include "ofp-errors.h"
34 #include "ofp-print.h"
35 #include "ofp-util.h"
36 #include "ofpbuf.h"
37 #include "packets.h"
38 #include "poll-loop.h"
39 #include "shash.h"
40 #include "sset.h"
41 #include "timeval.h"
42 #include "util.h"
43 #include "valgrind.h"
44 #include "vlog.h"
45
46 VLOG_DEFINE_THIS_MODULE(dpif);
47
48 COVERAGE_DEFINE(dpif_destroy);
49 COVERAGE_DEFINE(dpif_port_add);
50 COVERAGE_DEFINE(dpif_port_del);
51 COVERAGE_DEFINE(dpif_flow_flush);
52 COVERAGE_DEFINE(dpif_flow_get);
53 COVERAGE_DEFINE(dpif_flow_put);
54 COVERAGE_DEFINE(dpif_flow_del);
55 COVERAGE_DEFINE(dpif_execute);
56 COVERAGE_DEFINE(dpif_purge);
57 COVERAGE_DEFINE(dpif_execute_with_help);
58
59 static const struct dpif_class *base_dpif_classes[] = {
60 #ifdef LINUX_DATAPATH
61     &dpif_linux_class,
62 #endif
63     &dpif_netdev_class,
64     &dpif_planetlab_class,
65 };
66
67 struct registered_dpif_class {
68     const struct dpif_class *dpif_class;
69     int refcount;
70 };
71 static struct shash dpif_classes = SHASH_INITIALIZER(&dpif_classes);
72 static struct sset dpif_blacklist = SSET_INITIALIZER(&dpif_blacklist);
73
74 /* Protects 'dpif_classes', including the refcount, and 'dpif_blacklist'. */
75 static struct ovs_mutex dpif_mutex = OVS_MUTEX_INITIALIZER;
76
77 /* Rate limit for individual messages going to or from the datapath, output at
78  * DBG level.  This is very high because, if these are enabled, it is because
79  * we really need to see them. */
80 static struct vlog_rate_limit dpmsg_rl = VLOG_RATE_LIMIT_INIT(600, 600);
81
82 /* Not really much point in logging many dpif errors. */
83 static struct vlog_rate_limit error_rl = VLOG_RATE_LIMIT_INIT(60, 5);
84
85 static void log_flow_message(const struct dpif *dpif, int error,
86                              const char *operation,
87                              const struct nlattr *key, size_t key_len,
88                              const struct nlattr *mask, size_t mask_len,
89                              const struct dpif_flow_stats *stats,
90                              const struct nlattr *actions, size_t actions_len);
91 static void log_operation(const struct dpif *, const char *operation,
92                           int error);
93 static bool should_log_flow_message(int error);
94 static void log_flow_put_message(struct dpif *, const struct dpif_flow_put *,
95                                  int error);
96 static void log_flow_del_message(struct dpif *, const struct dpif_flow_del *,
97                                  int error);
98 static void log_execute_message(struct dpif *, const struct dpif_execute *,
99                                 int error);
100
101 static void
102 dp_initialize(void)
103 {
104     static struct ovsthread_once once = OVSTHREAD_ONCE_INITIALIZER;
105
106     if (ovsthread_once_start(&once)) {
107         int i;
108
109         for (i = 0; i < ARRAY_SIZE(base_dpif_classes); i++) {
110             dp_register_provider(base_dpif_classes[i]);
111         }
112         ovsthread_once_done(&once);
113     }
114 }
115
116 static int
117 dp_register_provider__(const struct dpif_class *new_class)
118 {
119     struct registered_dpif_class *registered_class;
120
121     if (sset_contains(&dpif_blacklist, new_class->type)) {
122         VLOG_DBG("attempted to register blacklisted provider: %s",
123                  new_class->type);
124         return EINVAL;
125     }
126
127     if (shash_find(&dpif_classes, new_class->type)) {
128         VLOG_WARN("attempted to register duplicate datapath provider: %s",
129                   new_class->type);
130         return EEXIST;
131     }
132
133     registered_class = xmalloc(sizeof *registered_class);
134     registered_class->dpif_class = new_class;
135     registered_class->refcount = 0;
136
137     shash_add(&dpif_classes, new_class->type, registered_class);
138
139     return 0;
140 }
141
142 /* Registers a new datapath provider.  After successful registration, new
143  * datapaths of that type can be opened using dpif_open(). */
144 int
145 dp_register_provider(const struct dpif_class *new_class)
146 {
147     int error;
148
149     ovs_mutex_lock(&dpif_mutex);
150     error = dp_register_provider__(new_class);
151     ovs_mutex_unlock(&dpif_mutex);
152
153     return error;
154 }
155
156 /* Unregisters a datapath provider.  'type' must have been previously
157  * registered and not currently be in use by any dpifs.  After unregistration
158  * new datapaths of that type cannot be opened using dpif_open(). */
159 static int
160 dp_unregister_provider__(const char *type)
161 {
162     struct shash_node *node;
163     struct registered_dpif_class *registered_class;
164
165     node = shash_find(&dpif_classes, type);
166     if (!node) {
167         VLOG_WARN("attempted to unregister a datapath provider that is not "
168                   "registered: %s", type);
169         return EAFNOSUPPORT;
170     }
171
172     registered_class = node->data;
173     if (registered_class->refcount) {
174         VLOG_WARN("attempted to unregister in use datapath provider: %s", type);
175         return EBUSY;
176     }
177
178     shash_delete(&dpif_classes, node);
179     free(registered_class);
180
181     return 0;
182 }
183
184 /* Unregisters a datapath provider.  'type' must have been previously
185  * registered and not currently be in use by any dpifs.  After unregistration
186  * new datapaths of that type cannot be opened using dpif_open(). */
187 int
188 dp_unregister_provider(const char *type)
189 {
190     int error;
191
192     dp_initialize();
193
194     ovs_mutex_lock(&dpif_mutex);
195     error = dp_unregister_provider__(type);
196     ovs_mutex_unlock(&dpif_mutex);
197
198     return error;
199 }
200
201 /* Blacklists a provider.  Causes future calls of dp_register_provider() with
202  * a dpif_class which implements 'type' to fail. */
203 void
204 dp_blacklist_provider(const char *type)
205 {
206     ovs_mutex_lock(&dpif_mutex);
207     sset_add(&dpif_blacklist, type);
208     ovs_mutex_unlock(&dpif_mutex);
209 }
210
211 /* Clears 'types' and enumerates the types of all currently registered datapath
212  * providers into it.  The caller must first initialize the sset. */
213 void
214 dp_enumerate_types(struct sset *types)
215 {
216     struct shash_node *node;
217
218     dp_initialize();
219     sset_clear(types);
220
221     ovs_mutex_lock(&dpif_mutex);
222     SHASH_FOR_EACH(node, &dpif_classes) {
223         const struct registered_dpif_class *registered_class = node->data;
224         sset_add(types, registered_class->dpif_class->type);
225     }
226     ovs_mutex_unlock(&dpif_mutex);
227 }
228
229 static void
230 dp_class_unref(struct registered_dpif_class *rc)
231 {
232     ovs_mutex_lock(&dpif_mutex);
233     ovs_assert(rc->refcount);
234     rc->refcount--;
235     ovs_mutex_unlock(&dpif_mutex);
236 }
237
238 static struct registered_dpif_class *
239 dp_class_lookup(const char *type)
240 {
241     struct registered_dpif_class *rc;
242
243     ovs_mutex_lock(&dpif_mutex);
244     rc = shash_find_data(&dpif_classes, type);
245     if (rc) {
246         rc->refcount++;
247     }
248     ovs_mutex_unlock(&dpif_mutex);
249
250     return rc;
251 }
252
253 /* Clears 'names' and enumerates the names of all known created datapaths with
254  * the given 'type'.  The caller must first initialize the sset.  Returns 0 if
255  * successful, otherwise a positive errno value.
256  *
257  * Some kinds of datapaths might not be practically enumerable.  This is not
258  * considered an error. */
259 int
260 dp_enumerate_names(const char *type, struct sset *names)
261 {
262     struct registered_dpif_class *registered_class;
263     const struct dpif_class *dpif_class;
264     int error;
265
266     dp_initialize();
267     sset_clear(names);
268
269     registered_class = dp_class_lookup(type);
270     if (!registered_class) {
271         VLOG_WARN("could not enumerate unknown type: %s", type);
272         return EAFNOSUPPORT;
273     }
274
275     dpif_class = registered_class->dpif_class;
276     error = dpif_class->enumerate ? dpif_class->enumerate(names) : 0;
277     if (error) {
278         VLOG_WARN("failed to enumerate %s datapaths: %s", dpif_class->type,
279                    ovs_strerror(error));
280     }
281     dp_class_unref(registered_class);
282
283     return error;
284 }
285
286 /* Parses 'datapath_name_', which is of the form [type@]name into its
287  * component pieces.  'name' and 'type' must be freed by the caller.
288  *
289  * The returned 'type' is normalized, as if by dpif_normalize_type(). */
290 void
291 dp_parse_name(const char *datapath_name_, char **name, char **type)
292 {
293     char *datapath_name = xstrdup(datapath_name_);
294     char *separator;
295
296     separator = strchr(datapath_name, '@');
297     if (separator) {
298         *separator = '\0';
299         *type = datapath_name;
300         *name = xstrdup(dpif_normalize_type(separator + 1));
301     } else {
302         *name = datapath_name;
303         *type = xstrdup(dpif_normalize_type(NULL));
304     }
305 }
306
307 static int
308 do_open(const char *name, const char *type, bool create, struct dpif **dpifp)
309 {
310     struct dpif *dpif = NULL;
311     int error;
312     struct registered_dpif_class *registered_class;
313
314     dp_initialize();
315
316     type = dpif_normalize_type(type);
317     registered_class = dp_class_lookup(type);
318     if (!registered_class) {
319         VLOG_WARN("could not create datapath %s of unknown type %s", name,
320                   type);
321         error = EAFNOSUPPORT;
322         goto exit;
323     }
324
325     error = registered_class->dpif_class->open(registered_class->dpif_class,
326                                                name, create, &dpif);
327     if (!error) {
328         ovs_assert(dpif->dpif_class == registered_class->dpif_class);
329     } else {
330         dp_class_unref(registered_class);
331     }
332
333 exit:
334     *dpifp = error ? NULL : dpif;
335     return error;
336 }
337
338 /* Tries to open an existing datapath named 'name' and type 'type'.  Will fail
339  * if no datapath with 'name' and 'type' exists.  'type' may be either NULL or
340  * the empty string to specify the default system type.  Returns 0 if
341  * successful, otherwise a positive errno value.  On success stores a pointer
342  * to the datapath in '*dpifp', otherwise a null pointer. */
343 int
344 dpif_open(const char *name, const char *type, struct dpif **dpifp)
345 {
346     return do_open(name, type, false, dpifp);
347 }
348
349 /* Tries to create and open a new datapath with the given 'name' and 'type'.
350  * 'type' may be either NULL or the empty string to specify the default system
351  * type.  Will fail if a datapath with 'name' and 'type' already exists.
352  * Returns 0 if successful, otherwise a positive errno value.  On success
353  * stores a pointer to the datapath in '*dpifp', otherwise a null pointer. */
354 int
355 dpif_create(const char *name, const char *type, struct dpif **dpifp)
356 {
357     return do_open(name, type, true, dpifp);
358 }
359
360 /* Tries to open a datapath with the given 'name' and 'type', creating it if it
361  * does not exist.  'type' may be either NULL or the empty string to specify
362  * the default system type.  Returns 0 if successful, otherwise a positive
363  * errno value. On success stores a pointer to the datapath in '*dpifp',
364  * otherwise a null pointer. */
365 int
366 dpif_create_and_open(const char *name, const char *type, struct dpif **dpifp)
367 {
368     int error;
369
370     error = dpif_create(name, type, dpifp);
371     if (error == EEXIST || error == EBUSY) {
372         error = dpif_open(name, type, dpifp);
373         if (error) {
374             VLOG_WARN("datapath %s already exists but cannot be opened: %s",
375                       name, ovs_strerror(error));
376         }
377     } else if (error) {
378         VLOG_WARN("failed to create datapath %s: %s",
379                   name, ovs_strerror(error));
380     }
381     return error;
382 }
383
384 /* Closes and frees the connection to 'dpif'.  Does not destroy the datapath
385  * itself; call dpif_delete() first, instead, if that is desirable. */
386 void
387 dpif_close(struct dpif *dpif)
388 {
389     if (dpif) {
390         struct registered_dpif_class *rc;
391
392         rc = shash_find_data(&dpif_classes, dpif->dpif_class->type);
393         dpif_uninit(dpif, true);
394         dp_class_unref(rc);
395     }
396 }
397
398 /* Performs periodic work needed by 'dpif'. */
399 void
400 dpif_run(struct dpif *dpif)
401 {
402     if (dpif->dpif_class->run) {
403         dpif->dpif_class->run(dpif);
404     }
405 }
406
407 /* Arranges for poll_block() to wake up when dp_run() needs to be called for
408  * 'dpif'. */
409 void
410 dpif_wait(struct dpif *dpif)
411 {
412     if (dpif->dpif_class->wait) {
413         dpif->dpif_class->wait(dpif);
414     }
415 }
416
417 /* Returns the name of datapath 'dpif' prefixed with the type
418  * (for use in log messages). */
419 const char *
420 dpif_name(const struct dpif *dpif)
421 {
422     return dpif->full_name;
423 }
424
425 /* Returns the name of datapath 'dpif' without the type
426  * (for use in device names). */
427 const char *
428 dpif_base_name(const struct dpif *dpif)
429 {
430     return dpif->base_name;
431 }
432
433 /* Returns the type of datapath 'dpif'. */
434 const char *
435 dpif_type(const struct dpif *dpif)
436 {
437     return dpif->dpif_class->type;
438 }
439
440 /* Returns the fully spelled out name for the given datapath 'type'.
441  *
442  * Normalized type string can be compared with strcmp().  Unnormalized type
443  * string might be the same even if they have different spellings. */
444 const char *
445 dpif_normalize_type(const char *type)
446 {
447     return type && type[0] ? type : "system";
448 }
449
450 /* Destroys the datapath that 'dpif' is connected to, first removing all of its
451  * ports.  After calling this function, it does not make sense to pass 'dpif'
452  * to any functions other than dpif_name() or dpif_close(). */
453 int
454 dpif_delete(struct dpif *dpif)
455 {
456     int error;
457
458     COVERAGE_INC(dpif_destroy);
459
460     error = dpif->dpif_class->destroy(dpif);
461     log_operation(dpif, "delete", error);
462     return error;
463 }
464
465 /* Retrieves statistics for 'dpif' into 'stats'.  Returns 0 if successful,
466  * otherwise a positive errno value. */
467 int
468 dpif_get_dp_stats(const struct dpif *dpif, struct dpif_dp_stats *stats)
469 {
470     int error = dpif->dpif_class->get_stats(dpif, stats);
471     if (error) {
472         memset(stats, 0, sizeof *stats);
473     }
474     log_operation(dpif, "get_stats", error);
475     return error;
476 }
477
478 const char *
479 dpif_port_open_type(const char *datapath_type, const char *port_type)
480 {
481     struct registered_dpif_class *rc;
482
483     datapath_type = dpif_normalize_type(datapath_type);
484
485     ovs_mutex_lock(&dpif_mutex);
486     rc = shash_find_data(&dpif_classes, datapath_type);
487     if (rc && rc->dpif_class->port_open_type) {
488         port_type = rc->dpif_class->port_open_type(rc->dpif_class, port_type);
489     }
490     ovs_mutex_unlock(&dpif_mutex);
491
492     return port_type;
493 }
494
495 /* Attempts to add 'netdev' as a port on 'dpif'.  If 'port_nop' is
496  * non-null and its value is not ODPP_NONE, then attempts to use the
497  * value as the port number.
498  *
499  * If successful, returns 0 and sets '*port_nop' to the new port's port
500  * number (if 'port_nop' is non-null).  On failure, returns a positive
501  * errno value and sets '*port_nop' to ODPP_NONE (if 'port_nop' is
502  * non-null). */
503 int
504 dpif_port_add(struct dpif *dpif, struct netdev *netdev, odp_port_t *port_nop)
505 {
506     const char *netdev_name = netdev_get_name(netdev);
507     odp_port_t port_no = ODPP_NONE;
508     int error;
509
510     COVERAGE_INC(dpif_port_add);
511
512     if (port_nop) {
513         port_no = *port_nop;
514     }
515
516     error = dpif->dpif_class->port_add(dpif, netdev, &port_no);
517     if (!error) {
518         VLOG_DBG_RL(&dpmsg_rl, "%s: added %s as port %"PRIu32,
519                     dpif_name(dpif), netdev_name, port_no);
520     } else {
521         VLOG_WARN_RL(&error_rl, "%s: failed to add %s as port: %s",
522                      dpif_name(dpif), netdev_name, ovs_strerror(error));
523         port_no = ODPP_NONE;
524     }
525     if (port_nop) {
526         *port_nop = port_no;
527     }
528     return error;
529 }
530
531 /* Attempts to remove 'dpif''s port number 'port_no'.  Returns 0 if successful,
532  * otherwise a positive errno value. */
533 int
534 dpif_port_del(struct dpif *dpif, odp_port_t port_no)
535 {
536     int error;
537
538     COVERAGE_INC(dpif_port_del);
539
540     error = dpif->dpif_class->port_del(dpif, port_no);
541     if (!error) {
542         VLOG_DBG_RL(&dpmsg_rl, "%s: port_del(%"PRIu32")",
543                     dpif_name(dpif), port_no);
544     } else {
545         log_operation(dpif, "port_del", error);
546     }
547     return error;
548 }
549
550 /* Makes a deep copy of 'src' into 'dst'. */
551 void
552 dpif_port_clone(struct dpif_port *dst, const struct dpif_port *src)
553 {
554     dst->name = xstrdup(src->name);
555     dst->type = xstrdup(src->type);
556     dst->port_no = src->port_no;
557 }
558
559 /* Frees memory allocated to members of 'dpif_port'.
560  *
561  * Do not call this function on a dpif_port obtained from
562  * dpif_port_dump_next(): that function retains ownership of the data in the
563  * dpif_port. */
564 void
565 dpif_port_destroy(struct dpif_port *dpif_port)
566 {
567     free(dpif_port->name);
568     free(dpif_port->type);
569 }
570
571 /* Checks if port named 'devname' exists in 'dpif'.  If so, returns
572  * true; otherwise, returns false. */
573 bool
574 dpif_port_exists(const struct dpif *dpif, const char *devname)
575 {
576     int error = dpif->dpif_class->port_query_by_name(dpif, devname, NULL);
577     if (error != 0 && error != ENOENT && error != ENODEV) {
578         VLOG_WARN_RL(&error_rl, "%s: failed to query port %s: %s",
579                      dpif_name(dpif), devname, ovs_strerror(error));
580     }
581
582     return !error;
583 }
584
585 /* Looks up port number 'port_no' in 'dpif'.  On success, returns 0 and
586  * initializes '*port' appropriately; on failure, returns a positive errno
587  * value.
588  *
589  * The caller owns the data in 'port' and must free it with
590  * dpif_port_destroy() when it is no longer needed. */
591 int
592 dpif_port_query_by_number(const struct dpif *dpif, odp_port_t port_no,
593                           struct dpif_port *port)
594 {
595     int error = dpif->dpif_class->port_query_by_number(dpif, port_no, port);
596     if (!error) {
597         VLOG_DBG_RL(&dpmsg_rl, "%s: port %"PRIu32" is device %s",
598                     dpif_name(dpif), port_no, port->name);
599     } else {
600         memset(port, 0, sizeof *port);
601         VLOG_WARN_RL(&error_rl, "%s: failed to query port %"PRIu32": %s",
602                      dpif_name(dpif), port_no, ovs_strerror(error));
603     }
604     return error;
605 }
606
607 /* Looks up port named 'devname' in 'dpif'.  On success, returns 0 and
608  * initializes '*port' appropriately; on failure, returns a positive errno
609  * value.
610  *
611  * The caller owns the data in 'port' and must free it with
612  * dpif_port_destroy() when it is no longer needed. */
613 int
614 dpif_port_query_by_name(const struct dpif *dpif, const char *devname,
615                         struct dpif_port *port)
616 {
617     int error = dpif->dpif_class->port_query_by_name(dpif, devname, port);
618     if (!error) {
619         VLOG_DBG_RL(&dpmsg_rl, "%s: device %s is on port %"PRIu32,
620                     dpif_name(dpif), devname, port->port_no);
621     } else {
622         memset(port, 0, sizeof *port);
623
624         /* For ENOENT or ENODEV we use DBG level because the caller is probably
625          * interested in whether 'dpif' actually has a port 'devname', so that
626          * it's not an issue worth logging if it doesn't.  Other errors are
627          * uncommon and more likely to indicate a real problem. */
628         VLOG_RL(&error_rl,
629                 error == ENOENT || error == ENODEV ? VLL_DBG : VLL_WARN,
630                 "%s: failed to query port %s: %s",
631                 dpif_name(dpif), devname, ovs_strerror(error));
632     }
633     return error;
634 }
635
636 /* Returns one greater than the maximum port number accepted in flow
637  * actions. */
638 uint32_t
639 dpif_get_max_ports(const struct dpif *dpif)
640 {
641     return dpif->dpif_class->get_max_ports(dpif);
642 }
643
644 /* Returns the Netlink PID value to supply in OVS_ACTION_ATTR_USERSPACE actions
645  * as the OVS_USERSPACE_ATTR_PID attribute's value, for use in flows whose
646  * packets arrived on port 'port_no'.
647  *
648  * A 'port_no' of ODPP_NONE is a special case: it returns a reserved PID, not
649  * allocated to any port, that the client may use for special purposes.
650  *
651  * The return value is only meaningful when DPIF_UC_ACTION has been enabled in
652  * the 'dpif''s listen mask.  It is allowed to change when DPIF_UC_ACTION is
653  * disabled and then re-enabled, so a client that does that must be prepared to
654  * update all of the flows that it installed that contain
655  * OVS_ACTION_ATTR_USERSPACE actions. */
656 uint32_t
657 dpif_port_get_pid(const struct dpif *dpif, odp_port_t port_no)
658 {
659     return (dpif->dpif_class->port_get_pid
660             ? (dpif->dpif_class->port_get_pid)(dpif, port_no)
661             : 0);
662 }
663
664 /* Looks up port number 'port_no' in 'dpif'.  On success, returns 0 and copies
665  * the port's name into the 'name_size' bytes in 'name', ensuring that the
666  * result is null-terminated.  On failure, returns a positive errno value and
667  * makes 'name' the empty string. */
668 int
669 dpif_port_get_name(struct dpif *dpif, odp_port_t port_no,
670                    char *name, size_t name_size)
671 {
672     struct dpif_port port;
673     int error;
674
675     ovs_assert(name_size > 0);
676
677     error = dpif_port_query_by_number(dpif, port_no, &port);
678     if (!error) {
679         ovs_strlcpy(name, port.name, name_size);
680         dpif_port_destroy(&port);
681     } else {
682         *name = '\0';
683     }
684     return error;
685 }
686
687 /* Initializes 'dump' to begin dumping the ports in a dpif.
688  *
689  * This function provides no status indication.  An error status for the entire
690  * dump operation is provided when it is completed by calling
691  * dpif_port_dump_done().
692  */
693 void
694 dpif_port_dump_start(struct dpif_port_dump *dump, const struct dpif *dpif)
695 {
696     dump->dpif = dpif;
697     dump->error = dpif->dpif_class->port_dump_start(dpif, &dump->state);
698     log_operation(dpif, "port_dump_start", dump->error);
699 }
700
701 /* Attempts to retrieve another port from 'dump', which must have been
702  * initialized with dpif_port_dump_start().  On success, stores a new dpif_port
703  * into 'port' and returns true.  On failure, returns false.
704  *
705  * Failure might indicate an actual error or merely that the last port has been
706  * dumped.  An error status for the entire dump operation is provided when it
707  * is completed by calling dpif_port_dump_done().
708  *
709  * The dpif owns the data stored in 'port'.  It will remain valid until at
710  * least the next time 'dump' is passed to dpif_port_dump_next() or
711  * dpif_port_dump_done(). */
712 bool
713 dpif_port_dump_next(struct dpif_port_dump *dump, struct dpif_port *port)
714 {
715     const struct dpif *dpif = dump->dpif;
716
717     if (dump->error) {
718         return false;
719     }
720
721     dump->error = dpif->dpif_class->port_dump_next(dpif, dump->state, port);
722     if (dump->error == EOF) {
723         VLOG_DBG_RL(&dpmsg_rl, "%s: dumped all ports", dpif_name(dpif));
724     } else {
725         log_operation(dpif, "port_dump_next", dump->error);
726     }
727
728     if (dump->error) {
729         dpif->dpif_class->port_dump_done(dpif, dump->state);
730         return false;
731     }
732     return true;
733 }
734
735 /* Completes port table dump operation 'dump', which must have been initialized
736  * with dpif_port_dump_start().  Returns 0 if the dump operation was
737  * error-free, otherwise a positive errno value describing the problem. */
738 int
739 dpif_port_dump_done(struct dpif_port_dump *dump)
740 {
741     const struct dpif *dpif = dump->dpif;
742     if (!dump->error) {
743         dump->error = dpif->dpif_class->port_dump_done(dpif, dump->state);
744         log_operation(dpif, "port_dump_done", dump->error);
745     }
746     return dump->error == EOF ? 0 : dump->error;
747 }
748
749 /* Polls for changes in the set of ports in 'dpif'.  If the set of ports in
750  * 'dpif' has changed, this function does one of the following:
751  *
752  * - Stores the name of the device that was added to or deleted from 'dpif' in
753  *   '*devnamep' and returns 0.  The caller is responsible for freeing
754  *   '*devnamep' (with free()) when it no longer needs it.
755  *
756  * - Returns ENOBUFS and sets '*devnamep' to NULL.
757  *
758  * This function may also return 'false positives', where it returns 0 and
759  * '*devnamep' names a device that was not actually added or deleted or it
760  * returns ENOBUFS without any change.
761  *
762  * Returns EAGAIN if the set of ports in 'dpif' has not changed.  May also
763  * return other positive errno values to indicate that something has gone
764  * wrong. */
765 int
766 dpif_port_poll(const struct dpif *dpif, char **devnamep)
767 {
768     int error = dpif->dpif_class->port_poll(dpif, devnamep);
769     if (error) {
770         *devnamep = NULL;
771     }
772     return error;
773 }
774
775 /* Arranges for the poll loop to wake up when port_poll(dpif) will return a
776  * value other than EAGAIN. */
777 void
778 dpif_port_poll_wait(const struct dpif *dpif)
779 {
780     dpif->dpif_class->port_poll_wait(dpif);
781 }
782
783 /* Extracts the flow stats for a packet.  The 'flow' and 'packet'
784  * arguments must have been initialized through a call to flow_extract().
785  * 'used' is stored into stats->used. */
786 void
787 dpif_flow_stats_extract(const struct flow *flow, const struct ofpbuf *packet,
788                         long long int used, struct dpif_flow_stats *stats)
789 {
790     stats->tcp_flags = packet_get_tcp_flags(packet, flow);
791     stats->n_bytes = packet->size;
792     stats->n_packets = 1;
793     stats->used = used;
794 }
795
796 /* Appends a human-readable representation of 'stats' to 's'. */
797 void
798 dpif_flow_stats_format(const struct dpif_flow_stats *stats, struct ds *s)
799 {
800     ds_put_format(s, "packets:%"PRIu64", bytes:%"PRIu64", used:",
801                   stats->n_packets, stats->n_bytes);
802     if (stats->used) {
803         ds_put_format(s, "%.3fs", (time_msec() - stats->used) / 1000.0);
804     } else {
805         ds_put_format(s, "never");
806     }
807     if (stats->tcp_flags) {
808         ds_put_cstr(s, ", flags:");
809         packet_format_tcp_flags(s, stats->tcp_flags);
810     }
811 }
812
813 /* Deletes all flows from 'dpif'.  Returns 0 if successful, otherwise a
814  * positive errno value.  */
815 int
816 dpif_flow_flush(struct dpif *dpif)
817 {
818     int error;
819
820     COVERAGE_INC(dpif_flow_flush);
821
822     error = dpif->dpif_class->flow_flush(dpif);
823     log_operation(dpif, "flow_flush", error);
824     return error;
825 }
826
827 /* Queries 'dpif' for a flow entry.  The flow is specified by the Netlink
828  * attributes with types OVS_KEY_ATTR_* in the 'key_len' bytes starting at
829  * 'key'.
830  *
831  * Returns 0 if successful.  If no flow matches, returns ENOENT.  On other
832  * failure, returns a positive errno value.
833  *
834  * If 'actionsp' is nonnull, then on success '*actionsp' will be set to an
835  * ofpbuf owned by the caller that contains the Netlink attributes for the
836  * flow's actions.  The caller must free the ofpbuf (with ofpbuf_delete()) when
837  * it is no longer needed.
838  *
839  * If 'stats' is nonnull, then on success it will be updated with the flow's
840  * statistics. */
841 int
842 dpif_flow_get(const struct dpif *dpif,
843               const struct nlattr *key, size_t key_len,
844               struct ofpbuf **actionsp, struct dpif_flow_stats *stats)
845 {
846     int error;
847
848     COVERAGE_INC(dpif_flow_get);
849
850     error = dpif->dpif_class->flow_get(dpif, key, key_len, actionsp, stats);
851     if (error) {
852         if (actionsp) {
853             *actionsp = NULL;
854         }
855         if (stats) {
856             memset(stats, 0, sizeof *stats);
857         }
858     }
859     if (should_log_flow_message(error)) {
860         const struct nlattr *actions;
861         size_t actions_len;
862
863         if (!error && actionsp) {
864             actions = (*actionsp)->data;
865             actions_len = (*actionsp)->size;
866         } else {
867             actions = NULL;
868             actions_len = 0;
869         }
870         log_flow_message(dpif, error, "flow_get", key, key_len,
871                          NULL, 0, stats, actions, actions_len);
872     }
873     return error;
874 }
875
876 static int
877 dpif_flow_put__(struct dpif *dpif, const struct dpif_flow_put *put)
878 {
879     int error;
880
881     COVERAGE_INC(dpif_flow_put);
882     ovs_assert(!(put->flags & ~(DPIF_FP_CREATE | DPIF_FP_MODIFY
883                                 | DPIF_FP_ZERO_STATS)));
884
885     error = dpif->dpif_class->flow_put(dpif, put);
886     if (error && put->stats) {
887         memset(put->stats, 0, sizeof *put->stats);
888     }
889     log_flow_put_message(dpif, put, error);
890     return error;
891 }
892
893 /* Adds or modifies a flow in 'dpif'.  The flow is specified by the Netlink
894  * attribute OVS_FLOW_ATTR_KEY with types OVS_KEY_ATTR_* in the 'key_len' bytes
895  * starting at 'key', and OVS_FLOW_ATTR_MASK with types of OVS_KEY_ATTR_* in the
896  * 'mask_len' bytes starting at 'mask'. The associated actions are specified by
897  * the Netlink attributes with types OVS_ACTION_ATTR_* in the 'actions_len'
898  * bytes starting at 'actions'.
899  *
900  * - If the flow's key does not exist in 'dpif', then the flow will be added if
901  *   'flags' includes DPIF_FP_CREATE.  Otherwise the operation will fail with
902  *   ENOENT.
903  *
904  *   If the operation succeeds, then 'stats', if nonnull, will be zeroed.
905  *
906  * - If the flow's key does exist in 'dpif', then the flow's actions will be
907  *   updated if 'flags' includes DPIF_FP_MODIFY.  Otherwise the operation will
908  *   fail with EEXIST.  If the flow's actions are updated, then its statistics
909  *   will be zeroed if 'flags' includes DPIF_FP_ZERO_STATS, and left as-is
910  *   otherwise.
911  *
912  *   If the operation succeeds, then 'stats', if nonnull, will be set to the
913  *   flow's statistics before the update.
914  */
915 int
916 dpif_flow_put(struct dpif *dpif, enum dpif_flow_put_flags flags,
917               const struct nlattr *key, size_t key_len,
918               const struct nlattr *mask, size_t mask_len,
919               const struct nlattr *actions, size_t actions_len,
920               struct dpif_flow_stats *stats)
921 {
922     struct dpif_flow_put put;
923
924     put.flags = flags;
925     put.key = key;
926     put.key_len = key_len;
927     put.mask = mask;
928     put.mask_len = mask_len;
929     put.actions = actions;
930     put.actions_len = actions_len;
931     put.stats = stats;
932     return dpif_flow_put__(dpif, &put);
933 }
934
935 static int
936 dpif_flow_del__(struct dpif *dpif, struct dpif_flow_del *del)
937 {
938     int error;
939
940     COVERAGE_INC(dpif_flow_del);
941
942     error = dpif->dpif_class->flow_del(dpif, del);
943     if (error && del->stats) {
944         memset(del->stats, 0, sizeof *del->stats);
945     }
946     log_flow_del_message(dpif, del, error);
947     return error;
948 }
949
950 /* Deletes a flow from 'dpif' and returns 0, or returns ENOENT if 'dpif' does
951  * not contain such a flow.  The flow is specified by the Netlink attributes
952  * with types OVS_KEY_ATTR_* in the 'key_len' bytes starting at 'key'.
953  *
954  * If the operation succeeds, then 'stats', if nonnull, will be set to the
955  * flow's statistics before its deletion. */
956 int
957 dpif_flow_del(struct dpif *dpif,
958               const struct nlattr *key, size_t key_len,
959               struct dpif_flow_stats *stats)
960 {
961     struct dpif_flow_del del;
962
963     del.key = key;
964     del.key_len = key_len;
965     del.stats = stats;
966     return dpif_flow_del__(dpif, &del);
967 }
968
969 /* Initializes 'dump' to begin dumping the flows in a dpif.
970  *
971  * This function provides no status indication.  An error status for the entire
972  * dump operation is provided when it is completed by calling
973  * dpif_flow_dump_done().
974  */
975 void
976 dpif_flow_dump_start(struct dpif_flow_dump *dump, const struct dpif *dpif)
977 {
978     dump->dpif = dpif;
979     dump->error = dpif->dpif_class->flow_dump_start(dpif, &dump->state);
980     log_operation(dpif, "flow_dump_start", dump->error);
981 }
982
983 /* Attempts to retrieve another flow from 'dump', which must have been
984  * initialized with dpif_flow_dump_start().  On success, updates the output
985  * parameters as described below and returns true.  Otherwise, returns false.
986  * Failure might indicate an actual error or merely the end of the flow table.
987  * An error status for the entire dump operation is provided when it is
988  * completed by calling dpif_flow_dump_done().
989  *
990  * On success, if 'key' and 'key_len' are nonnull then '*key' and '*key_len'
991  * will be set to Netlink attributes with types OVS_KEY_ATTR_* representing the
992  * dumped flow's key.  If 'actions' and 'actions_len' are nonnull then they are
993  * set to Netlink attributes with types OVS_ACTION_ATTR_* representing the
994  * dumped flow's actions.  If 'stats' is nonnull then it will be set to the
995  * dumped flow's statistics.
996  *
997  * All of the returned data is owned by 'dpif', not by the caller, and the
998  * caller must not modify or free it.  'dpif' guarantees that it remains
999  * accessible and unchanging until at least the next call to 'flow_dump_next'
1000  * or 'flow_dump_done' for 'dump'. */
1001 bool
1002 dpif_flow_dump_next(struct dpif_flow_dump *dump,
1003                     const struct nlattr **key, size_t *key_len,
1004                     const struct nlattr **mask, size_t *mask_len,
1005                     const struct nlattr **actions, size_t *actions_len,
1006                     const struct dpif_flow_stats **stats)
1007 {
1008     const struct dpif *dpif = dump->dpif;
1009     int error = dump->error;
1010
1011     if (!error) {
1012         error = dpif->dpif_class->flow_dump_next(dpif, dump->state,
1013                                                  key, key_len,
1014                                                  mask, mask_len,
1015                                                  actions, actions_len,
1016                                                  stats);
1017         if (error) {
1018             dpif->dpif_class->flow_dump_done(dpif, dump->state);
1019         }
1020     }
1021     if (error) {
1022         if (key) {
1023             *key = NULL;
1024             *key_len = 0;
1025         }
1026         if (mask) {
1027             *mask = NULL;
1028             *mask_len = 0;
1029         }
1030         if (actions) {
1031             *actions = NULL;
1032             *actions_len = 0;
1033         }
1034         if (stats) {
1035             *stats = NULL;
1036         }
1037     }
1038     if (!dump->error) {
1039         if (error == EOF) {
1040             VLOG_DBG_RL(&dpmsg_rl, "%s: dumped all flows", dpif_name(dpif));
1041         } else if (should_log_flow_message(error)) {
1042             log_flow_message(dpif, error, "flow_dump",
1043                              key ? *key : NULL, key ? *key_len : 0,
1044                              mask ? *mask : NULL, mask ? *mask_len : 0,
1045                              stats ? *stats : NULL, actions ? *actions : NULL,
1046                              actions ? *actions_len : 0);
1047         }
1048     }
1049     dump->error = error;
1050     return !error;
1051 }
1052
1053 /* Completes flow table dump operation 'dump', which must have been initialized
1054  * with dpif_flow_dump_start().  Returns 0 if the dump operation was
1055  * error-free, otherwise a positive errno value describing the problem. */
1056 int
1057 dpif_flow_dump_done(struct dpif_flow_dump *dump)
1058 {
1059     const struct dpif *dpif = dump->dpif;
1060     if (!dump->error) {
1061         dump->error = dpif->dpif_class->flow_dump_done(dpif, dump->state);
1062         log_operation(dpif, "flow_dump_done", dump->error);
1063     }
1064     return dump->error == EOF ? 0 : dump->error;
1065 }
1066
1067 struct dpif_execute_helper_aux {
1068     struct dpif *dpif;
1069     int error;
1070 };
1071
1072 static void
1073 dpif_execute_helper_execute__(void *aux_, struct ofpbuf *packet,
1074                               const struct flow *flow,
1075                               const struct nlattr *actions, size_t actions_len)
1076 {
1077     struct dpif_execute_helper_aux *aux = aux_;
1078     struct dpif_execute execute;
1079     struct odputil_keybuf key_stub;
1080     struct ofpbuf key;
1081     int error;
1082
1083     ofpbuf_use_stub(&key, &key_stub, sizeof key_stub);
1084     odp_flow_key_from_flow(&key, flow, flow->in_port.odp_port);
1085
1086     execute.key = key.data;
1087     execute.key_len = key.size;
1088     execute.actions = actions;
1089     execute.actions_len = actions_len;
1090     execute.packet = packet;
1091     execute.needs_help = false;
1092
1093     error = aux->dpif->dpif_class->execute(aux->dpif, &execute);
1094     if (error) {
1095         aux->error = error;
1096     }
1097 }
1098
1099 static void
1100 dpif_execute_helper_output_cb(void *aux, struct ofpbuf *packet,
1101                               const struct flow *flow, odp_port_t out_port)
1102 {
1103     uint64_t actions_stub[DIV_ROUND_UP(NL_A_U32_SIZE, 8)];
1104     struct ofpbuf actions;
1105
1106     ofpbuf_use_stack(&actions, actions_stub, sizeof actions_stub);
1107     nl_msg_put_u32(&actions, OVS_ACTION_ATTR_OUTPUT, odp_to_u32(out_port));
1108
1109     dpif_execute_helper_execute__(aux, packet, flow,
1110                                   actions.data, actions.size);
1111 }
1112
1113 static void
1114 dpif_execute_helper_userspace_cb(void *aux, struct ofpbuf *packet,
1115                                  const struct flow *flow,
1116                                  const struct nlattr *action)
1117 {
1118     dpif_execute_helper_execute__(aux, packet, flow,
1119                                   action, NLA_ALIGN(action->nla_len));
1120 }
1121
1122 /* Executes 'execute' by performing most of the actions in userspace and
1123  * passing the fully constructed packets to 'dpif' for output and userspace
1124  * actions.
1125  *
1126  * This helps with actions that a given 'dpif' doesn't implement directly. */
1127 static int
1128 dpif_execute_with_help(struct dpif *dpif, const struct dpif_execute *execute)
1129 {
1130     struct dpif_execute_helper_aux aux;
1131     enum odp_key_fitness fit;
1132     struct ofpbuf *packet;
1133     struct flow flow;
1134
1135     COVERAGE_INC(dpif_execute_with_help);
1136
1137     fit = odp_flow_key_to_flow(execute->key, execute->key_len, &flow);
1138     if (fit == ODP_FIT_ERROR) {
1139         return EINVAL;
1140     }
1141
1142     aux.dpif = dpif;
1143     aux.error = 0;
1144
1145     packet = ofpbuf_clone_with_headroom(execute->packet, VLAN_HEADER_LEN);
1146     odp_execute_actions(&aux, packet, &flow,
1147                         execute->actions, execute->actions_len,
1148                         dpif_execute_helper_output_cb,
1149                         dpif_execute_helper_userspace_cb);
1150     ofpbuf_delete(packet);
1151
1152     return aux.error;
1153 }
1154
1155 static int
1156 dpif_execute__(struct dpif *dpif, const struct dpif_execute *execute)
1157 {
1158     int error;
1159
1160     COVERAGE_INC(dpif_execute);
1161     if (execute->actions_len > 0) {
1162         error = (execute->needs_help
1163                  ? dpif_execute_with_help(dpif, execute)
1164                  : dpif->dpif_class->execute(dpif, execute));
1165     } else {
1166         error = 0;
1167     }
1168
1169     log_execute_message(dpif, execute, error);
1170
1171     return error;
1172 }
1173
1174 /* Causes 'dpif' to perform the 'actions_len' bytes of actions in 'actions' on
1175  * the Ethernet frame specified in 'packet' taken from the flow specified in
1176  * the 'key_len' bytes of 'key'.  ('key' is mostly redundant with 'packet', but
1177  * it contains some metadata that cannot be recovered from 'packet', such as
1178  * tunnel and in_port.)
1179  *
1180  * Some dpif providers do not implement every action.  The Linux kernel
1181  * datapath, in particular, does not implement ARP field modification.  If
1182  * 'needs_help' is true, the dpif layer executes in userspace all of the
1183  * actions that it can, and for OVS_ACTION_ATTR_OUTPUT and
1184  * OVS_ACTION_ATTR_USERSPACE actions it passes the packet through to the dpif
1185  * implementation.
1186  *
1187  * This works even if 'actions_len' is too long for a Netlink attribute.
1188  *
1189  * Returns 0 if successful, otherwise a positive errno value. */
1190 int
1191 dpif_execute(struct dpif *dpif,
1192              const struct nlattr *key, size_t key_len,
1193              const struct nlattr *actions, size_t actions_len,
1194              const struct ofpbuf *buf,
1195              bool needs_help)
1196 {
1197     struct dpif_execute execute;
1198
1199     execute.key = key;
1200     execute.key_len = key_len;
1201     execute.actions = actions;
1202     execute.actions_len = actions_len;
1203     execute.packet = buf;
1204     execute.needs_help = needs_help || nl_attr_oversized(actions_len);
1205     return dpif_execute__(dpif, &execute);
1206 }
1207
1208 /* Executes each of the 'n_ops' operations in 'ops' on 'dpif', in the order in
1209  * which they are specified, placing each operation's results in the "output"
1210  * members documented in comments.
1211  *
1212  * This function exists because some datapaths can perform batched operations
1213  * faster than individual operations. */
1214 void
1215 dpif_operate(struct dpif *dpif, struct dpif_op **ops, size_t n_ops)
1216 {
1217     if (dpif->dpif_class->operate) {
1218         while (n_ops > 0) {
1219             size_t chunk;
1220
1221             /* Count 'chunk', the number of ops that can be executed without
1222              * needing any help.  Ops that need help should be rare, so we
1223              * expect this to ordinarily be 'n_ops', that is, all the ops. */
1224             for (chunk = 0; chunk < n_ops; chunk++) {
1225                 struct dpif_op *op = ops[chunk];
1226
1227                 if (op->type == DPIF_OP_EXECUTE && op->u.execute.needs_help) {
1228                     break;
1229                 }
1230             }
1231
1232             if (chunk) {
1233                 /* Execute a chunk full of ops that the dpif provider can
1234                  * handle itself, without help. */
1235                 size_t i;
1236
1237                 dpif->dpif_class->operate(dpif, ops, chunk);
1238
1239                 for (i = 0; i < chunk; i++) {
1240                     struct dpif_op *op = ops[i];
1241
1242                     switch (op->type) {
1243                     case DPIF_OP_FLOW_PUT:
1244                         log_flow_put_message(dpif, &op->u.flow_put, op->error);
1245                         break;
1246
1247                     case DPIF_OP_FLOW_DEL:
1248                         log_flow_del_message(dpif, &op->u.flow_del, op->error);
1249                         break;
1250
1251                     case DPIF_OP_EXECUTE:
1252                         log_execute_message(dpif, &op->u.execute, op->error);
1253                         break;
1254                     }
1255                 }
1256
1257                 ops += chunk;
1258                 n_ops -= chunk;
1259             } else {
1260                 /* Help the dpif provider to execute one op. */
1261                 struct dpif_op *op = ops[0];
1262
1263                 op->error = dpif_execute__(dpif, &op->u.execute);
1264                 ops++;
1265                 n_ops--;
1266             }
1267         }
1268     } else {
1269         size_t i;
1270
1271         for (i = 0; i < n_ops; i++) {
1272             struct dpif_op *op = ops[i];
1273
1274             switch (op->type) {
1275             case DPIF_OP_FLOW_PUT:
1276                 op->error = dpif_flow_put__(dpif, &op->u.flow_put);
1277                 break;
1278
1279             case DPIF_OP_FLOW_DEL:
1280                 op->error = dpif_flow_del__(dpif, &op->u.flow_del);
1281                 break;
1282
1283             case DPIF_OP_EXECUTE:
1284                 op->error = dpif_execute__(dpif, &op->u.execute);
1285                 break;
1286
1287             default:
1288                 NOT_REACHED();
1289             }
1290         }
1291     }
1292 }
1293
1294 /* Returns a string that represents 'type', for use in log messages. */
1295 const char *
1296 dpif_upcall_type_to_string(enum dpif_upcall_type type)
1297 {
1298     switch (type) {
1299     case DPIF_UC_MISS: return "miss";
1300     case DPIF_UC_ACTION: return "action";
1301     case DPIF_N_UC_TYPES: default: return "<unknown>";
1302     }
1303 }
1304
1305 /* Enables or disables receiving packets with dpif_recv() on 'dpif'.  Returns 0
1306  * if successful, otherwise a positive errno value.
1307  *
1308  * Turning packet receive off and then back on may change the Netlink PID
1309  * assignments returned by dpif_port_get_pid().  If the client does this, it
1310  * must update all of the flows that have OVS_ACTION_ATTR_USERSPACE actions
1311  * using the new PID assignment. */
1312 int
1313 dpif_recv_set(struct dpif *dpif, bool enable)
1314 {
1315     int error = dpif->dpif_class->recv_set(dpif, enable);
1316     log_operation(dpif, "recv_set", error);
1317     return error;
1318 }
1319
1320 /* Polls for an upcall from 'dpif'.  If successful, stores the upcall into
1321  * '*upcall', using 'buf' for storage.  Should only be called if
1322  * dpif_recv_set() has been used to enable receiving packets on 'dpif'.
1323  *
1324  * 'upcall->packet' and 'upcall->key' point into data in the caller-provided
1325  * 'buf', so their memory cannot be freed separately from 'buf'.  (This is
1326  * hardly a great way to do things but it works out OK for the dpif providers
1327  * and clients that exist so far.)
1328  *
1329  * Returns 0 if successful, otherwise a positive errno value.  Returns EAGAIN
1330  * if no upcall is immediately available. */
1331 int
1332 dpif_recv(struct dpif *dpif, struct dpif_upcall *upcall, struct ofpbuf *buf)
1333 {
1334     int error = dpif->dpif_class->recv(dpif, upcall, buf);
1335     if (!error && !VLOG_DROP_DBG(&dpmsg_rl)) {
1336         struct ds flow;
1337         char *packet;
1338
1339         packet = ofp_packet_to_string(upcall->packet->data,
1340                                       upcall->packet->size);
1341
1342         ds_init(&flow);
1343         odp_flow_key_format(upcall->key, upcall->key_len, &flow);
1344
1345         VLOG_DBG("%s: %s upcall:\n%s\n%s",
1346                  dpif_name(dpif), dpif_upcall_type_to_string(upcall->type),
1347                  ds_cstr(&flow), packet);
1348
1349         ds_destroy(&flow);
1350         free(packet);
1351     } else if (error && error != EAGAIN) {
1352         log_operation(dpif, "recv", error);
1353     }
1354     return error;
1355 }
1356
1357 /* Discards all messages that would otherwise be received by dpif_recv() on
1358  * 'dpif'. */
1359 void
1360 dpif_recv_purge(struct dpif *dpif)
1361 {
1362     COVERAGE_INC(dpif_purge);
1363     if (dpif->dpif_class->recv_purge) {
1364         dpif->dpif_class->recv_purge(dpif);
1365     }
1366 }
1367
1368 /* Arranges for the poll loop to wake up when 'dpif' has a message queued to be
1369  * received with dpif_recv(). */
1370 void
1371 dpif_recv_wait(struct dpif *dpif)
1372 {
1373     dpif->dpif_class->recv_wait(dpif);
1374 }
1375
1376 /* Obtains the NetFlow engine type and engine ID for 'dpif' into '*engine_type'
1377  * and '*engine_id', respectively. */
1378 void
1379 dpif_get_netflow_ids(const struct dpif *dpif,
1380                      uint8_t *engine_type, uint8_t *engine_id)
1381 {
1382     *engine_type = dpif->netflow_engine_type;
1383     *engine_id = dpif->netflow_engine_id;
1384 }
1385
1386 /* Translates OpenFlow queue ID 'queue_id' (in host byte order) into a priority
1387  * value used for setting packet priority.
1388  * On success, returns 0 and stores the priority into '*priority'.
1389  * On failure, returns a positive errno value and stores 0 into '*priority'. */
1390 int
1391 dpif_queue_to_priority(const struct dpif *dpif, uint32_t queue_id,
1392                        uint32_t *priority)
1393 {
1394     int error = (dpif->dpif_class->queue_to_priority
1395                  ? dpif->dpif_class->queue_to_priority(dpif, queue_id,
1396                                                        priority)
1397                  : EOPNOTSUPP);
1398     if (error) {
1399         *priority = 0;
1400     }
1401     log_operation(dpif, "queue_to_priority", error);
1402     return error;
1403 }
1404 \f
1405 void
1406 dpif_init(struct dpif *dpif, const struct dpif_class *dpif_class,
1407           const char *name,
1408           uint8_t netflow_engine_type, uint8_t netflow_engine_id)
1409 {
1410     dpif->dpif_class = dpif_class;
1411     dpif->base_name = xstrdup(name);
1412     dpif->full_name = xasprintf("%s@%s", dpif_class->type, name);
1413     dpif->netflow_engine_type = netflow_engine_type;
1414     dpif->netflow_engine_id = netflow_engine_id;
1415 }
1416
1417 /* Undoes the results of initialization.
1418  *
1419  * Normally this function only needs to be called from dpif_close().
1420  * However, it may be called by providers due to an error on opening
1421  * that occurs after initialization.  It this case dpif_close() would
1422  * never be called. */
1423 void
1424 dpif_uninit(struct dpif *dpif, bool close)
1425 {
1426     char *base_name = dpif->base_name;
1427     char *full_name = dpif->full_name;
1428
1429     if (close) {
1430         dpif->dpif_class->close(dpif);
1431     }
1432
1433     free(base_name);
1434     free(full_name);
1435 }
1436 \f
1437 static void
1438 log_operation(const struct dpif *dpif, const char *operation, int error)
1439 {
1440     if (!error) {
1441         VLOG_DBG_RL(&dpmsg_rl, "%s: %s success", dpif_name(dpif), operation);
1442     } else if (ofperr_is_valid(error)) {
1443         VLOG_WARN_RL(&error_rl, "%s: %s failed (%s)",
1444                      dpif_name(dpif), operation, ofperr_get_name(error));
1445     } else {
1446         VLOG_WARN_RL(&error_rl, "%s: %s failed (%s)",
1447                      dpif_name(dpif), operation, ovs_strerror(error));
1448     }
1449 }
1450
1451 static enum vlog_level
1452 flow_message_log_level(int error)
1453 {
1454     /* If flows arrive in a batch, userspace may push down multiple
1455      * unique flow definitions that overlap when wildcards are applied.
1456      * Kernels that support flow wildcarding will reject these flows as
1457      * duplicates (EEXIST), so lower the log level to debug for these
1458      * types of messages. */
1459     return (error && error != EEXIST) ? VLL_WARN : VLL_DBG;
1460 }
1461
1462 static bool
1463 should_log_flow_message(int error)
1464 {
1465     return !vlog_should_drop(THIS_MODULE, flow_message_log_level(error),
1466                              error ? &error_rl : &dpmsg_rl);
1467 }
1468
1469 static void
1470 log_flow_message(const struct dpif *dpif, int error, const char *operation,
1471                  const struct nlattr *key, size_t key_len,
1472                  const struct nlattr *mask, size_t mask_len,
1473                  const struct dpif_flow_stats *stats,
1474                  const struct nlattr *actions, size_t actions_len)
1475 {
1476     struct ds ds = DS_EMPTY_INITIALIZER;
1477     ds_put_format(&ds, "%s: ", dpif_name(dpif));
1478     if (error) {
1479         ds_put_cstr(&ds, "failed to ");
1480     }
1481     ds_put_format(&ds, "%s ", operation);
1482     if (error) {
1483         ds_put_format(&ds, "(%s) ", ovs_strerror(error));
1484     }
1485     odp_flow_format(key, key_len, mask, mask_len, NULL, &ds, true);
1486     if (stats) {
1487         ds_put_cstr(&ds, ", ");
1488         dpif_flow_stats_format(stats, &ds);
1489     }
1490     if (actions || actions_len) {
1491         ds_put_cstr(&ds, ", actions:");
1492         format_odp_actions(&ds, actions, actions_len);
1493     }
1494     vlog(THIS_MODULE, flow_message_log_level(error), "%s", ds_cstr(&ds));
1495     ds_destroy(&ds);
1496 }
1497
1498 static void
1499 log_flow_put_message(struct dpif *dpif, const struct dpif_flow_put *put,
1500                      int error)
1501 {
1502     if (should_log_flow_message(error)) {
1503         struct ds s;
1504
1505         ds_init(&s);
1506         ds_put_cstr(&s, "put");
1507         if (put->flags & DPIF_FP_CREATE) {
1508             ds_put_cstr(&s, "[create]");
1509         }
1510         if (put->flags & DPIF_FP_MODIFY) {
1511             ds_put_cstr(&s, "[modify]");
1512         }
1513         if (put->flags & DPIF_FP_ZERO_STATS) {
1514             ds_put_cstr(&s, "[zero]");
1515         }
1516         log_flow_message(dpif, error, ds_cstr(&s),
1517                          put->key, put->key_len, put->mask, put->mask_len,
1518                          put->stats, put->actions, put->actions_len);
1519         ds_destroy(&s);
1520     }
1521 }
1522
1523 static void
1524 log_flow_del_message(struct dpif *dpif, const struct dpif_flow_del *del,
1525                      int error)
1526 {
1527     if (should_log_flow_message(error)) {
1528         log_flow_message(dpif, error, "flow_del", del->key, del->key_len,
1529                          NULL, 0, !error ? del->stats : NULL, NULL, 0);
1530     }
1531 }
1532
1533 static void
1534 log_execute_message(struct dpif *dpif, const struct dpif_execute *execute,
1535                     int error)
1536 {
1537     if (!(error ? VLOG_DROP_WARN(&error_rl) : VLOG_DROP_DBG(&dpmsg_rl))) {
1538         struct ds ds = DS_EMPTY_INITIALIZER;
1539         char *packet;
1540
1541         packet = ofp_packet_to_string(execute->packet->data,
1542                                       execute->packet->size);
1543         ds_put_format(&ds, "%s: execute ", dpif_name(dpif));
1544         format_odp_actions(&ds, execute->actions, execute->actions_len);
1545         if (error) {
1546             ds_put_format(&ds, " failed (%s)", ovs_strerror(error));
1547         }
1548         ds_put_format(&ds, " on packet %s", packet);
1549         vlog(THIS_MODULE, error ? VLL_WARN : VLL_DBG, "%s", ds_cstr(&ds));
1550         ds_destroy(&ds);
1551         free(packet);
1552     }
1553 }