datapath: Silence RCU lockdep checks from flow lookup.
[sliver-openvswitch.git] / datapath / datapath.h
1 /*
2  * Copyright (c) 2007-2012 Nicira, Inc.
3  *
4  * This program is free software; you can redistribute it and/or
5  * modify it under the terms of version 2 of the GNU General Public
6  * License as published by the Free Software Foundation.
7  *
8  * This program is distributed in the hope that it will be useful, but
9  * WITHOUT ANY WARRANTY; without even the implied warranty of
10  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE. See the GNU
11  * General Public License for more details.
12  *
13  * You should have received a copy of the GNU General Public License
14  * along with this program; if not, write to the Free Software
15  * Foundation, Inc., 51 Franklin Street, Fifth Floor, Boston, MA
16  * 02110-1301, USA
17  */
18
19 #ifndef DATAPATH_H
20 #define DATAPATH_H 1
21
22 #include <asm/page.h>
23 #include <linux/kernel.h>
24 #include <linux/mutex.h>
25 #include <linux/netdevice.h>
26 #include <linux/skbuff.h>
27 #include <linux/u64_stats_sync.h>
28
29 #include "compat.h"
30 #include "flow.h"
31 #include "flow_table.h"
32 #include "vlan.h"
33 #include "vport.h"
34
35 #define DP_MAX_PORTS            USHRT_MAX
36 #define DP_VPORT_HASH_BUCKETS   1024
37
38 #define SAMPLE_ACTION_DEPTH 3
39
40 /**
41  * struct dp_stats_percpu - per-cpu packet processing statistics for a given
42  * datapath.
43  * @n_hit: Number of received packets for which a matching flow was found in
44  * the flow table.
45  * @n_miss: Number of received packets that had no matching flow in the flow
46  * table.  The sum of @n_hit and @n_miss is the number of packets that have
47  * been received by the datapath.
48  * @n_lost: Number of received packets that had no matching flow in the flow
49  * table that could not be sent to userspace (normally due to an overflow in
50  * one of the datapath's queues).
51  * @n_mask_hit: Number of masks looked up for flow match.
52  *   @n_mask_hit / (@n_hit + @n_missed)  will be the average masks looked
53  *   up per packet.
54  */
55 struct dp_stats_percpu {
56         u64 n_hit;
57         u64 n_missed;
58         u64 n_lost;
59         u64 n_mask_hit;
60         struct u64_stats_sync sync;
61 };
62
63 /**
64  * struct datapath - datapath for flow-based packet switching
65  * @rcu: RCU callback head for deferred destruction.
66  * @list_node: Element in global 'dps' list.
67  * @table: flow table.
68  * @ports: Hash table for ports.  %OVSP_LOCAL port always exists.  Protected by
69  * ovs_mutex and RCU.
70  * @stats_percpu: Per-CPU datapath statistics.
71  * @net: Reference to net namespace.
72  *
73  * Context: See the comment on locking at the top of datapath.c for additional
74  * locking information.
75  */
76 struct datapath {
77         struct rcu_head rcu;
78         struct list_head list_node;
79
80         /* Flow table. */
81         struct flow_table table;
82
83         /* Switch ports. */
84         struct hlist_head *ports;
85
86         /* Stats. */
87         struct dp_stats_percpu __percpu *stats_percpu;
88
89 #ifdef CONFIG_NET_NS
90         /* Network namespace ref. */
91         struct net *net;
92 #endif
93 };
94
95 /**
96  * struct ovs_skb_cb - OVS data in skb CB
97  * @flow: The flow associated with this packet.  May be %NULL if no flow.
98  * @pkt_key: The flow information extracted from the packet.  Must be nonnull.
99  * @tun_key: Key for the tunnel that encapsulated this packet. NULL if the
100  * packet is not being tunneled.
101  */
102 struct ovs_skb_cb {
103         struct sw_flow          *flow;
104         struct sw_flow_key      *pkt_key;
105         struct ovs_key_ipv4_tunnel  *tun_key;
106 };
107 #define OVS_CB(skb) ((struct ovs_skb_cb *)(skb)->cb)
108
109 /**
110  * struct dp_upcall - metadata to include with a packet to send to userspace
111  * @cmd: One of %OVS_PACKET_CMD_*.
112  * @key: Becomes %OVS_PACKET_ATTR_KEY.  Must be nonnull.
113  * @userdata: If nonnull, its variable-length value is passed to userspace as
114  * %OVS_PACKET_ATTR_USERDATA.
115  * @portid: Netlink PID to which packet should be sent.  If @portid is 0 then no
116  * packet is sent and the packet is accounted in the datapath's @n_lost
117  * counter.
118  */
119 struct dp_upcall_info {
120         u8 cmd;
121         const struct sw_flow_key *key;
122         const struct nlattr *userdata;
123         u32 portid;
124 };
125
126 /**
127  * struct ovs_net - Per net-namespace data for ovs.
128  * @dps: List of datapaths to enable dumping them all out.
129  * Protected by genl_mutex.
130  * @vport_net: Per network namespace data for vport.
131  */
132 struct ovs_net {
133         struct list_head dps;
134         struct vport_net vport_net;
135         struct work_struct dp_notify_work;
136 };
137
138 extern int ovs_net_id;
139 void ovs_lock(void);
140 void ovs_unlock(void);
141
142 #ifdef CONFIG_LOCKDEP
143 int lockdep_ovsl_is_held(void);
144 #else
145 #define lockdep_ovsl_is_held()  1
146 #endif
147
148 #define ASSERT_OVSL()           WARN_ON(unlikely(!lockdep_ovsl_is_held()))
149 #define ovsl_dereference(p)                                     \
150         rcu_dereference_protected(p, lockdep_ovsl_is_held())
151 #define rcu_dereference_ovsl(p)                                 \
152         rcu_dereference_check(p, lockdep_ovsl_is_held())
153
154 static inline struct net *ovs_dp_get_net(struct datapath *dp)
155 {
156         return read_pnet(&dp->net);
157 }
158
159 static inline void ovs_dp_set_net(struct datapath *dp, struct net *net)
160 {
161         write_pnet(&dp->net, net);
162 }
163
164 struct vport *ovs_lookup_vport(const struct datapath *dp, u16 port_no);
165
166 static inline struct vport *ovs_vport_rcu(const struct datapath *dp, int port_no)
167 {
168         WARN_ON_ONCE(!rcu_read_lock_held());
169         return ovs_lookup_vport(dp, port_no);
170 }
171
172 static inline struct vport *ovs_vport_ovsl_rcu(const struct datapath *dp, int port_no)
173 {
174         WARN_ON_ONCE(!rcu_read_lock_held() && !lockdep_ovsl_is_held());
175         return ovs_lookup_vport(dp, port_no);
176 }
177
178 static inline struct vport *ovs_vport_ovsl(const struct datapath *dp, int port_no)
179 {
180         ASSERT_OVSL();
181         return ovs_lookup_vport(dp, port_no);
182 }
183
184 extern struct notifier_block ovs_dp_device_notifier;
185 extern struct genl_multicast_group ovs_dp_vport_multicast_group;
186
187 void ovs_dp_process_received_packet(struct vport *, struct sk_buff *);
188 void ovs_dp_detach_port(struct vport *);
189 int ovs_dp_upcall(struct datapath *, struct sk_buff *,
190                   const struct dp_upcall_info *);
191
192 const char *ovs_dp_name(const struct datapath *dp);
193 struct sk_buff *ovs_vport_cmd_build_info(struct vport *, u32 portid, u32 seq,
194                                          u8 cmd);
195
196 int ovs_execute_actions(struct datapath *dp, struct sk_buff *skb);
197 void ovs_dp_notify_wq(struct work_struct *work);
198
199 #define OVS_NLERR(fmt, ...) \
200         pr_info_once("netlink: " fmt, ##__VA_ARGS__)
201
202 #endif /* datapath.h */