datapath: Use rtnl_link_stats64
[sliver-openvswitch.git] / datapath / vport-netdev.c
1 /*
2  * Copyright (c) 2010 Nicira Networks.
3  * Distributed under the terms of the GNU GPL version 2.
4  *
5  * Significant portions of this file may be copied from parts of the Linux
6  * kernel, by Linus Torvalds and others.
7  */
8
9 #include <linux/if_arp.h>
10 #include <linux/if_bridge.h>
11 #include <linux/if_vlan.h>
12 #include <linux/kernel.h>
13 #include <linux/llc.h>
14 #include <linux/rtnetlink.h>
15 #include <linux/skbuff.h>
16
17 #include <net/llc.h>
18
19 #include "datapath.h"
20 #include "vport-internal_dev.h"
21 #include "vport-netdev.h"
22
23 #include "compat.h"
24
25 /* If the native device stats aren't 64 bit use the vport stats tracking instead. */
26 #define USE_VPORT_STATS (sizeof(((struct net_device_stats *)0)->rx_bytes) < sizeof(u64))
27
28 static void netdev_port_receive(struct vport *vport, struct sk_buff *skb);
29
30 #if LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,36)
31 /* Called with rcu_read_lock and bottom-halves disabled. */
32 static struct sk_buff *netdev_frame_hook(struct sk_buff *skb)
33 {
34         struct vport *vport;
35
36         if (unlikely(skb->pkt_type == PACKET_LOOPBACK))
37                 return skb;
38
39         vport = netdev_get_vport(skb->dev);
40
41         netdev_port_receive(vport, skb);
42
43         return NULL;
44 }
45 #elif LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,22)
46 /*
47  * Used as br_handle_frame_hook.  (Cannot run bridge at the same time, even on
48  * different set of devices!)
49  */
50 /* Called with rcu_read_lock and bottom-halves disabled. */
51 static struct sk_buff *netdev_frame_hook(struct net_bridge_port *p,
52                                          struct sk_buff *skb)
53 {
54         netdev_port_receive((struct vport *)p, skb);
55         return NULL;
56 }
57 #elif LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,0)
58 /*
59  * Used as br_handle_frame_hook.  (Cannot run bridge at the same time, even on
60  * different set of devices!)
61  */
62 /* Called with rcu_read_lock and bottom-halves disabled. */
63 static int netdev_frame_hook(struct net_bridge_port *p, struct sk_buff **pskb)
64 {
65         netdev_port_receive((struct vport *)p, *pskb);
66         return 1;
67 }
68 #else
69 #error
70 #endif
71
72 #if LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,36)
73 static int netdev_init(void) { return 0; }
74 static void netdev_exit(void) { }
75 #else
76 static int netdev_init(void)
77 {
78         /* Hook into callback used by the bridge to intercept packets.
79          * Parasites we are. */
80         br_handle_frame_hook = netdev_frame_hook;
81
82         return 0;
83 }
84
85 static void netdev_exit(void)
86 {
87         br_handle_frame_hook = NULL;
88 }
89 #endif
90
91 static struct vport *netdev_create(const char *name, const void __user *config)
92 {
93         struct vport *vport;
94         struct netdev_vport *netdev_vport;
95         int err;
96
97         vport = vport_alloc(sizeof(struct netdev_vport), &netdev_vport_ops);
98         if (IS_ERR(vport)) {
99                 err = PTR_ERR(vport);
100                 goto error;
101         }
102
103         netdev_vport = netdev_vport_priv(vport);
104
105         netdev_vport->dev = dev_get_by_name(&init_net, name);
106         if (!netdev_vport->dev) {
107                 err = -ENODEV;
108                 goto error_free_vport;
109         }
110
111         if (netdev_vport->dev->flags & IFF_LOOPBACK ||
112             netdev_vport->dev->type != ARPHRD_ETHER ||
113             is_internal_dev(netdev_vport->dev)) {
114                 err = -EINVAL;
115                 goto error_put;
116         }
117
118         /* If we are using the vport stats layer initialize it to the current
119          * values so we are roughly consistent with the device stats. */
120         if (USE_VPORT_STATS) {
121                 struct odp_vport_stats stats;
122
123                 err = netdev_get_stats(vport, &stats);
124                 if (!err)
125                         vport_set_stats(vport, &stats);
126         }
127
128         return vport;
129
130 error_put:
131         dev_put(netdev_vport->dev);
132 error_free_vport:
133         vport_free(vport);
134 error:
135         return ERR_PTR(err);
136 }
137
138 static int netdev_destroy(struct vport *vport)
139 {
140         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
141
142         dev_put(netdev_vport->dev);
143         vport_free(vport);
144
145         return 0;
146 }
147
148 static int netdev_attach(struct vport *vport)
149 {
150         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
151         int err;
152
153         err = netdev_rx_handler_register(netdev_vport->dev, netdev_frame_hook,
154                                          vport);
155         if (err)
156                 return err;
157
158         dev_set_promiscuity(netdev_vport->dev, 1);
159         dev_disable_lro(netdev_vport->dev);
160         netdev_vport->dev->priv_flags |= IFF_OVS_DATAPATH;
161
162         return 0;
163 }
164
165 static int netdev_detach(struct vport *vport)
166 {
167         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
168
169         netdev_vport->dev->priv_flags &= ~IFF_OVS_DATAPATH;
170         netdev_rx_handler_unregister(netdev_vport->dev);
171         dev_set_promiscuity(netdev_vport->dev, -1);
172
173         return 0;
174 }
175
176 int netdev_set_mtu(struct vport *vport, int mtu)
177 {
178         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
179         return dev_set_mtu(netdev_vport->dev, mtu);
180 }
181
182 int netdev_set_addr(struct vport *vport, const unsigned char *addr)
183 {
184         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
185         struct sockaddr sa;
186
187         sa.sa_family = ARPHRD_ETHER;
188         memcpy(sa.sa_data, addr, ETH_ALEN);
189
190         return dev_set_mac_address(netdev_vport->dev, &sa);
191 }
192
193 const char *netdev_get_name(const struct vport *vport)
194 {
195         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
196         return netdev_vport->dev->name;
197 }
198
199 const unsigned char *netdev_get_addr(const struct vport *vport)
200 {
201         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
202         return netdev_vport->dev->dev_addr;
203 }
204
205 struct kobject *netdev_get_kobj(const struct vport *vport)
206 {
207         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
208         return &netdev_vport->dev->NETDEV_DEV_MEMBER.kobj;
209 }
210
211 int netdev_get_stats(const struct vport *vport, struct odp_vport_stats *stats)
212 {
213         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
214 #if LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,36)
215         struct rtnl_link_stats64 *netdev_stats, storage;
216
217         netdev_stats = dev_get_stats(netdev_vport->dev, &storage);
218 #else
219         const struct net_device_stats *netdev_stats;
220
221         netdev_stats = dev_get_stats(netdev_vport->dev);
222 #endif
223
224         stats->rx_bytes         = netdev_stats->rx_bytes;
225         stats->rx_packets       = netdev_stats->rx_packets;
226         stats->tx_bytes         = netdev_stats->tx_bytes;
227         stats->tx_packets       = netdev_stats->tx_packets;
228         stats->rx_dropped       = netdev_stats->rx_dropped;
229         stats->rx_errors        = netdev_stats->rx_errors;
230         stats->rx_frame_err     = netdev_stats->rx_frame_errors;
231         stats->rx_over_err      = netdev_stats->rx_over_errors;
232         stats->rx_crc_err       = netdev_stats->rx_crc_errors;
233         stats->tx_dropped       = netdev_stats->tx_dropped;
234         stats->tx_errors        = netdev_stats->tx_errors;
235         stats->collisions       = netdev_stats->collisions;
236
237         return 0;
238 }
239
240 unsigned netdev_get_dev_flags(const struct vport *vport)
241 {
242         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
243         return dev_get_flags(netdev_vport->dev);
244 }
245
246 int netdev_is_running(const struct vport *vport)
247 {
248         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
249         return netif_running(netdev_vport->dev);
250 }
251
252 unsigned char netdev_get_operstate(const struct vport *vport)
253 {
254         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
255         return netdev_vport->dev->operstate;
256 }
257
258 int netdev_get_ifindex(const struct vport *vport)
259 {
260         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
261         return netdev_vport->dev->ifindex;
262 }
263
264 int netdev_get_iflink(const struct vport *vport)
265 {
266         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
267         return netdev_vport->dev->iflink;
268 }
269
270 int netdev_get_mtu(const struct vport *vport)
271 {
272         const struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
273         return netdev_vport->dev->mtu;
274 }
275
276 /* Must be called with rcu_read_lock. */
277 static void netdev_port_receive(struct vport *vport, struct sk_buff *skb)
278 {
279         /* Make our own copy of the packet.  Otherwise we will mangle the
280          * packet for anyone who came before us (e.g. tcpdump via AF_PACKET).
281          * (No one comes after us, since we tell handle_bridge() that we took
282          * the packet.) */
283         skb = skb_share_check(skb, GFP_ATOMIC);
284         if (unlikely(!skb))
285                 return;
286
287         skb_warn_if_lro(skb);
288
289         /* Push the Ethernet header back on. */
290         skb_push(skb, ETH_HLEN);
291         skb_reset_mac_header(skb);
292         compute_ip_summed(skb, false);
293
294         vport_receive(vport, skb);
295 }
296
297 static int netdev_send(struct vport *vport, struct sk_buff *skb)
298 {
299         struct netdev_vport *netdev_vport = netdev_vport_priv(vport);
300         int len = skb->len;
301
302         skb->dev = netdev_vport->dev;
303         forward_ip_summed(skb);
304         dev_queue_xmit(skb);
305
306         return len;
307 }
308
309 /* Returns null if this device is not attached to a datapath. */
310 struct vport *netdev_get_vport(struct net_device *dev)
311 {
312 #if LINUX_VERSION_CODE >= KERNEL_VERSION(2,6,36)
313         /* XXX: The bridge code may have registered the data.
314          * So check that the handler pointer is the datapath's.
315          * Once the merge is done and IFF_OVS_DATAPATH stops
316          * being the same value as IFF_BRIDGE_PORT the check can
317          * simply be netdev_vport->dev->priv_flags & IFF_OVS_DATAPATH. */
318         if (rcu_dereference(dev->rx_handler) != netdev_frame_hook)
319                 return NULL;
320         return (struct vport *)rcu_dereference(dev->rx_handler_data);
321 #else
322         return (struct vport *)rcu_dereference(dev->br_port);
323 #endif
324 }
325
326 struct vport_ops netdev_vport_ops = {
327         .type           = "netdev",
328         .flags          = (VPORT_F_REQUIRED |
329                           (USE_VPORT_STATS ? VPORT_F_GEN_STATS : 0)),
330         .init           = netdev_init,
331         .exit           = netdev_exit,
332         .create         = netdev_create,
333         .destroy        = netdev_destroy,
334         .attach         = netdev_attach,
335         .detach         = netdev_detach,
336         .set_mtu        = netdev_set_mtu,
337         .set_addr       = netdev_set_addr,
338         .get_name       = netdev_get_name,
339         .get_addr       = netdev_get_addr,
340         .get_kobj       = netdev_get_kobj,
341         .get_stats      = netdev_get_stats,
342         .get_dev_flags  = netdev_get_dev_flags,
343         .is_running     = netdev_is_running,
344         .get_operstate  = netdev_get_operstate,
345         .get_ifindex    = netdev_get_ifindex,
346         .get_iflink     = netdev_get_iflink,
347         .get_mtu        = netdev_get_mtu,
348         .send           = netdev_send,
349 };
350
351 #if LINUX_VERSION_CODE < KERNEL_VERSION(2,6,36)
352 /*
353  * In kernels earlier than 2.6.36, Open vSwitch cannot safely coexist with
354  * the Linux bridge module on any released version of Linux, because there
355  * is only a single bridge hook function and only a single br_port member
356  * in struct net_device.
357  *
358  * Declaring and exporting this symbol enforces mutual exclusion.  The bridge
359  * module also exports the same symbol, so the module loader will refuse to
360  * load both modules at the same time (e.g. "bridge: exports duplicate symbol
361  * br_should_route_hook (owned by openvswitch_mod)").
362  *
363  * The use of "typeof" here avoids the need to track changes in the type of
364  * br_should_route_hook over various kernel versions.
365  */
366 typeof(br_should_route_hook) br_should_route_hook;
367 EXPORT_SYMBOL(br_should_route_hook);
368 #endif