drivers/net/via-velocity.c

   1 /*
   2  * This code is derived from the VIA reference driver (copyright message
   3  * below) provided to Red Hat by VIA Networking Technologies, Inc. for
   4  * addition to the Linux kernel.
   5  *
   6  * The code has been merged into one source file, cleaned up to follow
   7  * Linux coding style,  ported to the Linux 2.6 kernel tree and cleaned
   8  * for 64bit hardware platforms.
   9  *
  10  * TODO
  11  *      Big-endian support
  12  *      rx_copybreak/alignment
  13  *      Scatter gather
  14  *      More testing
  15  *
  16  * The changes are (c) Copyright 2004, Red Hat Inc. <alan@redhat.com>
  17  * Additional fixes and clean up: Francois Romieu
  18  *
  19  * This source has not been verified for use in safety critical systems.
  20  *
  21  * Please direct queries about the revamped driver to the linux-kernel
  22  * list not VIA.
  23  *
  24  * Original code:
  25  *
  26  * Copyright (c) 1996, 2003 VIA Networking Technologies, Inc.
  27  * All rights reserved.
  28  *
  29  * This software may be redistributed and/or modified under
  30  * the terms of the GNU General Public License as published by the Free
  31  * Software Foundation; either version 2 of the License, or
  32  * any later version.
  33  *
  34  * This program is distributed in the hope that it will be useful, but
  35  * WITHOUT ANY WARRANTY; without even the implied warranty of MERCHANTABILITY
  36  * or FITNESS FOR A PARTICULAR PURPOSE. See the GNU General Public License
  37  * for more details.
  38  *
  39  * Author: Chuang Liang-Shing, AJ Jiang
  40  *
  41  * Date: Jan 24, 2003
  42  *
  43  * MODULE_LICENSE("GPL");
  44  *
  45  */
  46
  47
  48 #include <linux/module.h>
  49 #include <linux/types.h>
  50 #include <linux/config.h>
  51 #include <linux/init.h>
  52 #include <linux/mm.h>
  53 #include <linux/errno.h>
  54 #include <linux/ioport.h>
  55 #include <linux/pci.h>
  56 #include <linux/kernel.h>
  57 #include <linux/netdevice.h>
  58 #include <linux/etherdevice.h>
  59 #include <linux/skbuff.h>
  60 #include <linux/delay.h>
  61 #include <linux/timer.h>
  62 #include <linux/slab.h>
  63 #include <linux/interrupt.h>
  64 #include <linux/string.h>
  65 #include <linux/wait.h>
  66 #include <asm/io.h>
  67 #include <linux/if.h>
  68 #include <linux/config.h>
  69 #include <asm/uaccess.h>
  70 #include <linux/proc_fs.h>
  71 #include <linux/inetdevice.h>
  72 #include <linux/reboot.h>
  73 #include <linux/ethtool.h>
  74 #include <linux/mii.h>
  75 #include <linux/in.h>
  76 #include <linux/if_arp.h>
  77 #include <linux/ip.h>
  78 #include <linux/tcp.h>
  79 #include <linux/udp.h>
  80 #include <linux/crc-ccitt.h>
  81 #include <linux/crc32.h>
  82
  83 #include "via-velocity.h"
  84
  85
  86 static int velocity_nics = 0;
  87 static int msglevel = MSG_LEVEL_INFO;
  88
  89
  90 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd);
  91 static struct ethtool_ops velocity_ethtool_ops;
  92
  93 /*
  94     Define module options
  95 */
  96
  97 MODULE_AUTHOR("VIA Networking Technologies, Inc.");
  98 MODULE_LICENSE("GPL");
  99 MODULE_DESCRIPTION("VIA Networking Velocity Family Gigabit Ethernet Adapter Driver");
 100
 101 #define VELOCITY_PARAM(N,D) \
 102         static int N[MAX_UNITS]=OPTION_DEFAULT;\
 103         module_param_array(N, int, NULL, 0); \
 104         MODULE_PARM_DESC(N, D);
 105
 106 #define RX_DESC_MIN     64
 107 #define RX_DESC_MAX     255
 108 #define RX_DESC_DEF     64
 109 VELOCITY_PARAM(RxDescriptors, "Number of receive descriptors");
 110
 111 #define TX_DESC_MIN     16
 112 #define TX_DESC_MAX     256
 113 #define TX_DESC_DEF     64
 114 VELOCITY_PARAM(TxDescriptors, "Number of transmit descriptors");
 115
 116 #define VLAN_ID_MIN     0
 117 #define VLAN_ID_MAX     4095
 118 #define VLAN_ID_DEF     0
 119 /* VID_setting[] is used for setting the VID of NIC.
 120    0: default VID.
 121    1-4094: other VIDs.
 122 */
 123 VELOCITY_PARAM(VID_setting, "802.1Q VLAN ID");
 124
 125 #define RX_THRESH_MIN   0
 126 #define RX_THRESH_MAX   3
 127 #define RX_THRESH_DEF   0
 128 /* rx_thresh[] is used for controlling the receive fifo threshold.
 129    0: indicate the rxfifo threshold is 128 bytes.
 130    1: indicate the rxfifo threshold is 512 bytes.
 131    2: indicate the rxfifo threshold is 1024 bytes.
 132    3: indicate the rxfifo threshold is store & forward.
 133 */
 134 VELOCITY_PARAM(rx_thresh, "Receive fifo threshold");
 135
 136 #define DMA_LENGTH_MIN  0
 137 #define DMA_LENGTH_MAX  7
 138 #define DMA_LENGTH_DEF  0
 139
 140 /* DMA_length[] is used for controlling the DMA length
 141    0: 8 DWORDs
 142    1: 16 DWORDs
 143    2: 32 DWORDs
 144    3: 64 DWORDs
 145    4: 128 DWORDs
 146    5: 256 DWORDs
 147    6: SF(flush till emply)
 148    7: SF(flush till emply)
 149 */
 150 VELOCITY_PARAM(DMA_length, "DMA length");
 151
 152 #define TAGGING_DEF     0
 153 /* enable_tagging[] is used for enabling 802.1Q VID tagging.
 154    0: disable VID seeting(default).
 155    1: enable VID setting.
 156 */
 157 VELOCITY_PARAM(enable_tagging, "Enable 802.1Q tagging");
 158
 159 #define IP_ALIG_DEF     0
 160 /* IP_byte_align[] is used for IP header DWORD byte aligned
 161    0: indicate the IP header won't be DWORD byte aligned.(Default) .
 162    1: indicate the IP header will be DWORD byte aligned.
 163       In some enviroment, the IP header should be DWORD byte aligned,
 164       or the packet will be droped when we receive it. (eg: IPVS)
 165 */
 166 VELOCITY_PARAM(IP_byte_align, "Enable IP header dword aligned");
 167
 168 #define TX_CSUM_DEF     1
 169 /* txcsum_offload[] is used for setting the checksum offload ability of NIC.
 170    (We only support RX checksum offload now)
 171    0: disable csum_offload[checksum offload
 172    1: enable checksum offload. (Default)
 173 */
 174 VELOCITY_PARAM(txcsum_offload, "Enable transmit packet checksum offload");
 175
 176 #define FLOW_CNTL_DEF   1
 177 #define FLOW_CNTL_MIN   1
 178 #define FLOW_CNTL_MAX   5
 179
 180 /* flow_control[] is used for setting the flow control ability of NIC.
 181    1: hardware deafult - AUTO (default). Use Hardware default value in ANAR.
 182    2: enable TX flow control.
 183    3: enable RX flow control.
 184    4: enable RX/TX flow control.
 185    5: disable
 186 */
 187 VELOCITY_PARAM(flow_control, "Enable flow control ability");
 188
 189 #define MED_LNK_DEF 0
 190 #define MED_LNK_MIN 0
 191 #define MED_LNK_MAX 4
 192 /* speed_duplex[] is used for setting the speed and duplex mode of NIC.
 193    0: indicate autonegotiation for both speed and duplex mode
 194    1: indicate 100Mbps half duplex mode
 195    2: indicate 100Mbps full duplex mode
 196    3: indicate 10Mbps half duplex mode
 197    4: indicate 10Mbps full duplex mode
 198
 199    Note:
 200         if EEPROM have been set to the force mode, this option is ignored
 201             by driver.
 202 */
 203 VELOCITY_PARAM(speed_duplex, "Setting the speed and duplex mode");
 204
 205 #define VAL_PKT_LEN_DEF     0
 206 /* ValPktLen[] is used for setting the checksum offload ability of NIC.
 207    0: Receive frame with invalid layer 2 length (Default)
 208    1: Drop frame with invalid layer 2 length
 209 */
 210 VELOCITY_PARAM(ValPktLen, "Receiving or Drop invalid 802.3 frame");
 211
 212 #define WOL_OPT_DEF     0
 213 #define WOL_OPT_MIN     0
 214 #define WOL_OPT_MAX     7
 215 /* wol_opts[] is used for controlling wake on lan behavior.
 216    0: Wake up if recevied a magic packet. (Default)
 217    1: Wake up if link status is on/off.
 218    2: Wake up if recevied an arp packet.
 219    4: Wake up if recevied any unicast packet.
 220    Those value can be sumed up to support more than one option.
 221 */
 222 VELOCITY_PARAM(wol_opts, "Wake On Lan options");
 223
 224 #define INT_WORKS_DEF   20
 225 #define INT_WORKS_MIN   10
 226 #define INT_WORKS_MAX   64
 227
 228 VELOCITY_PARAM(int_works, "Number of packets per interrupt services");
 229
 230 static int rx_copybreak = 200;
 231 module_param(rx_copybreak, int, 0644);
 232 MODULE_PARM_DESC(rx_copybreak, "Copy breakpoint for copy-only-tiny-frames");
 233
 234 static void velocity_init_info(struct pci_dev *pdev, struct velocity_info *vptr, struct velocity_info_tbl *info);
 235 static int velocity_get_pci_info(struct velocity_info *, struct pci_dev *pdev);
 236 static void velocity_print_info(struct velocity_info *vptr);
 237 static int velocity_open(struct net_device *dev);
 238 static int velocity_change_mtu(struct net_device *dev, int mtu);
 239 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev);
 240 static int velocity_intr(int irq, void *dev_instance, struct pt_regs *regs);
 241 static void velocity_set_multi(struct net_device *dev);
 242 static struct net_device_stats *velocity_get_stats(struct net_device *dev);
 243 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd);
 244 static int velocity_close(struct net_device *dev);
 245 static int velocity_receive_frame(struct velocity_info *, int idx);
 246 static int velocity_alloc_rx_buf(struct velocity_info *, int idx);
 247 static void velocity_free_rd_ring(struct velocity_info *vptr);
 248 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *);
 249 static int velocity_soft_reset(struct velocity_info *vptr);
 250 static void mii_init(struct velocity_info *vptr, u32 mii_status);
 251 static u32 velocity_get_link(struct net_device *dev);
 252 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr);
 253 static void velocity_print_link_status(struct velocity_info *vptr);
 254 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs);
 255 static void velocity_shutdown(struct velocity_info *vptr);
 256 static void enable_flow_control_ability(struct velocity_info *vptr);
 257 static void enable_mii_autopoll(struct mac_regs __iomem * regs);
 258 static int velocity_mii_read(struct mac_regs __iomem *, u8 byIdx, u16 * pdata);
 259 static int velocity_mii_write(struct mac_regs __iomem *, u8 byMiiAddr, u16 data);
 260 static u32 mii_check_media_mode(struct mac_regs __iomem * regs);
 261 static u32 check_connection_type(struct mac_regs __iomem * regs);
 262 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status);
 263
 264 #ifdef CONFIG_PM
 265
 266 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state);
 267 static int velocity_resume(struct pci_dev *pdev);
 268
 269 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr);
 270
 271 static struct notifier_block velocity_inetaddr_notifier = {
 272       .notifier_call    = velocity_netdev_event,
 273 };
 274
 275 static DEFINE_SPINLOCK(velocity_dev_list_lock);
 276 static LIST_HEAD(velocity_dev_list);
 277
 278 static void velocity_register_notifier(void)
 279 {
 280         register_inetaddr_notifier(&velocity_inetaddr_notifier);
 281 }
 282
 283 static void velocity_unregister_notifier(void)
 284 {
 285         unregister_inetaddr_notifier(&velocity_inetaddr_notifier);
 286 }
 287
 288 #else                           /* CONFIG_PM */
 289
 290 #define velocity_register_notifier()    do {} while (0)
 291 #define velocity_unregister_notifier()  do {} while (0)
 292
 293 #endif                          /* !CONFIG_PM */
 294
 295 /*
 296  *      Internal board variants. At the moment we have only one
 297  */
 298
 299 static struct velocity_info_tbl chip_info_table[] = {
 300         {CHIP_TYPE_VT6110, "VIA Networking Velocity Family Gigabit Ethernet Adapter", 256, 1, 0x00FFFFFFUL},
 301         {0, NULL}
 302 };
 303
 304 /*
 305  *      Describe the PCI device identifiers that we support in this
 306  *      device driver. Used for hotplug autoloading.
 307  */
 308
 309 static struct pci_device_id velocity_id_table[] __devinitdata = {
 310         {PCI_VENDOR_ID_VIA, PCI_DEVICE_ID_VIA_612X,
 311          PCI_ANY_ID, PCI_ANY_ID, 0, 0, (unsigned long) chip_info_table},
 312         {0, }
 313 };
 314
 315 MODULE_DEVICE_TABLE(pci, velocity_id_table);
 316
 317 /**
 318  *      get_chip_name   -       identifier to name
 319  *      @id: chip identifier
 320  *
 321  *      Given a chip identifier return a suitable description. Returns
 322  *      a pointer a static string valid while the driver is loaded.
 323  */
 324
 325 static char __devinit *get_chip_name(enum chip_type chip_id)
 326 {
 327         int i;
 328         for (i = 0; chip_info_table[i].name != NULL; i++)
 329                 if (chip_info_table[i].chip_id == chip_id)
 330                         break;
 331         return chip_info_table[i].name;
 332 }
 333
 334 /**
 335  *      velocity_remove1        -       device unplug
 336  *      @pdev: PCI device being removed
 337  *
 338  *      Device unload callback. Called on an unplug or on module
 339  *      unload for each active device that is present. Disconnects
 340  *      the device from the network layer and frees all the resources
 341  */
 342
 343 static void __devexit velocity_remove1(struct pci_dev *pdev)
 344 {
 345         struct net_device *dev = pci_get_drvdata(pdev);
 346         struct velocity_info *vptr = dev->priv;
 347
 348 #ifdef CONFIG_PM
 349         unsigned long flags;
 350
 351         spin_lock_irqsave(&velocity_dev_list_lock, flags);
 352         if (!list_empty(&velocity_dev_list))
 353                 list_del(&vptr->list);
 354         spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
 355 #endif
 356         unregister_netdev(dev);
 357         iounmap(vptr->mac_regs);
 358         pci_release_regions(pdev);
 359         pci_disable_device(pdev);
 360         pci_set_drvdata(pdev, NULL);
 361         free_netdev(dev);
 362
 363         velocity_nics--;
 364 }
 365
 366 /**
 367  *      velocity_set_int_opt    -       parser for integer options
 368  *      @opt: pointer to option value
 369  *      @val: value the user requested (or -1 for default)
 370  *      @min: lowest value allowed
 371  *      @max: highest value allowed
 372  *      @def: default value
 373  *      @name: property name
 374  *      @dev: device name
 375  *
 376  *      Set an integer property in the module options. This function does
 377  *      all the verification and checking as well as reporting so that
 378  *      we don't duplicate code for each option.
 379  */
 380
 381 static void __devinit velocity_set_int_opt(int *opt, int val, int min, int max, int def, char *name, char *devname)
 382 {
 383         if (val == -1)
 384                 *opt = def;
 385         else if (val < min || val > max) {
 386                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (%d-%d)\n",
 387                                         devname, name, min, max);
 388                 *opt = def;
 389         } else {
 390                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_INFO "%s: set value of parameter %s to %d\n",
 391                                         devname, name, val);
 392                 *opt = val;
 393         }
 394 }
 395
 396 /**
 397  *      velocity_set_bool_opt   -       parser for boolean options
 398  *      @opt: pointer to option value
 399  *      @val: value the user requested (or -1 for default)
 400  *      @def: default value (yes/no)
 401  *      @flag: numeric value to set for true.
 402  *      @name: property name
 403  *      @dev: device name
 404  *
 405  *      Set a boolean property in the module options. This function does
 406  *      all the verification and checking as well as reporting so that
 407  *      we don't duplicate code for each option.
 408  */
 409
 410 static void __devinit velocity_set_bool_opt(u32 * opt, int val, int def, u32 flag, char *name, char *devname)
 411 {
 412         (*opt) &= (~flag);
 413         if (val == -1)
 414                 *opt |= (def ? flag : 0);
 415         else if (val < 0 || val > 1) {
 416                 printk(KERN_NOTICE "%s: the value of parameter %s is invalid, the valid range is (0-1)\n",
 417                         devname, name);
 418                 *opt |= (def ? flag : 0);
 419         } else {
 420                 printk(KERN_INFO "%s: set parameter %s to %s\n",
 421                         devname, name, val ? "TRUE" : "FALSE");
 422                 *opt |= (val ? flag : 0);
 423         }
 424 }
 425
 426 /**
 427  *      velocity_get_options    -       set options on device
 428  *      @opts: option structure for the device
 429  *      @index: index of option to use in module options array
 430  *      @devname: device name
 431  *
 432  *      Turn the module and command options into a single structure
 433  *      for the current device
 434  */
 435
 436 static void __devinit velocity_get_options(struct velocity_opt *opts, int index, char *devname)
 437 {
 438
 439         velocity_set_int_opt(&opts->rx_thresh, rx_thresh[index], RX_THRESH_MIN, RX_THRESH_MAX, RX_THRESH_DEF, "rx_thresh", devname);
 440         velocity_set_int_opt(&opts->DMA_length, DMA_length[index], DMA_LENGTH_MIN, DMA_LENGTH_MAX, DMA_LENGTH_DEF, "DMA_length", devname);
 441         velocity_set_int_opt(&opts->numrx, RxDescriptors[index], RX_DESC_MIN, RX_DESC_MAX, RX_DESC_DEF, "RxDescriptors", devname);
 442         velocity_set_int_opt(&opts->numtx, TxDescriptors[index], TX_DESC_MIN, TX_DESC_MAX, TX_DESC_DEF, "TxDescriptors", devname);
 443         velocity_set_int_opt(&opts->vid, VID_setting[index], VLAN_ID_MIN, VLAN_ID_MAX, VLAN_ID_DEF, "VID_setting", devname);
 444         velocity_set_bool_opt(&opts->flags, enable_tagging[index], TAGGING_DEF, VELOCITY_FLAGS_TAGGING, "enable_tagging", devname);
 445         velocity_set_bool_opt(&opts->flags, txcsum_offload[index], TX_CSUM_DEF, VELOCITY_FLAGS_TX_CSUM, "txcsum_offload", devname);
 446         velocity_set_int_opt(&opts->flow_cntl, flow_control[index], FLOW_CNTL_MIN, FLOW_CNTL_MAX, FLOW_CNTL_DEF, "flow_control", devname);
 447         velocity_set_bool_opt(&opts->flags, IP_byte_align[index], IP_ALIG_DEF, VELOCITY_FLAGS_IP_ALIGN, "IP_byte_align", devname);
 448         velocity_set_bool_opt(&opts->flags, ValPktLen[index], VAL_PKT_LEN_DEF, VELOCITY_FLAGS_VAL_PKT_LEN, "ValPktLen", devname);
 449         velocity_set_int_opt((int *) &opts->spd_dpx, speed_duplex[index], MED_LNK_MIN, MED_LNK_MAX, MED_LNK_DEF, "Media link mode", devname);
 450         velocity_set_int_opt((int *) &opts->wol_opts, wol_opts[index], WOL_OPT_MIN, WOL_OPT_MAX, WOL_OPT_DEF, "Wake On Lan options", devname);
 451         velocity_set_int_opt((int *) &opts->int_works, int_works[index], INT_WORKS_MIN, INT_WORKS_MAX, INT_WORKS_DEF, "Interrupt service works", devname);
 452         opts->numrx = (opts->numrx & ~3);
 453 }
 454
 455 /**
 456  *      velocity_init_cam_filter        -       initialise CAM
 457  *      @vptr: velocity to program
 458  *
 459  *      Initialize the content addressable memory used for filters. Load
 460  *      appropriately according to the presence of VLAN
 461  */
 462
 463 static void velocity_init_cam_filter(struct velocity_info *vptr)
 464 {
 465         struct mac_regs __iomem * regs = vptr->mac_regs;
 466
 467         /* Turn on MCFG_PQEN, turn off MCFG_RTGOPT */
 468         WORD_REG_BITS_SET(MCFG_PQEN, MCFG_RTGOPT, &regs->MCFG);
 469         WORD_REG_BITS_ON(MCFG_VIDFR, &regs->MCFG);
 470
 471         /* Disable all CAMs */
 472         memset(vptr->vCAMmask, 0, sizeof(u8) * 8);
 473         memset(vptr->mCAMmask, 0, sizeof(u8) * 8);
 474         mac_set_cam_mask(regs, vptr->vCAMmask, VELOCITY_VLAN_ID_CAM);
 475         mac_set_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
 476
 477         /* Enable first VCAM */
 478         if (vptr->flags & VELOCITY_FLAGS_TAGGING) {
 479                 /* If Tagging option is enabled and VLAN ID is not zero, then
 480                    turn on MCFG_RTGOPT also */
 481                 if (vptr->options.vid != 0)
 482                         WORD_REG_BITS_ON(MCFG_RTGOPT, &regs->MCFG);
 483
 484                 mac_set_cam(regs, 0, (u8 *) & (vptr->options.vid), VELOCITY_VLAN_ID_CAM);
 485                 vptr->vCAMmask[0] |= 1;
 486                 mac_set_cam_mask(regs, vptr->vCAMmask, VELOCITY_VLAN_ID_CAM);
 487         } else {
 488                 u16 temp = 0;
 489                 mac_set_cam(regs, 0, (u8 *) &temp, VELOCITY_VLAN_ID_CAM);
 490                 temp = 1;
 491                 mac_set_cam_mask(regs, (u8 *) &temp, VELOCITY_VLAN_ID_CAM);
 492         }
 493 }
 494
 495 /**
 496  *      velocity_rx_reset       -       handle a receive reset
 497  *      @vptr: velocity we are resetting
 498  *
 499  *      Reset the ownership and status for the receive ring side.
 500  *      Hand all the receive queue to the NIC.
 501  */
 502
 503 static void velocity_rx_reset(struct velocity_info *vptr)
 504 {
 505
 506         struct mac_regs __iomem * regs = vptr->mac_regs;
 507         int i;
 508
 509         vptr->rd_dirty = vptr->rd_filled = vptr->rd_curr = 0;
 510
 511         /*
 512          *      Init state, all RD entries belong to the NIC
 513          */
 514         for (i = 0; i < vptr->options.numrx; ++i)
 515                 vptr->rd_ring[i].rdesc0.owner = OWNED_BY_NIC;
 516
 517         writew(vptr->options.numrx, &regs->RBRDU);
 518         writel(vptr->rd_pool_dma, &regs->RDBaseLo);
 519         writew(0, &regs->RDIdx);
 520         writew(vptr->options.numrx - 1, &regs->RDCSize);
 521 }
 522
 523 /**
 524  *      velocity_init_registers -       initialise MAC registers
 525  *      @vptr: velocity to init
 526  *      @type: type of initialisation (hot or cold)
 527  *
 528  *      Initialise the MAC on a reset or on first set up on the
 529  *      hardware.
 530  */
 531
 532 static void velocity_init_registers(struct velocity_info *vptr,
 533                                     enum velocity_init_type type)
 534 {
 535         struct mac_regs __iomem * regs = vptr->mac_regs;
 536         int i, mii_status;
 537
 538         mac_wol_reset(regs);
 539
 540         switch (type) {
 541         case VELOCITY_INIT_RESET:
 542         case VELOCITY_INIT_WOL:
 543
 544                 netif_stop_queue(vptr->dev);
 545
 546                 /*
 547                  *      Reset RX to prevent RX pointer not on the 4X location
 548                  */
 549                 velocity_rx_reset(vptr);
 550                 mac_rx_queue_run(regs);
 551                 mac_rx_queue_wake(regs);
 552
 553                 mii_status = velocity_get_opt_media_mode(vptr);
 554                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 555                         velocity_print_link_status(vptr);
 556                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 557                                 netif_wake_queue(vptr->dev);
 558                 }
 559
 560                 enable_flow_control_ability(vptr);
 561
 562                 mac_clear_isr(regs);
 563                 writel(CR0_STOP, &regs->CR0Clr);
 564                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT),
 565                                                         &regs->CR0Set);
 566
 567                 break;
 568
 569         case VELOCITY_INIT_COLD:
 570         default:
 571                 /*
 572                  *      Do reset
 573                  */
 574                 velocity_soft_reset(vptr);
 575                 mdelay(5);
 576
 577                 mac_eeprom_reload(regs);
 578                 for (i = 0; i < 6; i++) {
 579                         writeb(vptr->dev->dev_addr[i], &(regs->PAR[i]));
 580                 }
 581                 /*
 582                  *      clear Pre_ACPI bit.
 583                  */
 584                 BYTE_REG_BITS_OFF(CFGA_PACPI, &(regs->CFGA));
 585                 mac_set_rx_thresh(regs, vptr->options.rx_thresh);
 586                 mac_set_dma_length(regs, vptr->options.DMA_length);
 587
 588                 writeb(WOLCFG_SAM | WOLCFG_SAB, &regs->WOLCFGSet);
 589                 /*
 590                  *      Back off algorithm use original IEEE standard
 591                  */
 592                 BYTE_REG_BITS_SET(CFGB_OFSET, (CFGB_CRANDOM | CFGB_CAP | CFGB_MBA | CFGB_BAKOPT), &regs->CFGB);
 593
 594                 /*
 595                  *      Init CAM filter
 596                  */
 597                 velocity_init_cam_filter(vptr);
 598
 599                 /*
 600                  *      Set packet filter: Receive directed and broadcast address
 601                  */
 602                 velocity_set_multi(vptr->dev);
 603
 604                 /*
 605                  *      Enable MII auto-polling
 606                  */
 607                 enable_mii_autopoll(regs);
 608
 609                 vptr->int_mask = INT_MASK_DEF;
 610
 611                 writel(cpu_to_le32(vptr->rd_pool_dma), &regs->RDBaseLo);
 612                 writew(vptr->options.numrx - 1, &regs->RDCSize);
 613                 mac_rx_queue_run(regs);
 614                 mac_rx_queue_wake(regs);
 615
 616                 writew(vptr->options.numtx - 1, &regs->TDCSize);
 617
 618                 for (i = 0; i < vptr->num_txq; i++) {
 619                         writel(cpu_to_le32(vptr->td_pool_dma[i]), &(regs->TDBaseLo[i]));
 620                         mac_tx_queue_run(regs, i);
 621                 }
 622
 623                 init_flow_control_register(vptr);
 624
 625                 writel(CR0_STOP, &regs->CR0Clr);
 626                 writel((CR0_DPOLL | CR0_TXON | CR0_RXON | CR0_STRT), &regs->CR0Set);
 627
 628                 mii_status = velocity_get_opt_media_mode(vptr);
 629                 netif_stop_queue(vptr->dev);
 630
 631                 mii_init(vptr, mii_status);
 632
 633                 if (velocity_set_media_mode(vptr, mii_status) != VELOCITY_LINK_CHANGE) {
 634                         velocity_print_link_status(vptr);
 635                         if (!(vptr->mii_status & VELOCITY_LINK_FAIL))
 636                                 netif_wake_queue(vptr->dev);
 637                 }
 638
 639                 enable_flow_control_ability(vptr);
 640                 mac_hw_mibs_init(regs);
 641                 mac_write_int_mask(vptr->int_mask, regs);
 642                 mac_clear_isr(regs);
 643
 644         }
 645 }
 646
 647 /**
 648  *      velocity_soft_reset     -       soft reset
 649  *      @vptr: velocity to reset
 650  *
 651  *      Kick off a soft reset of the velocity adapter and then poll
 652  *      until the reset sequence has completed before returning.
 653  */
 654
 655 static int velocity_soft_reset(struct velocity_info *vptr)
 656 {
 657         struct mac_regs __iomem * regs = vptr->mac_regs;
 658         int i = 0;
 659
 660         writel(CR0_SFRST, &regs->CR0Set);
 661
 662         for (i = 0; i < W_MAX_TIMEOUT; i++) {
 663                 udelay(5);
 664                 if (!DWORD_REG_BITS_IS_ON(CR0_SFRST, &regs->CR0Set))
 665                         break;
 666         }
 667
 668         if (i == W_MAX_TIMEOUT) {
 669                 writel(CR0_FORSRST, &regs->CR0Set);
 670                 /* FIXME: PCI POSTING */
 671                 /* delay 2ms */
 672                 mdelay(2);
 673         }
 674         return 0;
 675 }
 676
 677 /**
 678  *      velocity_found1         -       set up discovered velocity card
 679  *      @pdev: PCI device
 680  *      @ent: PCI device table entry that matched
 681  *
 682  *      Configure a discovered adapter from scratch. Return a negative
 683  *      errno error code on failure paths.
 684  */
 685
 686 static int __devinit velocity_found1(struct pci_dev *pdev, const struct pci_device_id *ent)
 687 {
 688         static int first = 1;
 689         struct net_device *dev;
 690         int i;
 691         struct velocity_info_tbl *info = (struct velocity_info_tbl *) ent->driver_data;
 692         struct velocity_info *vptr;
 693         struct mac_regs __iomem * regs;
 694         int ret = -ENOMEM;
 695
 696         if (velocity_nics >= MAX_UNITS) {
 697                 printk(KERN_NOTICE VELOCITY_NAME ": already found %d NICs.\n",
 698                                 velocity_nics);
 699                 return -ENODEV;
 700         }
 701
 702         dev = alloc_etherdev(sizeof(struct velocity_info));
 703
 704         if (dev == NULL) {
 705                 printk(KERN_ERR VELOCITY_NAME ": allocate net device failed.\n");
 706                 goto out;
 707         }
 708
 709         /* Chain it all together */
 710
 711         SET_MODULE_OWNER(dev);
 712         SET_NETDEV_DEV(dev, &pdev->dev);
 713         vptr = dev->priv;
 714
 715
 716         if (first) {
 717                 printk(KERN_INFO "%s Ver. %s\n",
 718                         VELOCITY_FULL_DRV_NAM, VELOCITY_VERSION);
 719                 printk(KERN_INFO "Copyright (c) 2002, 2003 VIA Networking Technologies, Inc.\n");
 720                 printk(KERN_INFO "Copyright (c) 2004 Red Hat Inc.\n");
 721                 first = 0;
 722         }
 723
 724         velocity_init_info(pdev, vptr, info);
 725
 726         vptr->dev = dev;
 727
 728         dev->irq = pdev->irq;
 729
 730         ret = pci_enable_device(pdev);
 731         if (ret < 0)
 732                 goto err_free_dev;
 733
 734         ret = velocity_get_pci_info(vptr, pdev);
 735         if (ret < 0) {
 736                 printk(KERN_ERR VELOCITY_NAME ": Failed to find PCI device.\n");
 737                 goto err_disable;
 738         }
 739
 740         ret = pci_request_regions(pdev, VELOCITY_NAME);
 741         if (ret < 0) {
 742                 printk(KERN_ERR VELOCITY_NAME ": Failed to find PCI device.\n");
 743                 goto err_disable;
 744         }
 745
 746         regs = ioremap(vptr->memaddr, vptr->io_size);
 747         if (regs == NULL) {
 748                 ret = -EIO;
 749                 goto err_release_res;
 750         }
 751
 752         vptr->mac_regs = regs;
 753
 754         mac_wol_reset(regs);
 755
 756         dev->base_addr = vptr->ioaddr;
 757
 758         for (i = 0; i < 6; i++)
 759                 dev->dev_addr[i] = readb(&regs->PAR[i]);
 760
 761
 762         velocity_get_options(&vptr->options, velocity_nics, dev->name);
 763
 764         /*
 765          *      Mask out the options cannot be set to the chip
 766          */
 767
 768         vptr->options.flags &= info->flags;
 769
 770         /*
 771          *      Enable the chip specified capbilities
 772          */
 773
 774         vptr->flags = vptr->options.flags | (info->flags & 0xFF000000UL);
 775
 776         vptr->wol_opts = vptr->options.wol_opts;
 777         vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
 778
 779         vptr->phy_id = MII_GET_PHY_ID(vptr->mac_regs);
 780
 781         dev->irq = pdev->irq;
 782         dev->open = velocity_open;
 783         dev->hard_start_xmit = velocity_xmit;
 784         dev->stop = velocity_close;
 785         dev->get_stats = velocity_get_stats;
 786         dev->set_multicast_list = velocity_set_multi;
 787         dev->do_ioctl = velocity_ioctl;
 788         dev->ethtool_ops = &velocity_ethtool_ops;
 789         dev->change_mtu = velocity_change_mtu;
 790 #ifdef  VELOCITY_ZERO_COPY_SUPPORT
 791         dev->features |= NETIF_F_SG;
 792 #endif
 793
 794         if (vptr->flags & VELOCITY_FLAGS_TX_CSUM) {
 795                 dev->features |= NETIF_F_IP_CSUM;
 796         }
 797
 798         ret = register_netdev(dev);
 799         if (ret < 0)
 800                 goto err_iounmap;
 801
 802         if (velocity_get_link(dev))
 803                 netif_carrier_off(dev);
 804
 805         velocity_print_info(vptr);
 806         pci_set_drvdata(pdev, dev);
 807
 808         /* and leave the chip powered down */
 809
 810         pci_set_power_state(pdev, PCI_D3hot);
 811 #ifdef CONFIG_PM
 812         {
 813                 unsigned long flags;
 814
 815                 spin_lock_irqsave(&velocity_dev_list_lock, flags);
 816                 list_add(&vptr->list, &velocity_dev_list);
 817                 spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
 818         }
 819 #endif
 820         velocity_nics++;
 821 out:
 822         return ret;
 823
 824 err_iounmap:
 825         iounmap(regs);
 826 err_release_res:
 827         pci_release_regions(pdev);
 828 err_disable:
 829         pci_disable_device(pdev);
 830 err_free_dev:
 831         free_netdev(dev);
 832         goto out;
 833 }
 834
 835 /**
 836  *      velocity_print_info     -       per driver data
 837  *      @vptr: velocity
 838  *
 839  *      Print per driver data as the kernel driver finds Velocity
 840  *      hardware
 841  */
 842
 843 static void __devinit velocity_print_info(struct velocity_info *vptr)
 844 {
 845         struct net_device *dev = vptr->dev;
 846
 847         printk(KERN_INFO "%s: %s\n", dev->name, get_chip_name(vptr->chip_id));
 848         printk(KERN_INFO "%s: Ethernet Address: %2.2X:%2.2X:%2.2X:%2.2X:%2.2X:%2.2X\n",
 849                 dev->name,
 850                 dev->dev_addr[0], dev->dev_addr[1], dev->dev_addr[2],
 851                 dev->dev_addr[3], dev->dev_addr[4], dev->dev_addr[5]);
 852 }
 853
 854 /**
 855  *      velocity_init_info      -       init private data
 856  *      @pdev: PCI device
 857  *      @vptr: Velocity info
 858  *      @info: Board type
 859  *
 860  *      Set up the initial velocity_info struct for the device that has been
 861  *      discovered.
 862  */
 863
 864 static void __devinit velocity_init_info(struct pci_dev *pdev, struct velocity_info *vptr, struct velocity_info_tbl *info)
 865 {
 866         memset(vptr, 0, sizeof(struct velocity_info));
 867
 868         vptr->pdev = pdev;
 869         vptr->chip_id = info->chip_id;
 870         vptr->io_size = info->io_size;
 871         vptr->num_txq = info->txqueue;
 872         vptr->multicast_limit = MCAM_SIZE;
 873         spin_lock_init(&vptr->lock);
 874         INIT_LIST_HEAD(&vptr->list);
 875 }
 876
 877 /**
 878  *      velocity_get_pci_info   -       retrieve PCI info for device
 879  *      @vptr: velocity device
 880  *      @pdev: PCI device it matches
 881  *
 882  *      Retrieve the PCI configuration space data that interests us from
 883  *      the kernel PCI layer
 884  */
 885
 886 static int __devinit velocity_get_pci_info(struct velocity_info *vptr, struct pci_dev *pdev)
 887 {
 888
 889         if(pci_read_config_byte(pdev, PCI_REVISION_ID, &vptr->rev_id) < 0)
 890                 return -EIO;
 891
 892         pci_set_master(pdev);
 893
 894         vptr->ioaddr = pci_resource_start(pdev, 0);
 895         vptr->memaddr = pci_resource_start(pdev, 1);
 896
 897         if(!(pci_resource_flags(pdev, 0) & IORESOURCE_IO))
 898         {
 899                 printk(KERN_ERR "%s: region #0 is not an I/O resource, aborting.\n",
 900                                 pci_name(pdev));
 901                 return -EINVAL;
 902         }
 903
 904         if((pci_resource_flags(pdev, 1) & IORESOURCE_IO))
 905         {
 906                 printk(KERN_ERR "%s: region #1 is an I/O resource, aborting.\n",
 907                                 pci_name(pdev));
 908                 return -EINVAL;
 909         }
 910
 911         if(pci_resource_len(pdev, 1) < 256)
 912         {
 913                 printk(KERN_ERR "%s: region #1 is too small.\n",
 914                                 pci_name(pdev));
 915                 return -EINVAL;
 916         }
 917         vptr->pdev = pdev;
 918
 919         return 0;
 920 }
 921
 922 /**
 923  *      velocity_init_rings     -       set up DMA rings
 924  *      @vptr: Velocity to set up
 925  *
 926  *      Allocate PCI mapped DMA rings for the receive and transmit layer
 927  *      to use.
 928  */
 929
 930 static int velocity_init_rings(struct velocity_info *vptr)
 931 {
 932         int i;
 933         unsigned int psize;
 934         unsigned int tsize;
 935         dma_addr_t pool_dma;
 936         u8 *pool;
 937
 938         /*
 939          *      Allocate all RD/TD rings a single pool
 940          */
 941
 942         psize = vptr->options.numrx * sizeof(struct rx_desc) +
 943                 vptr->options.numtx * sizeof(struct tx_desc) * vptr->num_txq;
 944
 945         /*
 946          * pci_alloc_consistent() fulfills the requirement for 64 bytes
 947          * alignment
 948          */
 949         pool = pci_alloc_consistent(vptr->pdev, psize, &pool_dma);
 950
 951         if (pool == NULL) {
 952                 printk(KERN_ERR "%s : DMA memory allocation failed.\n",
 953                                         vptr->dev->name);
 954                 return -ENOMEM;
 955         }
 956
 957         memset(pool, 0, psize);
 958
 959         vptr->rd_ring = (struct rx_desc *) pool;
 960
 961         vptr->rd_pool_dma = pool_dma;
 962
 963         tsize = vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq;
 964         vptr->tx_bufs = pci_alloc_consistent(vptr->pdev, tsize,
 965                                                 &vptr->tx_bufs_dma);
 966
 967         if (vptr->tx_bufs == NULL) {
 968                 printk(KERN_ERR "%s: DMA memory allocation failed.\n",
 969                                         vptr->dev->name);
 970                 pci_free_consistent(vptr->pdev, psize, pool, pool_dma);
 971                 return -ENOMEM;
 972         }
 973
 974         memset(vptr->tx_bufs, 0, vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq);
 975
 976         i = vptr->options.numrx * sizeof(struct rx_desc);
 977         pool += i;
 978         pool_dma += i;
 979         for (i = 0; i < vptr->num_txq; i++) {
 980                 int offset = vptr->options.numtx * sizeof(struct tx_desc);
 981
 982                 vptr->td_pool_dma[i] = pool_dma;
 983                 vptr->td_rings[i] = (struct tx_desc *) pool;
 984                 pool += offset;
 985                 pool_dma += offset;
 986         }
 987         return 0;
 988 }
 989
 990 /**
 991  *      velocity_free_rings     -       free PCI ring pointers
 992  *      @vptr: Velocity to free from
 993  *
 994  *      Clean up the PCI ring buffers allocated to this velocity.
 995  */
 996
 997 static void velocity_free_rings(struct velocity_info *vptr)
 998 {
 999         int size;
1000
1001         size = vptr->options.numrx * sizeof(struct rx_desc) +
1002                vptr->options.numtx * sizeof(struct tx_desc) * vptr->num_txq;
1003
1004         pci_free_consistent(vptr->pdev, size, vptr->rd_ring, vptr->rd_pool_dma);
1005
1006         size = vptr->options.numtx * PKT_BUF_SZ * vptr->num_txq;
1007
1008         pci_free_consistent(vptr->pdev, size, vptr->tx_bufs, vptr->tx_bufs_dma);
1009 }
1010
1011 static inline void velocity_give_many_rx_descs(struct velocity_info *vptr)
1012 {
1013         struct mac_regs __iomem *regs = vptr->mac_regs;
1014         int avail, dirty, unusable;
1015
1016         /*
1017          * RD number must be equal to 4X per hardware spec
1018          * (programming guide rev 1.20, p.13)
1019          */
1020         if (vptr->rd_filled < 4)
1021                 return;
1022
1023         wmb();
1024
1025         unusable = vptr->rd_filled & 0x0003;
1026         dirty = vptr->rd_dirty - unusable;
1027         for (avail = vptr->rd_filled & 0xfffc; avail; avail--) {
1028                 dirty = (dirty > 0) ? dirty - 1 : vptr->options.numrx - 1;
1029                 vptr->rd_ring[dirty].rdesc0.owner = OWNED_BY_NIC;
1030         }
1031
1032         writew(vptr->rd_filled & 0xfffc, &regs->RBRDU);
1033         vptr->rd_filled = unusable;
1034 }
1035
1036 static int velocity_rx_refill(struct velocity_info *vptr)
1037 {
1038         int dirty = vptr->rd_dirty, done = 0, ret = 0;
1039
1040         do {
1041                 struct rx_desc *rd = vptr->rd_ring + dirty;
1042
1043                 /* Fine for an all zero Rx desc at init time as well */
1044                 if (rd->rdesc0.owner == OWNED_BY_NIC)
1045                         break;
1046
1047                 if (!vptr->rd_info[dirty].skb) {
1048                         ret = velocity_alloc_rx_buf(vptr, dirty);
1049                         if (ret < 0)
1050                                 break;
1051                 }
1052                 done++;
1053                 dirty = (dirty < vptr->options.numrx - 1) ? dirty + 1 : 0;
1054         } while (dirty != vptr->rd_curr);
1055
1056         if (done) {
1057                 vptr->rd_dirty = dirty;
1058                 vptr->rd_filled += done;
1059                 velocity_give_many_rx_descs(vptr);
1060         }
1061
1062         return ret;
1063 }
1064
1065 /**
1066  *      velocity_init_rd_ring   -       set up receive ring
1067  *      @vptr: velocity to configure
1068  *
1069  *      Allocate and set up the receive buffers for each ring slot and
1070  *      assign them to the network adapter.
1071  */
1072
1073 static int velocity_init_rd_ring(struct velocity_info *vptr)
1074 {
1075         int ret = -ENOMEM;
1076         unsigned int rsize = sizeof(struct velocity_rd_info) *
1077                                         vptr->options.numrx;
1078
1079         vptr->rd_info = kmalloc(rsize, GFP_KERNEL);
1080         if(vptr->rd_info == NULL)
1081                 goto out;
1082         memset(vptr->rd_info, 0, rsize);
1083
1084         vptr->rd_filled = vptr->rd_dirty = vptr->rd_curr = 0;
1085
1086         ret = velocity_rx_refill(vptr);
1087         if (ret < 0) {
1088                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_ERR
1089                         "%s: failed to allocate RX buffer.\n", vptr->dev->name);
1090                 velocity_free_rd_ring(vptr);
1091         }
1092 out:
1093         return ret;
1094 }
1095
1096 /**
1097  *      velocity_free_rd_ring   -       free receive ring
1098  *      @vptr: velocity to clean up
1099  *
1100  *      Free the receive buffers for each ring slot and any
1101  *      attached socket buffers that need to go away.
1102  */
1103
1104 static void velocity_free_rd_ring(struct velocity_info *vptr)
1105 {
1106         int i;
1107
1108         if (vptr->rd_info == NULL)
1109                 return;
1110
1111         for (i = 0; i < vptr->options.numrx; i++) {
1112                 struct velocity_rd_info *rd_info = &(vptr->rd_info[i]);
1113                 struct rx_desc *rd = vptr->rd_ring + i;
1114
1115                 memset(rd, 0, sizeof(*rd));
1116
1117                 if (!rd_info->skb)
1118                         continue;
1119                 pci_unmap_single(vptr->pdev, rd_info->skb_dma, vptr->rx_buf_sz,
1120                                  PCI_DMA_FROMDEVICE);
1121                 rd_info->skb_dma = (dma_addr_t) NULL;
1122
1123                 dev_kfree_skb(rd_info->skb);
1124                 rd_info->skb = NULL;
1125         }
1126
1127         kfree(vptr->rd_info);
1128         vptr->rd_info = NULL;
1129 }
1130
1131 /**
1132  *      velocity_init_td_ring   -       set up transmit ring
1133  *      @vptr:  velocity
1134  *
1135  *      Set up the transmit ring and chain the ring pointers together.
1136  *      Returns zero on success or a negative posix errno code for
1137  *      failure.
1138  */
1139
1140 static int velocity_init_td_ring(struct velocity_info *vptr)
1141 {
1142         int i, j;
1143         dma_addr_t curr;
1144         struct tx_desc *td;
1145         struct velocity_td_info *td_info;
1146         unsigned int tsize = sizeof(struct velocity_td_info) *
1147                                         vptr->options.numtx;
1148
1149         /* Init the TD ring entries */
1150         for (j = 0; j < vptr->num_txq; j++) {
1151                 curr = vptr->td_pool_dma[j];
1152
1153                 vptr->td_infos[j] = kmalloc(tsize, GFP_KERNEL);
1154                 if(vptr->td_infos[j] == NULL)
1155                 {
1156                         while(--j >= 0)
1157                                 kfree(vptr->td_infos[j]);
1158                         return -ENOMEM;
1159                 }
1160                 memset(vptr->td_infos[j], 0, tsize);
1161
1162                 for (i = 0; i < vptr->options.numtx; i++, curr += sizeof(struct tx_desc)) {
1163                         td = &(vptr->td_rings[j][i]);
1164                         td_info = &(vptr->td_infos[j][i]);
1165                         td_info->buf = vptr->tx_bufs +
1166                                 (j * vptr->options.numtx + i) * PKT_BUF_SZ;
1167                         td_info->buf_dma = vptr->tx_bufs_dma +
1168                                 (j * vptr->options.numtx + i) * PKT_BUF_SZ;
1169                 }
1170                 vptr->td_tail[j] = vptr->td_curr[j] = vptr->td_used[j] = 0;
1171         }
1172         return 0;
1173 }
1174
1175 /*
1176  *      FIXME: could we merge this with velocity_free_tx_buf ?
1177  */
1178
1179 static void velocity_free_td_ring_entry(struct velocity_info *vptr,
1180                                                          int q, int n)
1181 {
1182         struct velocity_td_info * td_info = &(vptr->td_infos[q][n]);
1183         int i;
1184
1185         if (td_info == NULL)
1186                 return;
1187
1188         if (td_info->skb) {
1189                 for (i = 0; i < td_info->nskb_dma; i++)
1190                 {
1191                         if (td_info->skb_dma[i]) {
1192                                 pci_unmap_single(vptr->pdev, td_info->skb_dma[i],
1193                                         td_info->skb->len, PCI_DMA_TODEVICE);
1194                                 td_info->skb_dma[i] = (dma_addr_t) NULL;
1195                         }
1196                 }
1197                 dev_kfree_skb(td_info->skb);
1198                 td_info->skb = NULL;
1199         }
1200 }
1201
1202 /**
1203  *      velocity_free_td_ring   -       free td ring
1204  *      @vptr: velocity
1205  *
1206  *      Free up the transmit ring for this particular velocity adapter.
1207  *      We free the ring contents but not the ring itself.
1208  */
1209
1210 static void velocity_free_td_ring(struct velocity_info *vptr)
1211 {
1212         int i, j;
1213
1214         for (j = 0; j < vptr->num_txq; j++) {
1215                 if (vptr->td_infos[j] == NULL)
1216                         continue;
1217                 for (i = 0; i < vptr->options.numtx; i++) {
1218                         velocity_free_td_ring_entry(vptr, j, i);
1219
1220                 }
1221                 kfree(vptr->td_infos[j]);
1222                 vptr->td_infos[j] = NULL;
1223         }
1224 }
1225
1226 /**
1227  *      velocity_rx_srv         -       service RX interrupt
1228  *      @vptr: velocity
1229  *      @status: adapter status (unused)
1230  *
1231  *      Walk the receive ring of the velocity adapter and remove
1232  *      any received packets from the receive queue. Hand the ring
1233  *      slots back to the adapter for reuse.
1234  */
1235
1236 static int velocity_rx_srv(struct velocity_info *vptr, int status)
1237 {
1238         struct net_device_stats *stats = &vptr->stats;
1239         int rd_curr = vptr->rd_curr;
1240         int works = 0;
1241
1242         do {
1243                 struct rx_desc *rd = vptr->rd_ring + rd_curr;
1244
1245                 if (!vptr->rd_info[rd_curr].skb)
1246                         break;
1247
1248                 if (rd->rdesc0.owner == OWNED_BY_NIC)
1249                         break;
1250
1251                 rmb();
1252
1253                 /*
1254                  *      Don't drop CE or RL error frame although RXOK is off
1255                  */
1256                 if ((rd->rdesc0.RSR & RSR_RXOK) || (!(rd->rdesc0.RSR & RSR_RXOK) && (rd->rdesc0.RSR & (RSR_CE | RSR_RL)))) {
1257                         if (velocity_receive_frame(vptr, rd_curr) < 0)
1258                                 stats->rx_dropped++;
1259                 } else {
1260                         if (rd->rdesc0.RSR & RSR_CRC)
1261                                 stats->rx_crc_errors++;
1262                         if (rd->rdesc0.RSR & RSR_FAE)
1263                                 stats->rx_frame_errors++;
1264
1265                         stats->rx_dropped++;
1266                 }
1267
1268                 rd->inten = 1;
1269
1270                 vptr->dev->last_rx = jiffies;
1271
1272                 rd_curr++;
1273                 if (rd_curr >= vptr->options.numrx)
1274                         rd_curr = 0;
1275         } while (++works <= 15);
1276
1277         vptr->rd_curr = rd_curr;
1278
1279         if (works > 0 && velocity_rx_refill(vptr) < 0) {
1280                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_ERR
1281                         "%s: rx buf allocation failure\n", vptr->dev->name);
1282         }
1283
1284         VAR_USED(stats);
1285         return works;
1286 }
1287
1288 /**
1289  *      velocity_rx_csum        -       checksum process
1290  *      @rd: receive packet descriptor
1291  *      @skb: network layer packet buffer
1292  *
1293  *      Process the status bits for the received packet and determine
1294  *      if the checksum was computed and verified by the hardware
1295  */
1296
1297 static inline void velocity_rx_csum(struct rx_desc *rd, struct sk_buff *skb)
1298 {
1299         skb->ip_summed = CHECKSUM_NONE;
1300
1301         if (rd->rdesc1.CSM & CSM_IPKT) {
1302                 if (rd->rdesc1.CSM & CSM_IPOK) {
1303                         if ((rd->rdesc1.CSM & CSM_TCPKT) ||
1304                                         (rd->rdesc1.CSM & CSM_UDPKT)) {
1305                                 if (!(rd->rdesc1.CSM & CSM_TUPOK)) {
1306                                         return;
1307                                 }
1308                         }
1309                         skb->ip_summed = CHECKSUM_UNNECESSARY;
1310                 }
1311         }
1312 }
1313
1314 /**
1315  *      velocity_rx_copy        -       in place Rx copy for small packets
1316  *      @rx_skb: network layer packet buffer candidate
1317  *      @pkt_size: received data size
1318  *      @rd: receive packet descriptor
1319  *      @dev: network device
1320  *
1321  *      Replace the current skb that is scheduled for Rx processing by a
1322  *      shorter, immediatly allocated skb, if the received packet is small
1323  *      enough. This function returns a negative value if the received
1324  *      packet is too big or if memory is exhausted.
1325  */
1326 static inline int velocity_rx_copy(struct sk_buff **rx_skb, int pkt_size,
1327                                    struct velocity_info *vptr)
1328 {
1329         int ret = -1;
1330
1331         if (pkt_size < rx_copybreak) {
1332                 struct sk_buff *new_skb;
1333
1334                 new_skb = dev_alloc_skb(pkt_size + 2);
1335                 if (new_skb) {
1336                         new_skb->dev = vptr->dev;
1337                         new_skb->ip_summed = rx_skb[0]->ip_summed;
1338
1339                         if (vptr->flags & VELOCITY_FLAGS_IP_ALIGN)
1340                                 skb_reserve(new_skb, 2);
1341
1342                         memcpy(new_skb->data, rx_skb[0]->data, pkt_size);
1343                         *rx_skb = new_skb;
1344                         ret = 0;
1345                 }
1346
1347         }
1348         return ret;
1349 }
1350
1351 /**
1352  *      velocity_iph_realign    -       IP header alignment
1353  *      @vptr: velocity we are handling
1354  *      @skb: network layer packet buffer
1355  *      @pkt_size: received data size
1356  *
1357  *      Align IP header on a 2 bytes boundary. This behavior can be
1358  *      configured by the user.
1359  */
1360 static inline void velocity_iph_realign(struct velocity_info *vptr,
1361                                         struct sk_buff *skb, int pkt_size)
1362 {
1363         /* FIXME - memmove ? */
1364         if (vptr->flags & VELOCITY_FLAGS_IP_ALIGN) {
1365                 int i;
1366
1367                 for (i = pkt_size; i >= 0; i--)
1368                         *(skb->data + i + 2) = *(skb->data + i);
1369                 skb_reserve(skb, 2);
1370         }
1371 }
1372
1373 /**
1374  *      velocity_receive_frame  -       received packet processor
1375  *      @vptr: velocity we are handling
1376  *      @idx: ring index
1377  *
1378  *      A packet has arrived. We process the packet and if appropriate
1379  *      pass the frame up the network stack
1380  */
1381
1382 static int velocity_receive_frame(struct velocity_info *vptr, int idx)
1383 {
1384         void (*pci_action)(struct pci_dev *, dma_addr_t, size_t, int);
1385         struct net_device_stats *stats = &vptr->stats;
1386         struct velocity_rd_info *rd_info = &(vptr->rd_info[idx]);
1387         struct rx_desc *rd = &(vptr->rd_ring[idx]);
1388         int pkt_len = rd->rdesc0.len;
1389         struct sk_buff *skb;
1390
1391         if (rd->rdesc0.RSR & (RSR_STP | RSR_EDP)) {
1392                 VELOCITY_PRT(MSG_LEVEL_VERBOSE, KERN_ERR " %s : the received frame span multple RDs.\n", vptr->dev->name);
1393                 stats->rx_length_errors++;
1394                 return -EINVAL;
1395         }
1396
1397         if (rd->rdesc0.RSR & RSR_MAR)
1398                 vptr->stats.multicast++;
1399
1400         skb = rd_info->skb;
1401         skb->dev = vptr->dev;
1402
1403         pci_dma_sync_single_for_cpu(vptr->pdev, rd_info->skb_dma,
1404                                     vptr->rx_buf_sz, PCI_DMA_FROMDEVICE);
1405
1406         /*
1407          *      Drop frame not meeting IEEE 802.3
1408          */
1409
1410         if (vptr->flags & VELOCITY_FLAGS_VAL_PKT_LEN) {
1411                 if (rd->rdesc0.RSR & RSR_RL) {
1412                         stats->rx_length_errors++;
1413                         return -EINVAL;
1414                 }
1415         }
1416
1417         pci_action = pci_dma_sync_single_for_device;
1418
1419         velocity_rx_csum(rd, skb);
1420
1421         if (velocity_rx_copy(&skb, pkt_len, vptr) < 0) {
1422                 velocity_iph_realign(vptr, skb, pkt_len);
1423                 pci_action = pci_unmap_single;
1424                 rd_info->skb = NULL;
1425         }
1426
1427         pci_action(vptr->pdev, rd_info->skb_dma, vptr->rx_buf_sz,
1428                    PCI_DMA_FROMDEVICE);
1429
1430         skb_put(skb, pkt_len - 4);
1431         skb->protocol = eth_type_trans(skb, skb->dev);
1432
1433         stats->rx_bytes += pkt_len;
1434         netif_rx(skb);
1435
1436         return 0;
1437 }
1438
1439 /**
1440  *      velocity_alloc_rx_buf   -       allocate aligned receive buffer
1441  *      @vptr: velocity
1442  *      @idx: ring index
1443  *
1444  *      Allocate a new full sized buffer for the reception of a frame and
1445  *      map it into PCI space for the hardware to use. The hardware
1446  *      requires *64* byte alignment of the buffer which makes life
1447  *      less fun than would be ideal.
1448  */
1449
1450 static int velocity_alloc_rx_buf(struct velocity_info *vptr, int idx)
1451 {
1452         struct rx_desc *rd = &(vptr->rd_ring[idx]);
1453         struct velocity_rd_info *rd_info = &(vptr->rd_info[idx]);
1454
1455         rd_info->skb = dev_alloc_skb(vptr->rx_buf_sz + 64);
1456         if (rd_info->skb == NULL)
1457                 return -ENOMEM;
1458
1459         /*
1460          *      Do the gymnastics to get the buffer head for data at
1461          *      64byte alignment.
1462          */
1463         skb_reserve(rd_info->skb, (unsigned long) rd_info->skb->data & 63);
1464         rd_info->skb->dev = vptr->dev;
1465         rd_info->skb_dma = pci_map_single(vptr->pdev, rd_info->skb->data, vptr->rx_buf_sz, PCI_DMA_FROMDEVICE);
1466
1467         /*
1468          *      Fill in the descriptor to match
1469          */
1470
1471         *((u32 *) & (rd->rdesc0)) = 0;
1472         rd->len = cpu_to_le32(vptr->rx_buf_sz);
1473         rd->inten = 1;
1474         rd->pa_low = cpu_to_le32(rd_info->skb_dma);
1475         rd->pa_high = 0;
1476         return 0;
1477 }
1478
1479 /**
1480  *      tx_srv          -       transmit interrupt service
1481  *      @vptr; Velocity
1482  *      @status:
1483  *
1484  *      Scan the queues looking for transmitted packets that
1485  *      we can complete and clean up. Update any statistics as
1486  *      neccessary/
1487  */
1488
1489 static int velocity_tx_srv(struct velocity_info *vptr, u32 status)
1490 {
1491         struct tx_desc *td;
1492         int qnum;
1493         int full = 0;
1494         int idx;
1495         int works = 0;
1496         struct velocity_td_info *tdinfo;
1497         struct net_device_stats *stats = &vptr->stats;
1498
1499         for (qnum = 0; qnum < vptr->num_txq; qnum++) {
1500                 for (idx = vptr->td_tail[qnum]; vptr->td_used[qnum] > 0;
1501                         idx = (idx + 1) % vptr->options.numtx) {
1502
1503                         /*
1504                          *      Get Tx Descriptor
1505                          */
1506                         td = &(vptr->td_rings[qnum][idx]);
1507                         tdinfo = &(vptr->td_infos[qnum][idx]);
1508
1509                         if (td->tdesc0.owner == OWNED_BY_NIC)
1510                                 break;
1511
1512                         if ((works++ > 15))
1513                                 break;
1514
1515                         if (td->tdesc0.TSR & TSR0_TERR) {
1516                                 stats->tx_errors++;
1517                                 stats->tx_dropped++;
1518                                 if (td->tdesc0.TSR & TSR0_CDH)
1519                                         stats->tx_heartbeat_errors++;
1520                                 if (td->tdesc0.TSR & TSR0_CRS)
1521                                         stats->tx_carrier_errors++;
1522                                 if (td->tdesc0.TSR & TSR0_ABT)
1523                                         stats->tx_aborted_errors++;
1524                                 if (td->tdesc0.TSR & TSR0_OWC)
1525                                         stats->tx_window_errors++;
1526                         } else {
1527                                 stats->tx_packets++;
1528                                 stats->tx_bytes += tdinfo->skb->len;
1529                         }
1530                         velocity_free_tx_buf(vptr, tdinfo);
1531                         vptr->td_used[qnum]--;
1532                 }
1533                 vptr->td_tail[qnum] = idx;
1534
1535                 if (AVAIL_TD(vptr, qnum) < 1) {
1536                         full = 1;
1537                 }
1538         }
1539         /*
1540          *      Look to see if we should kick the transmit network
1541          *      layer for more work.
1542          */
1543         if (netif_queue_stopped(vptr->dev) && (full == 0)
1544             && (!(vptr->mii_status & VELOCITY_LINK_FAIL))) {
1545                 netif_wake_queue(vptr->dev);
1546         }
1547         return works;
1548 }
1549
1550 /**
1551  *      velocity_print_link_status      -       link status reporting
1552  *      @vptr: velocity to report on
1553  *
1554  *      Turn the link status of the velocity card into a kernel log
1555  *      description of the new link state, detailing speed and duplex
1556  *      status
1557  */
1558
1559 static void velocity_print_link_status(struct velocity_info *vptr)
1560 {
1561
1562         if (vptr->mii_status & VELOCITY_LINK_FAIL) {
1563                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: failed to detect cable link\n", vptr->dev->name);
1564         } else if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1565                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link autonegation", vptr->dev->name);
1566
1567                 if (vptr->mii_status & VELOCITY_SPEED_1000)
1568                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 1000M bps");
1569                 else if (vptr->mii_status & VELOCITY_SPEED_100)
1570                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps");
1571                 else
1572                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps");
1573
1574                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
1575                         VELOCITY_PRT(MSG_LEVEL_INFO, " full duplex\n");
1576                 else
1577                         VELOCITY_PRT(MSG_LEVEL_INFO, " half duplex\n");
1578         } else {
1579                 VELOCITY_PRT(MSG_LEVEL_INFO, KERN_NOTICE "%s: Link forced", vptr->dev->name);
1580                 switch (vptr->options.spd_dpx) {
1581                 case SPD_DPX_100_HALF:
1582                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps half duplex\n");
1583                         break;
1584                 case SPD_DPX_100_FULL:
1585                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 100M bps full duplex\n");
1586                         break;
1587                 case SPD_DPX_10_HALF:
1588                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps half duplex\n");
1589                         break;
1590                 case SPD_DPX_10_FULL:
1591                         VELOCITY_PRT(MSG_LEVEL_INFO, " speed 10M bps full duplex\n");
1592                         break;
1593                 default:
1594                         break;
1595                 }
1596         }
1597 }
1598
1599 /**
1600  *      velocity_error  -       handle error from controller
1601  *      @vptr: velocity
1602  *      @status: card status
1603  *
1604  *      Process an error report from the hardware and attempt to recover
1605  *      the card itself. At the moment we cannot recover from some
1606  *      theoretically impossible errors but this could be fixed using
1607  *      the pci_device_failed logic to bounce the hardware
1608  *
1609  */
1610
1611 static void velocity_error(struct velocity_info *vptr, int status)
1612 {
1613
1614         if (status & ISR_TXSTLI) {
1615                 struct mac_regs __iomem * regs = vptr->mac_regs;
1616
1617                 printk(KERN_ERR "TD structure errror TDindex=%hx\n", readw(&regs->TDIdx[0]));
1618                 BYTE_REG_BITS_ON(TXESR_TDSTR, &regs->TXESR);
1619                 writew(TRDCSR_RUN, &regs->TDCSRClr);
1620                 netif_stop_queue(vptr->dev);
1621
1622                 /* FIXME: port over the pci_device_failed code and use it
1623                    here */
1624         }
1625
1626         if (status & ISR_SRCI) {
1627                 struct mac_regs __iomem * regs = vptr->mac_regs;
1628                 int linked;
1629
1630                 if (vptr->options.spd_dpx == SPD_DPX_AUTO) {
1631                         vptr->mii_status = check_connection_type(regs);
1632
1633                         /*
1634                          *      If it is a 3119, disable frame bursting in
1635                          *      halfduplex mode and enable it in fullduplex
1636                          *       mode
1637                          */
1638                         if (vptr->rev_id < REV_ID_VT3216_A0) {
1639                                 if (vptr->mii_status | VELOCITY_DUPLEX_FULL)
1640                                         BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
1641                                 else
1642                                         BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
1643                         }
1644                         /*
1645                          *      Only enable CD heart beat counter in 10HD mode
1646                          */
1647                         if (!(vptr->mii_status & VELOCITY_DUPLEX_FULL) && (vptr->mii_status & VELOCITY_SPEED_10)) {
1648                                 BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
1649                         } else {
1650                                 BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
1651                         }
1652                 }
1653                 /*
1654                  *      Get link status from PHYSR0
1655                  */
1656                 linked = readb(&regs->PHYSR0) & PHYSR0_LINKGD;
1657
1658                 if (linked) {
1659                         vptr->mii_status &= ~VELOCITY_LINK_FAIL;
1660                         netif_carrier_on(vptr->dev);
1661                 } else {
1662                         vptr->mii_status |= VELOCITY_LINK_FAIL;
1663                         netif_carrier_off(vptr->dev);
1664                 }
1665
1666                 velocity_print_link_status(vptr);
1667                 enable_flow_control_ability(vptr);
1668
1669                 /*
1670                  *      Re-enable auto-polling because SRCI will disable
1671                  *      auto-polling
1672                  */
1673
1674                 enable_mii_autopoll(regs);
1675
1676                 if (vptr->mii_status & VELOCITY_LINK_FAIL)
1677                         netif_stop_queue(vptr->dev);
1678                 else
1679                         netif_wake_queue(vptr->dev);
1680
1681         };
1682         if (status & ISR_MIBFI)
1683                 velocity_update_hw_mibs(vptr);
1684         if (status & ISR_LSTEI)
1685                 mac_rx_queue_wake(vptr->mac_regs);
1686 }
1687
1688 /**
1689  *      velocity_free_tx_buf    -       free transmit buffer
1690  *      @vptr: velocity
1691  *      @tdinfo: buffer
1692  *
1693  *      Release an transmit buffer. If the buffer was preallocated then
1694  *      recycle it, if not then unmap the buffer.
1695  */
1696
1697 static void velocity_free_tx_buf(struct velocity_info *vptr, struct velocity_td_info *tdinfo)
1698 {
1699         struct sk_buff *skb = tdinfo->skb;
1700         int i;
1701
1702         /*
1703          *      Don't unmap the pre-allocated tx_bufs
1704          */
1705         if (tdinfo->skb_dma && (tdinfo->skb_dma[0] != tdinfo->buf_dma)) {
1706
1707                 for (i = 0; i < tdinfo->nskb_dma; i++) {
1708 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1709                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], td->tdesc1.len, PCI_DMA_TODEVICE);
1710 #else
1711                         pci_unmap_single(vptr->pdev, tdinfo->skb_dma[i], skb->len, PCI_DMA_TODEVICE);
1712 #endif
1713                         tdinfo->skb_dma[i] = 0;
1714                 }
1715         }
1716         dev_kfree_skb_irq(skb);
1717         tdinfo->skb = NULL;
1718 }
1719
1720 /**
1721  *      velocity_open           -       interface activation callback
1722  *      @dev: network layer device to open
1723  *
1724  *      Called when the network layer brings the interface up. Returns
1725  *      a negative posix error code on failure, or zero on success.
1726  *
1727  *      All the ring allocation and set up is done on open for this
1728  *      adapter to minimise memory usage when inactive
1729  */
1730
1731 static int velocity_open(struct net_device *dev)
1732 {
1733         struct velocity_info *vptr = dev->priv;
1734         int ret;
1735
1736         vptr->rx_buf_sz = (dev->mtu <= 1504 ? PKT_BUF_SZ : dev->mtu + 32);
1737
1738         ret = velocity_init_rings(vptr);
1739         if (ret < 0)
1740                 goto out;
1741
1742         ret = velocity_init_rd_ring(vptr);
1743         if (ret < 0)
1744                 goto err_free_desc_rings;
1745
1746         ret = velocity_init_td_ring(vptr);
1747         if (ret < 0)
1748                 goto err_free_rd_ring;
1749
1750         /* Ensure chip is running */
1751         pci_set_power_state(vptr->pdev, PCI_D0);
1752
1753         velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1754
1755         ret = request_irq(vptr->pdev->irq, &velocity_intr, SA_SHIRQ,
1756                           dev->name, dev);
1757         if (ret < 0) {
1758                 /* Power down the chip */
1759                 pci_set_power_state(vptr->pdev, PCI_D3hot);
1760                 goto err_free_td_ring;
1761         }
1762
1763         mac_enable_int(vptr->mac_regs);
1764         netif_start_queue(dev);
1765         vptr->flags |= VELOCITY_FLAGS_OPENED;
1766 out:
1767         return ret;
1768
1769 err_free_td_ring:
1770         velocity_free_td_ring(vptr);
1771 err_free_rd_ring:
1772         velocity_free_rd_ring(vptr);
1773 err_free_desc_rings:
1774         velocity_free_rings(vptr);
1775         goto out;
1776 }
1777
1778 /**
1779  *      velocity_change_mtu     -       MTU change callback
1780  *      @dev: network device
1781  *      @new_mtu: desired MTU
1782  *
1783  *      Handle requests from the networking layer for MTU change on
1784  *      this interface. It gets called on a change by the network layer.
1785  *      Return zero for success or negative posix error code.
1786  */
1787
1788 static int velocity_change_mtu(struct net_device *dev, int new_mtu)
1789 {
1790         struct velocity_info *vptr = dev->priv;
1791         unsigned long flags;
1792         int oldmtu = dev->mtu;
1793         int ret = 0;
1794
1795         if ((new_mtu < VELOCITY_MIN_MTU) || new_mtu > (VELOCITY_MAX_MTU)) {
1796                 VELOCITY_PRT(MSG_LEVEL_ERR, KERN_NOTICE "%s: Invalid MTU.\n",
1797                                 vptr->dev->name);
1798                 return -EINVAL;
1799         }
1800
1801         if (new_mtu != oldmtu) {
1802                 spin_lock_irqsave(&vptr->lock, flags);
1803
1804                 netif_stop_queue(dev);
1805                 velocity_shutdown(vptr);
1806
1807                 velocity_free_td_ring(vptr);
1808                 velocity_free_rd_ring(vptr);
1809
1810                 dev->mtu = new_mtu;
1811                 if (new_mtu > 8192)
1812                         vptr->rx_buf_sz = 9 * 1024;
1813                 else if (new_mtu > 4096)
1814                         vptr->rx_buf_sz = 8192;
1815                 else
1816                         vptr->rx_buf_sz = 4 * 1024;
1817
1818                 ret = velocity_init_rd_ring(vptr);
1819                 if (ret < 0)
1820                         goto out_unlock;
1821
1822                 ret = velocity_init_td_ring(vptr);
1823                 if (ret < 0)
1824                         goto out_unlock;
1825
1826                 velocity_init_registers(vptr, VELOCITY_INIT_COLD);
1827
1828                 mac_enable_int(vptr->mac_regs);
1829                 netif_start_queue(dev);
1830 out_unlock:
1831                 spin_unlock_irqrestore(&vptr->lock, flags);
1832         }
1833
1834         return ret;
1835 }
1836
1837 /**
1838  *      velocity_shutdown       -       shut down the chip
1839  *      @vptr: velocity to deactivate
1840  *
1841  *      Shuts down the internal operations of the velocity and
1842  *      disables interrupts, autopolling, transmit and receive
1843  */
1844
1845 static void velocity_shutdown(struct velocity_info *vptr)
1846 {
1847         struct mac_regs __iomem * regs = vptr->mac_regs;
1848         mac_disable_int(regs);
1849         writel(CR0_STOP, &regs->CR0Set);
1850         writew(0xFFFF, &regs->TDCSRClr);
1851         writeb(0xFF, &regs->RDCSRClr);
1852         safe_disable_mii_autopoll(regs);
1853         mac_clear_isr(regs);
1854 }
1855
1856 /**
1857  *      velocity_close          -       close adapter callback
1858  *      @dev: network device
1859  *
1860  *      Callback from the network layer when the velocity is being
1861  *      deactivated by the network layer
1862  */
1863
1864 static int velocity_close(struct net_device *dev)
1865 {
1866         struct velocity_info *vptr = dev->priv;
1867
1868         netif_stop_queue(dev);
1869         velocity_shutdown(vptr);
1870
1871         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED)
1872                 velocity_get_ip(vptr);
1873         if (dev->irq != 0)
1874                 free_irq(dev->irq, dev);
1875
1876         /* Power down the chip */
1877         pci_set_power_state(vptr->pdev, PCI_D3hot);
1878
1879         /* Free the resources */
1880         velocity_free_td_ring(vptr);
1881         velocity_free_rd_ring(vptr);
1882         velocity_free_rings(vptr);
1883
1884         vptr->flags &= (~VELOCITY_FLAGS_OPENED);
1885         return 0;
1886 }
1887
1888 /**
1889  *      velocity_xmit           -       transmit packet callback
1890  *      @skb: buffer to transmit
1891  *      @dev: network device
1892  *
1893  *      Called by the networ layer to request a packet is queued to
1894  *      the velocity. Returns zero on success.
1895  */
1896
1897 static int velocity_xmit(struct sk_buff *skb, struct net_device *dev)
1898 {
1899         struct velocity_info *vptr = dev->priv;
1900         int qnum = 0;
1901         struct tx_desc *td_ptr;
1902         struct velocity_td_info *tdinfo;
1903         unsigned long flags;
1904         int index;
1905
1906         int pktlen = skb->len;
1907
1908         spin_lock_irqsave(&vptr->lock, flags);
1909
1910         index = vptr->td_curr[qnum];
1911         td_ptr = &(vptr->td_rings[qnum][index]);
1912         tdinfo = &(vptr->td_infos[qnum][index]);
1913
1914         td_ptr->tdesc1.TCPLS = TCPLS_NORMAL;
1915         td_ptr->tdesc1.TCR = TCR0_TIC;
1916         td_ptr->td_buf[0].queue = 0;
1917
1918         /*
1919          *      Pad short frames.
1920          */
1921         if (pktlen < ETH_ZLEN) {
1922                 /* Cannot occur until ZC support */
1923                 if(skb_linearize(skb, GFP_ATOMIC))
1924                         return 0;
1925                 pktlen = ETH_ZLEN;
1926                 memcpy(tdinfo->buf, skb->data, skb->len);
1927                 memset(tdinfo->buf + skb->len, 0, ETH_ZLEN - skb->len);
1928                 tdinfo->skb = skb;
1929                 tdinfo->skb_dma[0] = tdinfo->buf_dma;
1930                 td_ptr->tdesc0.pktsize = pktlen;
1931                 td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1932                 td_ptr->td_buf[0].pa_high = 0;
1933                 td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1934                 tdinfo->nskb_dma = 1;
1935                 td_ptr->tdesc1.CMDZ = 2;
1936         } else
1937 #ifdef VELOCITY_ZERO_COPY_SUPPORT
1938         if (skb_shinfo(skb)->nr_frags > 0) {
1939                 int nfrags = skb_shinfo(skb)->nr_frags;
1940                 tdinfo->skb = skb;
1941                 if (nfrags > 6) {
1942                         skb_linearize(skb, GFP_ATOMIC);
1943                         memcpy(tdinfo->buf, skb->data, skb->len);
1944                         tdinfo->skb_dma[0] = tdinfo->buf_dma;
1945                         td_ptr->tdesc0.pktsize =
1946                         td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1947                         td_ptr->td_buf[0].pa_high = 0;
1948                         td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1949                         tdinfo->nskb_dma = 1;
1950                         td_ptr->tdesc1.CMDZ = 2;
1951                 } else {
1952                         int i = 0;
1953                         tdinfo->nskb_dma = 0;
1954                         tdinfo->skb_dma[i] = pci_map_single(vptr->pdev, skb->data, skb->len - skb->data_len, PCI_DMA_TODEVICE);
1955
1956                         td_ptr->tdesc0.pktsize = pktlen;
1957
1958                         /* FIXME: support 48bit DMA later */
1959                         td_ptr->td_buf[i].pa_low = cpu_to_le32(tdinfo->skb_dma);
1960                         td_ptr->td_buf[i].pa_high = 0;
1961                         td_ptr->td_buf[i].bufsize = skb->len->skb->data_len;
1962
1963                         for (i = 0; i < nfrags; i++) {
1964                                 skb_frag_t *frag = &skb_shinfo(skb)->frags[i];
1965                                 void *addr = ((void *) page_address(frag->page + frag->page_offset));
1966
1967                                 tdinfo->skb_dma[i + 1] = pci_map_single(vptr->pdev, addr, frag->size, PCI_DMA_TODEVICE);
1968
1969                                 td_ptr->td_buf[i + 1].pa_low = cpu_to_le32(tdinfo->skb_dma[i + 1]);
1970                                 td_ptr->td_buf[i + 1].pa_high = 0;
1971                                 td_ptr->td_buf[i + 1].bufsize = frag->size;
1972                         }
1973                         tdinfo->nskb_dma = i - 1;
1974                         td_ptr->tdesc1.CMDZ = i;
1975                 }
1976
1977         } else
1978 #endif
1979         {
1980                 /*
1981                  *      Map the linear network buffer into PCI space and
1982                  *      add it to the transmit ring.
1983                  */
1984                 tdinfo->skb = skb;
1985                 tdinfo->skb_dma[0] = pci_map_single(vptr->pdev, skb->data, pktlen, PCI_DMA_TODEVICE);
1986                 td_ptr->tdesc0.pktsize = pktlen;
1987                 td_ptr->td_buf[0].pa_low = cpu_to_le32(tdinfo->skb_dma[0]);
1988                 td_ptr->td_buf[0].pa_high = 0;
1989                 td_ptr->td_buf[0].bufsize = td_ptr->tdesc0.pktsize;
1990                 tdinfo->nskb_dma = 1;
1991                 td_ptr->tdesc1.CMDZ = 2;
1992         }
1993
1994         if (vptr->flags & VELOCITY_FLAGS_TAGGING) {
1995                 td_ptr->tdesc1.pqinf.VID = (vptr->options.vid & 0xfff);
1996                 td_ptr->tdesc1.pqinf.priority = 0;
1997                 td_ptr->tdesc1.pqinf.CFI = 0;
1998                 td_ptr->tdesc1.TCR |= TCR0_VETAG;
1999         }
2000
2001         /*
2002          *      Handle hardware checksum
2003          */
2004         if ((vptr->flags & VELOCITY_FLAGS_TX_CSUM)
2005                                  && (skb->ip_summed == CHECKSUM_HW)) {
2006                 struct iphdr *ip = skb->nh.iph;
2007                 if (ip->protocol == IPPROTO_TCP)
2008                         td_ptr->tdesc1.TCR |= TCR0_TCPCK;
2009                 else if (ip->protocol == IPPROTO_UDP)
2010                         td_ptr->tdesc1.TCR |= (TCR0_UDPCK);
2011                 td_ptr->tdesc1.TCR |= TCR0_IPCK;
2012         }
2013         {
2014
2015                 int prev = index - 1;
2016
2017                 if (prev < 0)
2018                         prev = vptr->options.numtx - 1;
2019                 td_ptr->tdesc0.owner = OWNED_BY_NIC;
2020                 vptr->td_used[qnum]++;
2021                 vptr->td_curr[qnum] = (index + 1) % vptr->options.numtx;
2022
2023                 if (AVAIL_TD(vptr, qnum) < 1)
2024                         netif_stop_queue(dev);
2025
2026                 td_ptr = &(vptr->td_rings[qnum][prev]);
2027                 td_ptr->td_buf[0].queue = 1;
2028                 mac_tx_queue_wake(vptr->mac_regs, qnum);
2029         }
2030         dev->trans_start = jiffies;
2031         spin_unlock_irqrestore(&vptr->lock, flags);
2032         return 0;
2033 }
2034
2035 /**
2036  *      velocity_intr           -       interrupt callback
2037  *      @irq: interrupt number
2038  *      @dev_instance: interrupting device
2039  *      @pt_regs: CPU register state at interrupt
2040  *
2041  *      Called whenever an interrupt is generated by the velocity
2042  *      adapter IRQ line. We may not be the source of the interrupt
2043  *      and need to identify initially if we are, and if not exit as
2044  *      efficiently as possible.
2045  */
2046
2047 static int velocity_intr(int irq, void *dev_instance, struct pt_regs *regs)
2048 {
2049         struct net_device *dev = dev_instance;
2050         struct velocity_info *vptr = dev->priv;
2051         u32 isr_status;
2052         int max_count = 0;
2053
2054
2055         spin_lock(&vptr->lock);
2056         isr_status = mac_read_isr(vptr->mac_regs);
2057
2058         /* Not us ? */
2059         if (isr_status == 0) {
2060                 spin_unlock(&vptr->lock);
2061                 return IRQ_NONE;
2062         }
2063
2064         mac_disable_int(vptr->mac_regs);
2065
2066         /*
2067          *      Keep processing the ISR until we have completed
2068          *      processing and the isr_status becomes zero
2069          */
2070
2071         while (isr_status != 0) {
2072                 mac_write_isr(vptr->mac_regs, isr_status);
2073                 if (isr_status & (~(ISR_PRXI | ISR_PPRXI | ISR_PTXI | ISR_PPTXI)))
2074                         velocity_error(vptr, isr_status);
2075                 if (isr_status & (ISR_PRXI | ISR_PPRXI))
2076                         max_count += velocity_rx_srv(vptr, isr_status);
2077                 if (isr_status & (ISR_PTXI | ISR_PPTXI))
2078                         max_count += velocity_tx_srv(vptr, isr_status);
2079                 isr_status = mac_read_isr(vptr->mac_regs);
2080                 if (max_count > vptr->options.int_works)
2081                 {
2082                         printk(KERN_WARNING "%s: excessive work at interrupt.\n",
2083                                 dev->name);
2084                         max_count = 0;
2085                 }
2086         }
2087         spin_unlock(&vptr->lock);
2088         mac_enable_int(vptr->mac_regs);
2089         return IRQ_HANDLED;
2090
2091 }
2092
2093
2094 /**
2095  *      velocity_set_multi      -       filter list change callback
2096  *      @dev: network device
2097  *
2098  *      Called by the network layer when the filter lists need to change
2099  *      for a velocity adapter. Reload the CAMs with the new address
2100  *      filter ruleset.
2101  */
2102
2103 static void velocity_set_multi(struct net_device *dev)
2104 {
2105         struct velocity_info *vptr = dev->priv;
2106         struct mac_regs __iomem * regs = vptr->mac_regs;
2107         u8 rx_mode;
2108         int i;
2109         struct dev_mc_list *mclist;
2110
2111         if (dev->flags & IFF_PROMISC) { /* Set promiscuous. */
2112                 /* Unconditionally log net taps. */
2113                 printk(KERN_NOTICE "%s: Promiscuous mode enabled.\n", dev->name);
2114                 writel(0xffffffff, &regs->MARCAM[0]);
2115                 writel(0xffffffff, &regs->MARCAM[4]);
2116                 rx_mode = (RCR_AM | RCR_AB | RCR_PROM);
2117         } else if ((dev->mc_count > vptr->multicast_limit)
2118                    || (dev->flags & IFF_ALLMULTI)) {
2119                 writel(0xffffffff, &regs->MARCAM[0]);
2120                 writel(0xffffffff, &regs->MARCAM[4]);
2121                 rx_mode = (RCR_AM | RCR_AB);
2122         } else {
2123                 int offset = MCAM_SIZE - vptr->multicast_limit;
2124                 mac_get_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
2125
2126                 for (i = 0, mclist = dev->mc_list; mclist && i < dev->mc_count; i++, mclist = mclist->next) {
2127                         mac_set_cam(regs, i + offset, mclist->dmi_addr, VELOCITY_MULTICAST_CAM);
2128                         vptr->mCAMmask[(offset + i) / 8] |= 1 << ((offset + i) & 7);
2129                 }
2130
2131                 mac_set_cam_mask(regs, vptr->mCAMmask, VELOCITY_MULTICAST_CAM);
2132                 rx_mode = (RCR_AM | RCR_AB);
2133         }
2134         if (dev->mtu > 1500)
2135                 rx_mode |= RCR_AL;
2136
2137         BYTE_REG_BITS_ON(rx_mode, &regs->RCR);
2138
2139 }
2140
2141 /**
2142  *      velocity_get_status     -       statistics callback
2143  *      @dev: network device
2144  *
2145  *      Callback from the network layer to allow driver statistics
2146  *      to be resynchronized with hardware collected state. In the
2147  *      case of the velocity we need to pull the MIB counters from
2148  *      the hardware into the counters before letting the network
2149  *      layer display them.
2150  */
2151
2152 static struct net_device_stats *velocity_get_stats(struct net_device *dev)
2153 {
2154         struct velocity_info *vptr = dev->priv;
2155
2156         /* If the hardware is down, don't touch MII */
2157         if(!netif_running(dev))
2158                 return &vptr->stats;
2159
2160         spin_lock_irq(&vptr->lock);
2161         velocity_update_hw_mibs(vptr);
2162         spin_unlock_irq(&vptr->lock);
2163
2164         vptr->stats.rx_packets = vptr->mib_counter[HW_MIB_ifRxAllPkts];
2165         vptr->stats.rx_errors = vptr->mib_counter[HW_MIB_ifRxErrorPkts];
2166         vptr->stats.rx_length_errors = vptr->mib_counter[HW_MIB_ifInRangeLengthErrors];
2167
2168 //  unsigned long   rx_dropped;     /* no space in linux buffers    */
2169         vptr->stats.collisions = vptr->mib_counter[HW_MIB_ifTxEtherCollisions];
2170         /* detailed rx_errors: */
2171 //  unsigned long   rx_length_errors;
2172 //  unsigned long   rx_over_errors;     /* receiver ring buff overflow  */
2173         vptr->stats.rx_crc_errors = vptr->mib_counter[HW_MIB_ifRxPktCRCE];
2174 //  unsigned long   rx_frame_errors;    /* recv'd frame alignment error */
2175 //  unsigned long   rx_fifo_errors;     /* recv'r fifo overrun      */
2176 //  unsigned long   rx_missed_errors;   /* receiver missed packet   */
2177
2178         /* detailed tx_errors */
2179 //  unsigned long   tx_fifo_errors;
2180
2181         return &vptr->stats;
2182 }
2183
2184
2185 /**
2186  *      velocity_ioctl          -       ioctl entry point
2187  *      @dev: network device
2188  *      @rq: interface request ioctl
2189  *      @cmd: command code
2190  *
2191  *      Called when the user issues an ioctl request to the network
2192  *      device in question. The velocity interface supports MII.
2193  */
2194
2195 static int velocity_ioctl(struct net_device *dev, struct ifreq *rq, int cmd)
2196 {
2197         struct velocity_info *vptr = dev->priv;
2198         int ret;
2199
2200         /* If we are asked for information and the device is power
2201            saving then we need to bring the device back up to talk to it */
2202
2203         if (!netif_running(dev))
2204                 pci_set_power_state(vptr->pdev, PCI_D0);
2205
2206         switch (cmd) {
2207         case SIOCGMIIPHY:       /* Get address of MII PHY in use. */
2208         case SIOCGMIIREG:       /* Read MII PHY register. */
2209         case SIOCSMIIREG:       /* Write to MII PHY register. */
2210                 ret = velocity_mii_ioctl(dev, rq, cmd);
2211                 break;
2212
2213         default:
2214                 ret = -EOPNOTSUPP;
2215         }
2216         if (!netif_running(dev))
2217                 pci_set_power_state(vptr->pdev, PCI_D3hot);
2218
2219
2220         return ret;
2221 }
2222
2223 /*
2224  *      Definition for our device driver. The PCI layer interface
2225  *      uses this to handle all our card discover and plugging
2226  */
2227
2228 static struct pci_driver velocity_driver = {
2229       .name     = VELOCITY_NAME,
2230       .id_table = velocity_id_table,
2231       .probe    = velocity_found1,
2232       .remove   = __devexit_p(velocity_remove1),
2233 #ifdef CONFIG_PM
2234       .suspend  = velocity_suspend,
2235       .resume   = velocity_resume,
2236 #endif
2237 };
2238
2239 /**
2240  *      velocity_init_module    -       load time function
2241  *
2242  *      Called when the velocity module is loaded. The PCI driver
2243  *      is registered with the PCI layer, and in turn will call
2244  *      the probe functions for each velocity adapter installed
2245  *      in the system.
2246  */
2247
2248 static int __init velocity_init_module(void)
2249 {
2250         int ret;
2251
2252         velocity_register_notifier();
2253         ret = pci_module_init(&velocity_driver);
2254         if (ret < 0)
2255                 velocity_unregister_notifier();
2256         return ret;
2257 }
2258
2259 /**
2260  *      velocity_cleanup        -       module unload
2261  *
2262  *      When the velocity hardware is unloaded this function is called.
2263  *      It will clean up the notifiers and the unregister the PCI
2264  *      driver interface for this hardware. This in turn cleans up
2265  *      all discovered interfaces before returning from the function
2266  */
2267
2268 static void __exit velocity_cleanup_module(void)
2269 {
2270         velocity_unregister_notifier();
2271         pci_unregister_driver(&velocity_driver);
2272 }
2273
2274 module_init(velocity_init_module);
2275 module_exit(velocity_cleanup_module);
2276
2277
2278 /*
2279  * MII access , media link mode setting functions
2280  */
2281
2282
2283 /**
2284  *      mii_init        -       set up MII
2285  *      @vptr: velocity adapter
2286  *      @mii_status:  links tatus
2287  *
2288  *      Set up the PHY for the current link state.
2289  */
2290
2291 static void mii_init(struct velocity_info *vptr, u32 mii_status)
2292 {
2293         u16 BMCR;
2294
2295         switch (PHYID_GET_PHY_ID(vptr->phy_id)) {
2296         case PHYID_CICADA_CS8201:
2297                 /*
2298                  *      Reset to hardware default
2299                  */
2300                 MII_REG_BITS_OFF((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2301                 /*
2302                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2303                  *      off it in NWay-forced half mode for NWay-forced v.s.
2304                  *      legacy-forced issue.
2305                  */
2306                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2307                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2308                 else
2309                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2310                 /*
2311                  *      Turn on Link/Activity LED enable bit for CIS8201
2312                  */
2313                 MII_REG_BITS_ON(PLED_LALBE, MII_REG_PLED, vptr->mac_regs);
2314                 break;
2315         case PHYID_VT3216_32BIT:
2316         case PHYID_VT3216_64BIT:
2317                 /*
2318                  *      Reset to hardware default
2319                  */
2320                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2321                 /*
2322                  *      Turn on ECHODIS bit in NWay-forced full mode and turn it
2323                  *      off it in NWay-forced half mode for NWay-forced v.s.
2324                  *      legacy-forced issue
2325                  */
2326                 if (vptr->mii_status & VELOCITY_DUPLEX_FULL)
2327                         MII_REG_BITS_ON(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2328                 else
2329                         MII_REG_BITS_OFF(TCSR_ECHODIS, MII_REG_TCSR, vptr->mac_regs);
2330                 break;
2331
2332         case PHYID_MARVELL_1000:
2333         case PHYID_MARVELL_1000S:
2334                 /*
2335                  *      Assert CRS on Transmit
2336                  */
2337                 MII_REG_BITS_ON(PSCR_ACRSTX, MII_REG_PSCR, vptr->mac_regs);
2338                 /*
2339                  *      Reset to hardware default
2340                  */
2341                 MII_REG_BITS_ON((ANAR_ASMDIR | ANAR_PAUSE), MII_REG_ANAR, vptr->mac_regs);
2342                 break;
2343         default:
2344                 ;
2345         }
2346         velocity_mii_read(vptr->mac_regs, MII_REG_BMCR, &BMCR);
2347         if (BMCR & BMCR_ISO) {
2348                 BMCR &= ~BMCR_ISO;
2349                 velocity_mii_write(vptr->mac_regs, MII_REG_BMCR, BMCR);
2350         }
2351 }
2352
2353 /**
2354  *      safe_disable_mii_autopoll       -       autopoll off
2355  *      @regs: velocity registers
2356  *
2357  *      Turn off the autopoll and wait for it to disable on the chip
2358  */
2359
2360 static void safe_disable_mii_autopoll(struct mac_regs __iomem * regs)
2361 {
2362         u16 ww;
2363
2364         /*  turn off MAUTO */
2365         writeb(0, &regs->MIICR);
2366         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2367                 udelay(1);
2368                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2369                         break;
2370         }
2371 }
2372
2373 /**
2374  *      enable_mii_autopoll     -       turn on autopolling
2375  *      @regs: velocity registers
2376  *
2377  *      Enable the MII link status autopoll feature on the Velocity
2378  *      hardware. Wait for it to enable.
2379  */
2380
2381 static void enable_mii_autopoll(struct mac_regs __iomem * regs)
2382 {
2383         int ii;
2384
2385         writeb(0, &(regs->MIICR));
2386         writeb(MIIADR_SWMPL, &regs->MIIADR);
2387
2388         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2389                 udelay(1);
2390                 if (BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2391                         break;
2392         }
2393
2394         writeb(MIICR_MAUTO, &regs->MIICR);
2395
2396         for (ii = 0; ii < W_MAX_TIMEOUT; ii++) {
2397                 udelay(1);
2398                 if (!BYTE_REG_BITS_IS_ON(MIISR_MIDLE, &regs->MIISR))
2399                         break;
2400         }
2401
2402 }
2403
2404 /**
2405  *      velocity_mii_read       -       read MII data
2406  *      @regs: velocity registers
2407  *      @index: MII register index
2408  *      @data: buffer for received data
2409  *
2410  *      Perform a single read of an MII 16bit register. Returns zero
2411  *      on success or -ETIMEDOUT if the PHY did not respond.
2412  */
2413
2414 static int velocity_mii_read(struct mac_regs __iomem *regs, u8 index, u16 *data)
2415 {
2416         u16 ww;
2417
2418         /*
2419          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2420          */
2421         safe_disable_mii_autopoll(regs);
2422
2423         writeb(index, &regs->MIIADR);
2424
2425         BYTE_REG_BITS_ON(MIICR_RCMD, &regs->MIICR);
2426
2427         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2428                 if (!(readb(&regs->MIICR) & MIICR_RCMD))
2429                         break;
2430         }
2431
2432         *data = readw(&regs->MIIDATA);
2433
2434         enable_mii_autopoll(regs);
2435         if (ww == W_MAX_TIMEOUT)
2436                 return -ETIMEDOUT;
2437         return 0;
2438 }
2439
2440 /**
2441  *      velocity_mii_write      -       write MII data
2442  *      @regs: velocity registers
2443  *      @index: MII register index
2444  *      @data: 16bit data for the MII register
2445  *
2446  *      Perform a single write to an MII 16bit register. Returns zero
2447  *      on success or -ETIMEDOUT if the PHY did not respond.
2448  */
2449
2450 static int velocity_mii_write(struct mac_regs __iomem *regs, u8 mii_addr, u16 data)
2451 {
2452         u16 ww;
2453
2454         /*
2455          *      Disable MIICR_MAUTO, so that mii addr can be set normally
2456          */
2457         safe_disable_mii_autopoll(regs);
2458
2459         /* MII reg offset */
2460         writeb(mii_addr, &regs->MIIADR);
2461         /* set MII data */
2462         writew(data, &regs->MIIDATA);
2463
2464         /* turn on MIICR_WCMD */
2465         BYTE_REG_BITS_ON(MIICR_WCMD, &regs->MIICR);
2466
2467         /* W_MAX_TIMEOUT is the timeout period */
2468         for (ww = 0; ww < W_MAX_TIMEOUT; ww++) {
2469                 udelay(5);
2470                 if (!(readb(&regs->MIICR) & MIICR_WCMD))
2471                         break;
2472         }
2473         enable_mii_autopoll(regs);
2474
2475         if (ww == W_MAX_TIMEOUT)
2476                 return -ETIMEDOUT;
2477         return 0;
2478 }
2479
2480 /**
2481  *      velocity_get_opt_media_mode     -       get media selection
2482  *      @vptr: velocity adapter
2483  *
2484  *      Get the media mode stored in EEPROM or module options and load
2485  *      mii_status accordingly. The requested link state information
2486  *      is also returned.
2487  */
2488
2489 static u32 velocity_get_opt_media_mode(struct velocity_info *vptr)
2490 {
2491         u32 status = 0;
2492
2493         switch (vptr->options.spd_dpx) {
2494         case SPD_DPX_AUTO:
2495                 status = VELOCITY_AUTONEG_ENABLE;
2496                 break;
2497         case SPD_DPX_100_FULL:
2498                 status = VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL;
2499                 break;
2500         case SPD_DPX_10_FULL:
2501                 status = VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL;
2502                 break;
2503         case SPD_DPX_100_HALF:
2504                 status = VELOCITY_SPEED_100;
2505                 break;
2506         case SPD_DPX_10_HALF:
2507                 status = VELOCITY_SPEED_10;
2508                 break;
2509         }
2510         vptr->mii_status = status;
2511         return status;
2512 }
2513
2514 /**
2515  *      mii_set_auto_on         -       autonegotiate on
2516  *      @vptr: velocity
2517  *
2518  *      Enable autonegotation on this interface
2519  */
2520
2521 static void mii_set_auto_on(struct velocity_info *vptr)
2522 {
2523         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs))
2524                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
2525         else
2526                 MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2527 }
2528
2529
2530 /*
2531 static void mii_set_auto_off(struct velocity_info * vptr)
2532 {
2533     MII_REG_BITS_OFF(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs);
2534 }
2535 */
2536
2537 /**
2538  *      set_mii_flow_control    -       flow control setup
2539  *      @vptr: velocity interface
2540  *
2541  *      Set up the flow control on this interface according to
2542  *      the supplied user/eeprom options.
2543  */
2544
2545 static void set_mii_flow_control(struct velocity_info *vptr)
2546 {
2547         /*Enable or Disable PAUSE in ANAR */
2548         switch (vptr->options.flow_cntl) {
2549         case FLOW_CNTL_TX:
2550                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2551                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2552                 break;
2553
2554         case FLOW_CNTL_RX:
2555                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2556                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2557                 break;
2558
2559         case FLOW_CNTL_TX_RX:
2560                 MII_REG_BITS_ON(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2561                 MII_REG_BITS_ON(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2562                 break;
2563
2564         case FLOW_CNTL_DISABLE:
2565                 MII_REG_BITS_OFF(ANAR_PAUSE, MII_REG_ANAR, vptr->mac_regs);
2566                 MII_REG_BITS_OFF(ANAR_ASMDIR, MII_REG_ANAR, vptr->mac_regs);
2567                 break;
2568         default:
2569                 break;
2570         }
2571 }
2572
2573 /**
2574  *      velocity_set_media_mode         -       set media mode
2575  *      @mii_status: old MII link state
2576  *
2577  *      Check the media link state and configure the flow control
2578  *      PHY and also velocity hardware setup accordingly. In particular
2579  *      we need to set up CD polling and frame bursting.
2580  */
2581
2582 static int velocity_set_media_mode(struct velocity_info *vptr, u32 mii_status)
2583 {
2584         u32 curr_status;
2585         struct mac_regs __iomem * regs = vptr->mac_regs;
2586
2587         vptr->mii_status = mii_check_media_mode(vptr->mac_regs);
2588         curr_status = vptr->mii_status & (~VELOCITY_LINK_FAIL);
2589
2590         /* Set mii link status */
2591         set_mii_flow_control(vptr);
2592
2593         /*
2594            Check if new status is consisent with current status
2595            if (((mii_status & curr_status) & VELOCITY_AUTONEG_ENABLE)
2596            || (mii_status==curr_status)) {
2597            vptr->mii_status=mii_check_media_mode(vptr->mac_regs);
2598            vptr->mii_status=check_connection_type(vptr->mac_regs);
2599            VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity link no change\n");
2600            return 0;
2601            }
2602          */
2603
2604         if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201) {
2605                 MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
2606         }
2607
2608         /*
2609          *      If connection type is AUTO
2610          */
2611         if (mii_status & VELOCITY_AUTONEG_ENABLE) {
2612                 VELOCITY_PRT(MSG_LEVEL_INFO, "Velocity is AUTO mode\n");
2613                 /* clear force MAC mode bit */
2614                 BYTE_REG_BITS_OFF(CHIPGCR_FCMODE, &regs->CHIPGCR);
2615                 /* set duplex mode of MAC according to duplex mode of MII */
2616                 MII_REG_BITS_ON(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10, MII_REG_ANAR, vptr->mac_regs);
2617                 MII_REG_BITS_ON(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2618                 MII_REG_BITS_ON(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs);
2619
2620                 /* enable AUTO-NEGO mode */
2621                 mii_set_auto_on(vptr);
2622         } else {
2623                 u16 ANAR;
2624                 u8 CHIPGCR;
2625
2626                 /*
2627                  * 1. if it's 3119, disable frame bursting in halfduplex mode
2628                  *    and enable it in fullduplex mode
2629                  * 2. set correct MII/GMII and half/full duplex mode in CHIPGCR
2630                  * 3. only enable CD heart beat counter in 10HD mode
2631                  */
2632
2633                 /* set force MAC mode bit */
2634                 BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
2635
2636                 CHIPGCR = readb(&regs->CHIPGCR);
2637                 CHIPGCR &= ~CHIPGCR_FCGMII;
2638
2639                 if (mii_status & VELOCITY_DUPLEX_FULL) {
2640                         CHIPGCR |= CHIPGCR_FCFDX;
2641                         writeb(CHIPGCR, &regs->CHIPGCR);
2642                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced full mode\n");
2643                         if (vptr->rev_id < REV_ID_VT3216_A0)
2644                                 BYTE_REG_BITS_OFF(TCR_TB2BDIS, &regs->TCR);
2645                 } else {
2646                         CHIPGCR &= ~CHIPGCR_FCFDX;
2647                         VELOCITY_PRT(MSG_LEVEL_INFO, "set Velocity to forced half mode\n");
2648                         writeb(CHIPGCR, &regs->CHIPGCR);
2649                         if (vptr->rev_id < REV_ID_VT3216_A0)
2650                                 BYTE_REG_BITS_ON(TCR_TB2BDIS, &regs->TCR);
2651                 }
2652
2653                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
2654
2655                 if (!(mii_status & VELOCITY_DUPLEX_FULL) && (mii_status & VELOCITY_SPEED_10)) {
2656                         BYTE_REG_BITS_OFF(TESTCFG_HBDIS, &regs->TESTCFG);
2657                 } else {
2658                         BYTE_REG_BITS_ON(TESTCFG_HBDIS, &regs->TESTCFG);
2659                 }
2660                 /* MII_REG_BITS_OFF(BMCR_SPEED1G, MII_REG_BMCR, vptr->mac_regs); */
2661                 velocity_mii_read(vptr->mac_regs, MII_REG_ANAR, &ANAR);
2662                 ANAR &= (~(ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10));
2663                 if (mii_status & VELOCITY_SPEED_100) {
2664                         if (mii_status & VELOCITY_DUPLEX_FULL)
2665                                 ANAR |= ANAR_TXFD;
2666                         else
2667                                 ANAR |= ANAR_TX;
2668                 } else {
2669                         if (mii_status & VELOCITY_DUPLEX_FULL)
2670                                 ANAR |= ANAR_10FD;
2671                         else
2672                                 ANAR |= ANAR_10;
2673                 }
2674                 velocity_mii_write(vptr->mac_regs, MII_REG_ANAR, ANAR);
2675                 /* enable AUTO-NEGO mode */
2676                 mii_set_auto_on(vptr);
2677                 /* MII_REG_BITS_ON(BMCR_AUTO, MII_REG_BMCR, vptr->mac_regs); */
2678         }
2679         /* vptr->mii_status=mii_check_media_mode(vptr->mac_regs); */
2680         /* vptr->mii_status=check_connection_type(vptr->mac_regs); */
2681         return VELOCITY_LINK_CHANGE;
2682 }
2683
2684 /**
2685  *      mii_check_media_mode    -       check media state
2686  *      @regs: velocity registers
2687  *
2688  *      Check the current MII status and determine the link status
2689  *      accordingly
2690  */
2691
2692 static u32 mii_check_media_mode(struct mac_regs __iomem * regs)
2693 {
2694         u32 status = 0;
2695         u16 ANAR;
2696
2697         if (!MII_REG_BITS_IS_ON(BMSR_LNK, MII_REG_BMSR, regs))
2698                 status |= VELOCITY_LINK_FAIL;
2699
2700         if (MII_REG_BITS_IS_ON(G1000CR_1000FD, MII_REG_G1000CR, regs))
2701                 status |= VELOCITY_SPEED_1000 | VELOCITY_DUPLEX_FULL;
2702         else if (MII_REG_BITS_IS_ON(G1000CR_1000, MII_REG_G1000CR, regs))
2703                 status |= (VELOCITY_SPEED_1000);
2704         else {
2705                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2706                 if (ANAR & ANAR_TXFD)
2707                         status |= (VELOCITY_SPEED_100 | VELOCITY_DUPLEX_FULL);
2708                 else if (ANAR & ANAR_TX)
2709                         status |= VELOCITY_SPEED_100;
2710                 else if (ANAR & ANAR_10FD)
2711                         status |= (VELOCITY_SPEED_10 | VELOCITY_DUPLEX_FULL);
2712                 else
2713                         status |= (VELOCITY_SPEED_10);
2714         }
2715
2716         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2717                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2718                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2719                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2720                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2721                                 status |= VELOCITY_AUTONEG_ENABLE;
2722                 }
2723         }
2724
2725         return status;
2726 }
2727
2728 static u32 check_connection_type(struct mac_regs __iomem * regs)
2729 {
2730         u32 status = 0;
2731         u8 PHYSR0;
2732         u16 ANAR;
2733         PHYSR0 = readb(&regs->PHYSR0);
2734
2735         /*
2736            if (!(PHYSR0 & PHYSR0_LINKGD))
2737            status|=VELOCITY_LINK_FAIL;
2738          */
2739
2740         if (PHYSR0 & PHYSR0_FDPX)
2741                 status |= VELOCITY_DUPLEX_FULL;
2742
2743         if (PHYSR0 & PHYSR0_SPDG)
2744                 status |= VELOCITY_SPEED_1000;
2745         else if (PHYSR0 & PHYSR0_SPD10)
2746                 status |= VELOCITY_SPEED_10;
2747         else
2748                 status |= VELOCITY_SPEED_100;
2749
2750         if (MII_REG_BITS_IS_ON(BMCR_AUTO, MII_REG_BMCR, regs)) {
2751                 velocity_mii_read(regs, MII_REG_ANAR, &ANAR);
2752                 if ((ANAR & (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10))
2753                     == (ANAR_TXFD | ANAR_TX | ANAR_10FD | ANAR_10)) {
2754                         if (MII_REG_BITS_IS_ON(G1000CR_1000 | G1000CR_1000FD, MII_REG_G1000CR, regs))
2755                                 status |= VELOCITY_AUTONEG_ENABLE;
2756                 }
2757         }
2758
2759         return status;
2760 }
2761
2762 /**
2763  *      enable_flow_control_ability     -       flow control
2764  *      @vptr: veloity to configure
2765  *
2766  *      Set up flow control according to the flow control options
2767  *      determined by the eeprom/configuration.
2768  */
2769
2770 static void enable_flow_control_ability(struct velocity_info *vptr)
2771 {
2772
2773         struct mac_regs __iomem * regs = vptr->mac_regs;
2774
2775         switch (vptr->options.flow_cntl) {
2776
2777         case FLOW_CNTL_DEFAULT:
2778                 if (BYTE_REG_BITS_IS_ON(PHYSR0_RXFLC, &regs->PHYSR0))
2779                         writel(CR0_FDXRFCEN, &regs->CR0Set);
2780                 else
2781                         writel(CR0_FDXRFCEN, &regs->CR0Clr);
2782
2783                 if (BYTE_REG_BITS_IS_ON(PHYSR0_TXFLC, &regs->PHYSR0))
2784                         writel(CR0_FDXTFCEN, &regs->CR0Set);
2785                 else
2786                         writel(CR0_FDXTFCEN, &regs->CR0Clr);
2787                 break;
2788
2789         case FLOW_CNTL_TX:
2790                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2791                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2792                 break;
2793
2794         case FLOW_CNTL_RX:
2795                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2796                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2797                 break;
2798
2799         case FLOW_CNTL_TX_RX:
2800                 writel(CR0_FDXTFCEN, &regs->CR0Set);
2801                 writel(CR0_FDXRFCEN, &regs->CR0Set);
2802                 break;
2803
2804         case FLOW_CNTL_DISABLE:
2805                 writel(CR0_FDXRFCEN, &regs->CR0Clr);
2806                 writel(CR0_FDXTFCEN, &regs->CR0Clr);
2807                 break;
2808
2809         default:
2810                 break;
2811         }
2812
2813 }
2814
2815
2816 /**
2817  *      velocity_ethtool_up     -       pre hook for ethtool
2818  *      @dev: network device
2819  *
2820  *      Called before an ethtool operation. We need to make sure the
2821  *      chip is out of D3 state before we poke at it.
2822  */
2823
2824 static int velocity_ethtool_up(struct net_device *dev)
2825 {
2826         struct velocity_info *vptr = dev->priv;
2827         if (!netif_running(dev))
2828                 pci_set_power_state(vptr->pdev, PCI_D0);
2829         return 0;
2830 }
2831
2832 /**
2833  *      velocity_ethtool_down   -       post hook for ethtool
2834  *      @dev: network device
2835  *
2836  *      Called after an ethtool operation. Restore the chip back to D3
2837  *      state if it isn't running.
2838  */
2839
2840 static void velocity_ethtool_down(struct net_device *dev)
2841 {
2842         struct velocity_info *vptr = dev->priv;
2843         if (!netif_running(dev))
2844                 pci_set_power_state(vptr->pdev, PCI_D3hot);
2845 }
2846
2847 static int velocity_get_settings(struct net_device *dev, struct ethtool_cmd *cmd)
2848 {
2849         struct velocity_info *vptr = dev->priv;
2850         struct mac_regs __iomem * regs = vptr->mac_regs;
2851         u32 status;
2852         status = check_connection_type(vptr->mac_regs);
2853
2854         cmd->supported = SUPPORTED_TP |
2855                         SUPPORTED_Autoneg |
2856                         SUPPORTED_10baseT_Half |
2857                         SUPPORTED_10baseT_Full |
2858                         SUPPORTED_100baseT_Half |
2859                         SUPPORTED_100baseT_Full |
2860                         SUPPORTED_1000baseT_Half |
2861                         SUPPORTED_1000baseT_Full;
2862         if (status & VELOCITY_SPEED_1000)
2863                 cmd->speed = SPEED_1000;
2864         else if (status & VELOCITY_SPEED_100)
2865                 cmd->speed = SPEED_100;
2866         else
2867                 cmd->speed = SPEED_10;
2868         cmd->autoneg = (status & VELOCITY_AUTONEG_ENABLE) ? AUTONEG_ENABLE : AUTONEG_DISABLE;
2869         cmd->port = PORT_TP;
2870         cmd->transceiver = XCVR_INTERNAL;
2871         cmd->phy_address = readb(&regs->MIIADR) & 0x1F;
2872
2873         if (status & VELOCITY_DUPLEX_FULL)
2874                 cmd->duplex = DUPLEX_FULL;
2875         else
2876                 cmd->duplex = DUPLEX_HALF;
2877
2878         return 0;
2879 }
2880
2881 static int velocity_set_settings(struct net_device *dev, struct ethtool_cmd *cmd)
2882 {
2883         struct velocity_info *vptr = dev->priv;
2884         u32 curr_status;
2885         u32 new_status = 0;
2886         int ret = 0;
2887
2888         curr_status = check_connection_type(vptr->mac_regs);
2889         curr_status &= (~VELOCITY_LINK_FAIL);
2890
2891         new_status |= ((cmd->autoneg) ? VELOCITY_AUTONEG_ENABLE : 0);
2892         new_status |= ((cmd->speed == SPEED_100) ? VELOCITY_SPEED_100 : 0);
2893         new_status |= ((cmd->speed == SPEED_10) ? VELOCITY_SPEED_10 : 0);
2894         new_status |= ((cmd->duplex == DUPLEX_FULL) ? VELOCITY_DUPLEX_FULL : 0);
2895
2896         if ((new_status & VELOCITY_AUTONEG_ENABLE) && (new_status != (curr_status | VELOCITY_AUTONEG_ENABLE)))
2897                 ret = -EINVAL;
2898         else
2899                 velocity_set_media_mode(vptr, new_status);
2900
2901         return ret;
2902 }
2903
2904 static u32 velocity_get_link(struct net_device *dev)
2905 {
2906         struct velocity_info *vptr = dev->priv;
2907         struct mac_regs __iomem * regs = vptr->mac_regs;
2908         return BYTE_REG_BITS_IS_ON(PHYSR0_LINKGD, &regs->PHYSR0) ? 1 : 0;
2909 }
2910
2911 static void velocity_get_drvinfo(struct net_device *dev, struct ethtool_drvinfo *info)
2912 {
2913         struct velocity_info *vptr = dev->priv;
2914         strcpy(info->driver, VELOCITY_NAME);
2915         strcpy(info->version, VELOCITY_VERSION);
2916         strcpy(info->bus_info, pci_name(vptr->pdev));
2917 }
2918
2919 static void velocity_ethtool_get_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
2920 {
2921         struct velocity_info *vptr = dev->priv;
2922         wol->supported = WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP;
2923         wol->wolopts |= WAKE_MAGIC;
2924         /*
2925            if (vptr->wol_opts & VELOCITY_WOL_PHY)
2926                    wol.wolopts|=WAKE_PHY;
2927                          */
2928         if (vptr->wol_opts & VELOCITY_WOL_UCAST)
2929                 wol->wolopts |= WAKE_UCAST;
2930         if (vptr->wol_opts & VELOCITY_WOL_ARP)
2931                 wol->wolopts |= WAKE_ARP;
2932         memcpy(&wol->sopass, vptr->wol_passwd, 6);
2933 }
2934
2935 static int velocity_ethtool_set_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
2936 {
2937         struct velocity_info *vptr = dev->priv;
2938
2939         if (!(wol->wolopts & (WAKE_PHY | WAKE_MAGIC | WAKE_UCAST | WAKE_ARP)))
2940                 return -EFAULT;
2941         vptr->wol_opts = VELOCITY_WOL_MAGIC;
2942
2943         /*
2944            if (wol.wolopts & WAKE_PHY) {
2945            vptr->wol_opts|=VELOCITY_WOL_PHY;
2946            vptr->flags |=VELOCITY_FLAGS_WOL_ENABLED;
2947            }
2948          */
2949
2950         if (wol->wolopts & WAKE_MAGIC) {
2951                 vptr->wol_opts |= VELOCITY_WOL_MAGIC;
2952                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2953         }
2954         if (wol->wolopts & WAKE_UCAST) {
2955                 vptr->wol_opts |= VELOCITY_WOL_UCAST;
2956                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2957         }
2958         if (wol->wolopts & WAKE_ARP) {
2959                 vptr->wol_opts |= VELOCITY_WOL_ARP;
2960                 vptr->flags |= VELOCITY_FLAGS_WOL_ENABLED;
2961         }
2962         memcpy(vptr->wol_passwd, wol->sopass, 6);
2963         return 0;
2964 }
2965
2966 static u32 velocity_get_msglevel(struct net_device *dev)
2967 {
2968         return msglevel;
2969 }
2970
2971 static void velocity_set_msglevel(struct net_device *dev, u32 value)
2972 {
2973          msglevel = value;
2974 }
2975
2976 static struct ethtool_ops velocity_ethtool_ops = {
2977         .get_settings   =       velocity_get_settings,
2978         .set_settings   =       velocity_set_settings,
2979         .get_drvinfo    =       velocity_get_drvinfo,
2980         .get_wol        =       velocity_ethtool_get_wol,
2981         .set_wol        =       velocity_ethtool_set_wol,
2982         .get_msglevel   =       velocity_get_msglevel,
2983         .set_msglevel   =       velocity_set_msglevel,
2984         .get_link       =       velocity_get_link,
2985         .begin          =       velocity_ethtool_up,
2986         .complete       =       velocity_ethtool_down
2987 };
2988
2989 /**
2990  *      velocity_mii_ioctl              -       MII ioctl handler
2991  *      @dev: network device
2992  *      @ifr: the ifreq block for the ioctl
2993  *      @cmd: the command
2994  *
2995  *      Process MII requests made via ioctl from the network layer. These
2996  *      are used by tools like kudzu to interrogate the link state of the
2997  *      hardware
2998  */
2999
3000 static int velocity_mii_ioctl(struct net_device *dev, struct ifreq *ifr, int cmd)
3001 {
3002         struct velocity_info *vptr = dev->priv;
3003         struct mac_regs __iomem * regs = vptr->mac_regs;
3004         unsigned long flags;
3005         struct mii_ioctl_data *miidata = if_mii(ifr);
3006         int err;
3007
3008         switch (cmd) {
3009         case SIOCGMIIPHY:
3010                 miidata->phy_id = readb(&regs->MIIADR) & 0x1f;
3011                 break;
3012         case SIOCGMIIREG:
3013                 if (!capable(CAP_NET_ADMIN))
3014                         return -EPERM;
3015                 if(velocity_mii_read(vptr->mac_regs, miidata->reg_num & 0x1f, &(miidata->val_out)) < 0)
3016                         return -ETIMEDOUT;
3017                 break;
3018         case SIOCSMIIREG:
3019                 if (!capable(CAP_NET_ADMIN))
3020                         return -EPERM;
3021                 spin_lock_irqsave(&vptr->lock, flags);
3022                 err = velocity_mii_write(vptr->mac_regs, miidata->reg_num & 0x1f, miidata->val_in);
3023                 spin_unlock_irqrestore(&vptr->lock, flags);
3024                 check_connection_type(vptr->mac_regs);
3025                 if(err)
3026                         return err;
3027                 break;
3028         default:
3029                 return -EOPNOTSUPP;
3030         }
3031         return 0;
3032 }
3033
3034 #ifdef CONFIG_PM
3035
3036 /**
3037  *      velocity_save_context   -       save registers
3038  *      @vptr: velocity
3039  *      @context: buffer for stored context
3040  *
3041  *      Retrieve the current configuration from the velocity hardware
3042  *      and stash it in the context structure, for use by the context
3043  *      restore functions. This allows us to save things we need across
3044  *      power down states
3045  */
3046
3047 static void velocity_save_context(struct velocity_info *vptr, struct velocity_context * context)
3048 {
3049         struct mac_regs __iomem * regs = vptr->mac_regs;
3050         u16 i;
3051         u8 __iomem *ptr = (u8 __iomem *)regs;
3052
3053         for (i = MAC_REG_PAR; i < MAC_REG_CR0_CLR; i += 4)
3054                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3055
3056         for (i = MAC_REG_MAR; i < MAC_REG_TDCSR_CLR; i += 4)
3057                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3058
3059         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4)
3060                 *((u32 *) (context->mac_reg + i)) = readl(ptr + i);
3061
3062 }
3063
3064 /**
3065  *      velocity_restore_context        -       restore registers
3066  *      @vptr: velocity
3067  *      @context: buffer for stored context
3068  *
3069  *      Reload the register configuration from the velocity context
3070  *      created by velocity_save_context.
3071  */
3072
3073 static void velocity_restore_context(struct velocity_info *vptr, struct velocity_context *context)
3074 {
3075         struct mac_regs __iomem * regs = vptr->mac_regs;
3076         int i;
3077         u8 __iomem *ptr = (u8 __iomem *)regs;
3078
3079         for (i = MAC_REG_PAR; i < MAC_REG_CR0_SET; i += 4) {
3080                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3081         }
3082
3083         /* Just skip cr0 */
3084         for (i = MAC_REG_CR1_SET; i < MAC_REG_CR0_CLR; i++) {
3085                 /* Clear */
3086                 writeb(~(*((u8 *) (context->mac_reg + i))), ptr + i + 4);
3087                 /* Set */
3088                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3089         }
3090
3091         for (i = MAC_REG_MAR; i < MAC_REG_IMR; i += 4) {
3092                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3093         }
3094
3095         for (i = MAC_REG_RDBASE_LO; i < MAC_REG_FIFO_TEST0; i += 4) {
3096                 writel(*((u32 *) (context->mac_reg + i)), ptr + i);
3097         }
3098
3099         for (i = MAC_REG_TDCSR_SET; i <= MAC_REG_RDCSR_SET; i++) {
3100                 writeb(*((u8 *) (context->mac_reg + i)), ptr + i);
3101         }
3102
3103 }
3104
3105 /**
3106  *      wol_calc_crc            -       WOL CRC
3107  *      @pattern: data pattern
3108  *      @mask_pattern: mask
3109  *
3110  *      Compute the wake on lan crc hashes for the packet header
3111  *      we are interested in.
3112  */
3113
3114 static u16 wol_calc_crc(int size, u8 * pattern, u8 *mask_pattern)
3115 {
3116         u16 crc = 0xFFFF;
3117         u8 mask;
3118         int i, j;
3119
3120         for (i = 0; i < size; i++) {
3121                 mask = mask_pattern[i];
3122
3123                 /* Skip this loop if the mask equals to zero */
3124                 if (mask == 0x00)
3125                         continue;
3126
3127                 for (j = 0; j < 8; j++) {
3128                         if ((mask & 0x01) == 0) {
3129                                 mask >>= 1;
3130                                 continue;
3131                         }
3132                         mask >>= 1;
3133                         crc = crc_ccitt(crc, &(pattern[i * 8 + j]), 1);
3134                 }
3135         }
3136         /*      Finally, invert the result once to get the correct data */
3137         crc = ~crc;
3138         return bitreverse(crc) >> 16;
3139 }
3140
3141 /**
3142  *      velocity_set_wol        -       set up for wake on lan
3143  *      @vptr: velocity to set WOL status on
3144  *
3145  *      Set a card up for wake on lan either by unicast or by
3146  *      ARP packet.
3147  *
3148  *      FIXME: check static buffer is safe here
3149  */
3150
3151 static int velocity_set_wol(struct velocity_info *vptr)
3152 {
3153         struct mac_regs __iomem * regs = vptr->mac_regs;
3154         static u8 buf[256];
3155         int i;
3156
3157         static u32 mask_pattern[2][4] = {
3158                 {0x00203000, 0x000003C0, 0x00000000, 0x0000000}, /* ARP */
3159                 {0xfffff000, 0xffffffff, 0xffffffff, 0x000ffff}  /* Magic Packet */
3160         };
3161
3162         writew(0xFFFF, &regs->WOLCRClr);
3163         writeb(WOLCFG_SAB | WOLCFG_SAM, &regs->WOLCFGSet);
3164         writew(WOLCR_MAGIC_EN, &regs->WOLCRSet);
3165
3166         /*
3167            if (vptr->wol_opts & VELOCITY_WOL_PHY)
3168            writew((WOLCR_LINKON_EN|WOLCR_LINKOFF_EN), &regs->WOLCRSet);
3169          */
3170
3171         if (vptr->wol_opts & VELOCITY_WOL_UCAST) {
3172                 writew(WOLCR_UNICAST_EN, &regs->WOLCRSet);
3173         }
3174
3175         if (vptr->wol_opts & VELOCITY_WOL_ARP) {
3176                 struct arp_packet *arp = (struct arp_packet *) buf;
3177                 u16 crc;
3178                 memset(buf, 0, sizeof(struct arp_packet) + 7);
3179
3180                 for (i = 0; i < 4; i++)
3181                         writel(mask_pattern[0][i], &regs->ByteMask[0][i]);
3182
3183                 arp->type = htons(ETH_P_ARP);
3184                 arp->ar_op = htons(1);
3185
3186                 memcpy(arp->ar_tip, vptr->ip_addr, 4);
3187
3188                 crc = wol_calc_crc((sizeof(struct arp_packet) + 7) / 8, buf,
3189                                 (u8 *) & mask_pattern[0][0]);
3190
3191                 writew(crc, &regs->PatternCRC[0]);
3192                 writew(WOLCR_ARP_EN, &regs->WOLCRSet);
3193         }
3194
3195         BYTE_REG_BITS_ON(PWCFG_WOLTYPE, &regs->PWCFGSet);
3196         BYTE_REG_BITS_ON(PWCFG_LEGACY_WOLEN, &regs->PWCFGSet);
3197
3198         writew(0x0FFF, &regs->WOLSRClr);
3199
3200         if (vptr->mii_status & VELOCITY_AUTONEG_ENABLE) {
3201                 if (PHYID_GET_PHY_ID(vptr->phy_id) == PHYID_CICADA_CS8201)
3202                         MII_REG_BITS_ON(AUXCR_MDPPS, MII_REG_AUXCR, vptr->mac_regs);
3203
3204                 MII_REG_BITS_OFF(G1000CR_1000FD | G1000CR_1000, MII_REG_G1000CR, vptr->mac_regs);
3205         }
3206
3207         if (vptr->mii_status & VELOCITY_SPEED_1000)
3208                 MII_REG_BITS_ON(BMCR_REAUTO, MII_REG_BMCR, vptr->mac_regs);
3209
3210         BYTE_REG_BITS_ON(CHIPGCR_FCMODE, &regs->CHIPGCR);
3211
3212         {
3213                 u8 GCR;
3214                 GCR = readb(&regs->CHIPGCR);
3215                 GCR = (GCR & ~CHIPGCR_FCGMII) | CHIPGCR_FCFDX;
3216                 writeb(GCR, &regs->CHIPGCR);
3217         }
3218
3219         BYTE_REG_BITS_OFF(ISR_PWEI, &regs->ISR);
3220         /* Turn on SWPTAG just before entering power mode */
3221         BYTE_REG_BITS_ON(STICKHW_SWPTAG, &regs->STICKHW);
3222         /* Go to bed ..... */
3223         BYTE_REG_BITS_ON((STICKHW_DS1 | STICKHW_DS0), &regs->STICKHW);
3224
3225         return 0;
3226 }
3227
3228 static int velocity_suspend(struct pci_dev *pdev, pm_message_t state)
3229 {
3230         struct net_device *dev = pci_get_drvdata(pdev);
3231         struct velocity_info *vptr = netdev_priv(dev);
3232         unsigned long flags;
3233
3234         if(!netif_running(vptr->dev))
3235                 return 0;
3236
3237         netif_device_detach(vptr->dev);
3238
3239         spin_lock_irqsave(&vptr->lock, flags);
3240         pci_save_state(pdev);
3241 #ifdef ETHTOOL_GWOL
3242         if (vptr->flags & VELOCITY_FLAGS_WOL_ENABLED) {
3243                 velocity_get_ip(vptr);
3244                 velocity_save_context(vptr, &vptr->context);
3245                 velocity_shutdown(vptr);
3246                 velocity_set_wol(vptr);
3247                 pci_enable_wake(pdev, 3, 1);
3248                 pci_set_power_state(pdev, PCI_D3hot);
3249         } else {
3250                 velocity_save_context(vptr, &vptr->context);
3251                 velocity_shutdown(vptr);
3252                 pci_disable_device(pdev);
3253                 pci_set_power_state(pdev, pci_choose_state(pdev, state));
3254         }
3255 #else
3256         pci_set_power_state(pdev, pci_choose_state(pdev, state));
3257 #endif
3258         spin_unlock_irqrestore(&vptr->lock, flags);
3259         return 0;
3260 }
3261
3262 static int velocity_resume(struct pci_dev *pdev)
3263 {
3264         struct net_device *dev = pci_get_drvdata(pdev);
3265         struct velocity_info *vptr = netdev_priv(dev);
3266         unsigned long flags;
3267         int i;
3268
3269         if(!netif_running(vptr->dev))
3270                 return 0;
3271
3272         pci_set_power_state(pdev, PCI_D0);
3273         pci_enable_wake(pdev, 0, 0);
3274         pci_restore_state(pdev);
3275
3276         mac_wol_reset(vptr->mac_regs);
3277
3278         spin_lock_irqsave(&vptr->lock, flags);
3279         velocity_restore_context(vptr, &vptr->context);
3280         velocity_init_registers(vptr, VELOCITY_INIT_WOL);
3281         mac_disable_int(vptr->mac_regs);
3282
3283         velocity_tx_srv(vptr, 0);
3284
3285         for (i = 0; i < vptr->num_txq; i++) {
3286                 if (vptr->td_used[i]) {
3287                         mac_tx_queue_wake(vptr->mac_regs, i);
3288                 }
3289         }
3290
3291         mac_enable_int(vptr->mac_regs);
3292         spin_unlock_irqrestore(&vptr->lock, flags);
3293         netif_device_attach(vptr->dev);
3294
3295         return 0;
3296 }
3297
3298 static int velocity_netdev_event(struct notifier_block *nb, unsigned long notification, void *ptr)
3299 {
3300         struct in_ifaddr *ifa = (struct in_ifaddr *) ptr;
3301
3302         if (ifa) {
3303                 struct net_device *dev = ifa->ifa_dev->dev;
3304                 struct velocity_info *vptr;
3305                 unsigned long flags;
3306
3307                 spin_lock_irqsave(&velocity_dev_list_lock, flags);
3308                 list_for_each_entry(vptr, &velocity_dev_list, list) {
3309                         if (vptr->dev == dev) {
3310                                 velocity_get_ip(vptr);
3311                                 break;
3312                         }
3313                 }
3314                 spin_unlock_irqrestore(&velocity_dev_list_lock, flags);
3315         }
3316         return NOTIFY_DONE;
3317 }
3318 #endif