fedora core 6 1.2949 + vserver 2.2.0
[linux-2.6.git] / drivers / net / via-rhine.c
index 20bfbb9..ebbda1d 100644 (file)
        version. He may or may not be interested in bug reports on this
        code. You can find his versions at:
        http://www.scyld.com/network/via-rhine.html
-
-
-       Linux kernel version history:
-
-       LK1.1.0:
-       - Jeff Garzik: softnet 'n stuff
-
-       LK1.1.1:
-       - Justin Guyett: softnet and locking fixes
-       - Jeff Garzik: use PCI interface
-
-       LK1.1.2:
-       - Urban Widmark: minor cleanups, merges from Becker 1.03a/1.04 versions
-
-       LK1.1.3:
-       - Urban Widmark: use PCI DMA interface (with thanks to the eepro100.c
-                        code) update "Theory of Operation" with
-                        softnet/locking changes
-       - Dave Miller: PCI DMA and endian fixups
-       - Jeff Garzik: MOD_xxx race fixes, updated PCI resource allocation
-
-       LK1.1.4:
-       - Urban Widmark: fix gcc 2.95.2 problem and
-                        remove writel's to fixed address 0x7c
-
-       LK1.1.5:
-       - Urban Widmark: mdio locking, bounce buffer changes
-                        merges from Beckers 1.05 version
-                        added netif_running_on/off support
-
-       LK1.1.6:
-       - Urban Widmark: merges from Beckers 1.08b version (VT6102 + mdio)
-                        set netif_running_on/off on startup, del_timer_sync
-
-       LK1.1.7:
-       - Manfred Spraul: added reset into tx_timeout
-
-       LK1.1.9:
-       - Urban Widmark: merges from Beckers 1.10 version
-                        (media selection + eeprom reload)
-       - David Vrabel:  merges from D-Link "1.11" version
-                        (disable WOL and PME on startup)
-
-       LK1.1.10:
-       - Manfred Spraul: use "singlecopy" for unaligned buffers
-                         don't allocate bounce buffers for !ReqTxAlign cards
-
-       LK1.1.11:
-       - David Woodhouse: Set dev->base_addr before the first time we call
-                          wait_for_reset(). It's a lot happier that way.
-                          Free np->tx_bufs only if we actually allocated it.
-
-       LK1.1.12:
-       - Martin Eriksson: Allow Memory-Mapped IO to be enabled.
-
-       LK1.1.13 (jgarzik):
-       - Add ethtool support
-       - Replace some MII-related magic numbers with constants
-
-       LK1.1.14 (Ivan G.):
-       - fixes comments for Rhine-III
-       - removes W_MAX_TIMEOUT (unused)
-       - adds HasDavicomPhy for Rhine-I (basis: linuxfet driver; my card
-         is R-I and has Davicom chip, flag is referenced in kernel driver)
-       - sends chip_id as a parameter to wait_for_reset since np is not
-         initialized on first call
-       - changes mmio "else if (chip_id==VT6102)" to "else" so it will work
-         for Rhine-III's (documentation says same bit is correct)
-       - transmit frame queue message is off by one - fixed
-       - adds IntrNormalSummary to "Something Wicked" exclusion list
-         so normal interrupts will not trigger the message (src: Donald Becker)
-       (Roger Luethi)
-       - show confused chip where to continue after Tx error
-       - location of collision counter is chip specific
-       - allow selecting backoff algorithm (module parameter)
-
-       LK1.1.15 (jgarzik):
-       - Use new MII lib helper generic_mii_ioctl
-
-       LK1.1.16 (Roger Luethi)
-       - Etherleak fix
-       - Handle Tx buffer underrun
-       - Fix bugs in full duplex handling
-       - New reset code uses "force reset" cmd on Rhine-II
-       - Various clean ups
-
-       LK1.1.17 (Roger Luethi)
-       - Fix race in via_rhine_start_tx()
-       - On errors, wait for Tx engine to turn off before scavenging
-       - Handle Tx descriptor write-back race on Rhine-II
-       - Force flushing for PCI posted writes
-       - More reset code changes
-
-       LK1.1.18 (Roger Luethi)
-       - No filtering multicast in promisc mode (Edward Peng)
-       - Fix for Rhine-I Tx timeouts
-
-       LK1.1.19 (Roger Luethi)
-       - Increase Tx threshold for unspecified errors
-
-       LK1.2.0-2.6 (Roger Luethi)
-       - Massive clean-up
-       - Rewrite PHY, media handling (remove options, full_duplex, backoff)
-       - Fix Tx engine race for good
+       [link no longer provides useful info -jgarzik]
 
 */
 
 #define DRV_NAME       "via-rhine"
-#define DRV_VERSION    "1.2.0-2.6"
-#define DRV_RELDATE    "June-10-2004"
+#define DRV_VERSION    "1.4.2"
+#define DRV_RELDATE    "Sept-11-2006"
 
 
 /* A few user-configurable values.
@@ -147,6 +44,10 @@ static int max_interrupt_work = 20;
    Setting to > 1518 effectively disables this feature. */
 static int rx_copybreak;
 
+/* Work-around for broken BIOSes: they are unable to get the chip back out of
+   power state D3 so PXE booting fails. bootparam(7): via-rhine.avoid_D3=1 */
+static int avoid_D3;
+
 /*
  * In case you are looking for 'options[]' or 'full_duplex[]', they
  * are gone. Use ethtool(8) instead.
@@ -166,7 +67,11 @@ static const int multicast_filter_limit = 32;
    There are no ill effects from too-large receive rings. */
 #define TX_RING_SIZE   16
 #define TX_QUEUE_LEN   10      /* Limit ring entries actually used. */
+#ifdef CONFIG_VIA_RHINE_NAPI
+#define RX_RING_SIZE   64
+#else
 #define RX_RING_SIZE   16
+#endif
 
 
 /* Operational parameters that usually are not changed. */
@@ -177,6 +82,7 @@ static const int multicast_filter_limit = 32;
 #define PKT_BUF_SZ     1536    /* Size of each temporary Rx buffer.*/
 
 #include <linux/module.h>
+#include <linux/moduleparam.h>
 #include <linux/kernel.h>
 #include <linux/string.h>
 #include <linux/timer.h>
@@ -185,6 +91,7 @@ static const int multicast_filter_limit = 32;
 #include <linux/slab.h>
 #include <linux/interrupt.h>
 #include <linux/pci.h>
+#include <linux/dma-mapping.h>
 #include <linux/netdevice.h>
 #include <linux/etherdevice.h>
 #include <linux/skbuff.h>
@@ -193,8 +100,8 @@ static const int multicast_filter_limit = 32;
 #include <linux/mii.h>
 #include <linux/ethtool.h>
 #include <linux/crc32.h>
+#include <linux/bitops.h>
 #include <asm/processor.h>     /* Processor type for cache alignment. */
-#include <asm/bitops.h>
 #include <asm/io.h>
 #include <asm/irq.h>
 #include <asm/uaccess.h>
@@ -208,30 +115,20 @@ KERN_INFO DRV_NAME ".c:v1.10-LK" DRV_VERSION " " DRV_RELDATE " Written by Donald
 #ifdef CONFIG_VIA_RHINE_MMIO
 #define USE_MMIO
 #else
-#undef readb
-#undef readw
-#undef readl
-#undef writeb
-#undef writew
-#undef writel
-#define readb inb
-#define readw inw
-#define readl inl
-#define writeb outb
-#define writew outw
-#define writel outl
 #endif
 
 MODULE_AUTHOR("Donald Becker <becker@scyld.com>");
 MODULE_DESCRIPTION("VIA Rhine PCI Fast Ethernet driver");
 MODULE_LICENSE("GPL");
 
-MODULE_PARM(max_interrupt_work, "i");
-MODULE_PARM(debug, "i");
-MODULE_PARM(rx_copybreak, "i");
+module_param(max_interrupt_work, int, 0);
+module_param(debug, int, 0);
+module_param(rx_copybreak, int, 0);
+module_param(avoid_D3, bool, 0);
 MODULE_PARM_DESC(max_interrupt_work, "VIA Rhine maximum events handled per interrupt");
 MODULE_PARM_DESC(debug, "VIA Rhine debug level (0-7)");
 MODULE_PARM_DESC(rx_copybreak, "VIA Rhine copy breakpoint for copy-only-tiny-frames");
+MODULE_PARM_DESC(avoid_D3, "Avoid power state D3 (work-around for broken BIOSes)");
 
 /*
                Theory of Operation
@@ -363,14 +260,13 @@ enum rhine_quirks {
  */
 
 /* Beware of PCI posted writes */
-#define IOSYNC do { readb(dev->base_addr + StationAddr); } while (0)
+#define IOSYNC do { ioread8(ioaddr + StationAddr); } while (0)
 
-static struct pci_device_id rhine_pci_tbl[] =
-{
-       {0x1106, 0x3043, PCI_ANY_ID, PCI_ANY_ID, 0, 0, }, /* VT86C100A */
-       {0x1106, 0x3065, PCI_ANY_ID, PCI_ANY_ID, 0, 0, }, /* VT6102 */
-       {0x1106, 0x3106, PCI_ANY_ID, PCI_ANY_ID, 0, 0, }, /* 6105{,L,LOM} */
-       {0x1106, 0x3053, PCI_ANY_ID, PCI_ANY_ID, 0, 0, }, /* VT6105M */
+static const struct pci_device_id rhine_pci_tbl[] = {
+       { 0x1106, 0x3043, PCI_ANY_ID, PCI_ANY_ID, },    /* VT86C100A */
+       { 0x1106, 0x3065, PCI_ANY_ID, PCI_ANY_ID, },    /* VT6102 */
+       { 0x1106, 0x3106, PCI_ANY_ID, PCI_ANY_ID, },    /* 6105{,L,LOM} */
+       { 0x1106, 0x3053, PCI_ANY_ID, PCI_ANY_ID, },    /* VT6105M */
        { }     /* terminate list */
 };
 MODULE_DEVICE_TABLE(pci, rhine_pci_tbl);
@@ -401,7 +297,7 @@ enum backoff_bits {
 
 #ifdef USE_MMIO
 /* Registers we check that mmio and reg are the same. */
-int mmio_verify_registers[] = {
+static const int mmio_verify_registers[] = {
        RxConfig, TxConfig, IntrEnable, ConfigA, ConfigB, ConfigC, ConfigD,
        0
 };
@@ -479,7 +375,7 @@ struct rhine_private {
        struct sk_buff *tx_skbuff[TX_RING_SIZE];
        dma_addr_t tx_skbuff_dma[TX_RING_SIZE];
 
-       /* Tx bounce buffers */
+       /* Tx bounce buffers (Rhine-I only) */
        unsigned char *tx_buf[TX_RING_SIZE];
        unsigned char *tx_bufs;
        dma_addr_t tx_bufs_dma;
@@ -500,6 +396,7 @@ struct rhine_private {
        u8 tx_thresh, rx_thresh;
 
        struct mii_if_info mii_if;
+       void __iomem *base;
 };
 
 static int  mdio_read(struct net_device *dev, int phy_id, int location);
@@ -507,16 +404,16 @@ static void mdio_write(struct net_device *dev, int phy_id, int location, int val
 static int  rhine_open(struct net_device *dev);
 static void rhine_tx_timeout(struct net_device *dev);
 static int  rhine_start_tx(struct sk_buff *skb, struct net_device *dev);
-static irqreturn_t rhine_interrupt(int irq, void *dev_instance, struct pt_regs *regs);
+static irqreturn_t rhine_interrupt(int irq, void *dev_instance);
 static void rhine_tx(struct net_device *dev);
-static void rhine_rx(struct net_device *dev);
+static int rhine_rx(struct net_device *dev, int limit);
 static void rhine_error(struct net_device *dev, int intr_status);
 static void rhine_set_rx_mode(struct net_device *dev);
 static struct net_device_stats *rhine_get_stats(struct net_device *dev);
 static int netdev_ioctl(struct net_device *dev, struct ifreq *rq, int cmd);
-static struct ethtool_ops netdev_ethtool_ops;
+static const struct ethtool_ops netdev_ethtool_ops;
 static int  rhine_close(struct net_device *dev);
-static void rhine_shutdown (struct device *gdev);
+static void rhine_shutdown (struct pci_dev *pdev);
 
 #define RHINE_WAIT_FOR(condition) do {                                 \
        int i=1024;                                                     \
@@ -529,14 +426,14 @@ static void rhine_shutdown (struct device *gdev);
 
 static inline u32 get_intr_status(struct net_device *dev)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
        u32 intr_status;
 
-       intr_status = readw(ioaddr + IntrStatus);
+       intr_status = ioread16(ioaddr + IntrStatus);
        /* On Rhine-II, Bit 3 indicates Tx descriptor write-back race. */
        if (rp->quirks & rqStatusWBRace)
-               intr_status |= readb(ioaddr + IntrStatus2) << 16;
+               intr_status |= ioread8(ioaddr + IntrStatus2) << 16;
        return intr_status;
 }
 
@@ -546,32 +443,32 @@ static inline u32 get_intr_status(struct net_device *dev)
  */
 static void rhine_power_init(struct net_device *dev)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
        u16 wolstat;
 
        if (rp->quirks & rqWOL) {
                /* Make sure chip is in power state D0 */
-               writeb(readb(ioaddr + StickyHW) & 0xFC, ioaddr + StickyHW);
+               iowrite8(ioread8(ioaddr + StickyHW) & 0xFC, ioaddr + StickyHW);
 
                /* Disable "force PME-enable" */
-               writeb(0x80, ioaddr + WOLcgClr);
+               iowrite8(0x80, ioaddr + WOLcgClr);
 
                /* Clear power-event config bits (WOL) */
-               writeb(0xFF, ioaddr + WOLcrClr);
+               iowrite8(0xFF, ioaddr + WOLcrClr);
                /* More recent cards can manage two additional patterns */
                if (rp->quirks & rq6patterns)
-                       writeb(0x03, ioaddr + WOLcrClr1);
+                       iowrite8(0x03, ioaddr + WOLcrClr1);
 
                /* Save power-event status bits */
-               wolstat = readb(ioaddr + PwrcsrSet);
+               wolstat = ioread8(ioaddr + PwrcsrSet);
                if (rp->quirks & rq6patterns)
-                       wolstat |= (readb(ioaddr + PwrcsrSet1) & 0x03) << 8;
+                       wolstat |= (ioread8(ioaddr + PwrcsrSet1) & 0x03) << 8;
 
                /* Clear power-event status bits */
-               writeb(0xFF, ioaddr + PwrcsrClr);
+               iowrite8(0xFF, ioaddr + PwrcsrClr);
                if (rp->quirks & rq6patterns)
-                       writeb(0x03, ioaddr + PwrcsrClr1);
+                       iowrite8(0x03, ioaddr + PwrcsrClr1);
 
                if (wolstat) {
                        char *reason;
@@ -602,32 +499,32 @@ static void rhine_power_init(struct net_device *dev)
 
 static void rhine_chip_reset(struct net_device *dev)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
 
-       writeb(Cmd1Reset, ioaddr + ChipCmd1);
+       iowrite8(Cmd1Reset, ioaddr + ChipCmd1);
        IOSYNC;
 
-       if (readb(ioaddr + ChipCmd1) & Cmd1Reset) {
+       if (ioread8(ioaddr + ChipCmd1) & Cmd1Reset) {
                printk(KERN_INFO "%s: Reset not complete yet. "
                        "Trying harder.\n", DRV_NAME);
 
                /* Force reset */
                if (rp->quirks & rqForceReset)
-                       writeb(0x40, ioaddr + MiscCmd);
+                       iowrite8(0x40, ioaddr + MiscCmd);
 
                /* Reset can take somewhat longer (rare) */
-               RHINE_WAIT_FOR(!(readb(ioaddr + ChipCmd1) & Cmd1Reset));
+               RHINE_WAIT_FOR(!(ioread8(ioaddr + ChipCmd1) & Cmd1Reset));
        }
 
        if (debug > 1)
                printk(KERN_INFO "%s: Reset %s.\n", dev->name,
-                       (readb(ioaddr + ChipCmd1) & Cmd1Reset) ?
+                       (ioread8(ioaddr + ChipCmd1) & Cmd1Reset) ?
                        "failed" : "succeeded");
 }
 
 #ifdef USE_MMIO
-static void __devinit enable_mmio(long pioaddr, u32 quirks)
+static void enable_mmio(long pioaddr, u32 quirks)
 {
        int n;
        if (quirks & rqRhineI) {
@@ -647,8 +544,8 @@ static void __devinit enable_mmio(long pioaddr, u32 quirks)
  */
 static void __devinit rhine_reload_eeprom(long pioaddr, struct net_device *dev)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
 
        outb(0x20, pioaddr + MACRegEEcsr);
        RHINE_WAIT_FOR(!(inb(pioaddr + MACRegEEcsr) & 0x20));
@@ -664,7 +561,7 @@ static void __devinit rhine_reload_eeprom(long pioaddr, struct net_device *dev)
 
        /* Turn off EEPROM-controlled wake-up (magic packet) */
        if (rp->quirks & rqWOL)
-               writeb(readb(ioaddr + ConfigA) & 0xFE, ioaddr + ConfigA);
+               iowrite8(ioread8(ioaddr + ConfigA) & 0xFC, ioaddr + ConfigA);
 
 }
 
@@ -672,11 +569,37 @@ static void __devinit rhine_reload_eeprom(long pioaddr, struct net_device *dev)
 static void rhine_poll(struct net_device *dev)
 {
        disable_irq(dev->irq);
-       rhine_interrupt(dev->irq, (void *)dev, NULL);
+       rhine_interrupt(dev->irq, (void *)dev);
        enable_irq(dev->irq);
 }
 #endif
 
+#ifdef CONFIG_VIA_RHINE_NAPI
+static int rhine_napipoll(struct net_device *dev, int *budget)
+{
+       struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
+       int done, limit = min(dev->quota, *budget);
+
+       done = rhine_rx(dev, limit);
+       *budget -= done;
+       dev->quota -= done;
+
+       if (done < limit) {
+               netif_rx_complete(dev);
+
+               iowrite16(IntrRxDone | IntrRxErr | IntrRxEmpty| IntrRxOverflow |
+                         IntrRxDropped | IntrRxNoBuf | IntrTxAborted |
+                         IntrTxDone | IntrTxError | IntrTxUnderrun |
+                         IntrPCIErr | IntrStatsMax | IntrLinkChange,
+                         ioaddr + IntrEnable);
+               return 0;
+       }
+       else
+               return 1;
+}
+#endif
+
 static void rhine_hw_init(struct net_device *dev, long pioaddr)
 {
        struct rhine_private *rp = netdev_priv(dev);
@@ -702,9 +625,14 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
        u32 quirks;
        long pioaddr;
        long memaddr;
-       long ioaddr;
+       void __iomem *ioaddr;
        int io_size, phy_id;
        const char *name;
+#ifdef USE_MMIO
+       int bar = 1;
+#else
+       int bar = 0;
+#endif
 
 /* when built into the kernel, we only print version if device is found */
 #ifndef MODULE
@@ -745,7 +673,7 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
                goto err_out;
 
        /* this should always be supported */
-       rc = pci_set_dma_mask(pdev, 0xffffffff);
+       rc = pci_set_dma_mask(pdev, DMA_32BIT_MASK);
        if (rc) {
                printk(KERN_ERR "32-bit PCI DMA addresses not supported by "
                       "the card!?\n");
@@ -783,10 +711,7 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
        if (rc)
                goto err_out_free_netdev;
 
-#ifdef USE_MMIO
-       enable_mmio(pioaddr, quirks);
-
-       ioaddr = (long) ioremap(memaddr, io_size);
+       ioaddr = pci_iomap(pdev, bar, io_size);
        if (!ioaddr) {
                rc = -EIO;
                printk(KERN_ERR "ioremap failed for device %s, region 0x%X "
@@ -794,6 +719,9 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
                goto err_out_free_res;
        }
 
+#ifdef USE_MMIO
+       enable_mmio(pioaddr, quirks);
+
        /* Check that selected MMIO registers match the PIO ones */
        i = 0;
        while (mmio_verify_registers[i]) {
@@ -807,20 +735,20 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
                        goto err_out_unmap;
                }
        }
-#else
-       ioaddr = pioaddr;
 #endif /* USE_MMIO */
 
-       dev->base_addr = ioaddr;
+       dev->base_addr = (unsigned long)ioaddr;
+       rp->base = ioaddr;
 
        /* Get chip registers into a sane state */
        rhine_power_init(dev);
        rhine_hw_init(dev, pioaddr);
 
        for (i = 0; i < 6; i++)
-               dev->dev_addr[i] = readb(ioaddr + StationAddr + i);
+               dev->dev_addr[i] = ioread8(ioaddr + StationAddr + i);
+       memcpy(dev->perm_addr, dev->dev_addr, dev->addr_len);
 
-       if (!is_valid_ether_addr(dev->dev_addr)) {
+       if (!is_valid_ether_addr(dev->perm_addr)) {
                rc = -EIO;
                printk(KERN_ERR "Invalid MAC address\n");
                goto err_out_unmap;
@@ -828,7 +756,7 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
 
        /* For Rhine-I/II, phy_id is loaded from EEPROM */
        if (!phy_id)
-               phy_id = readb(ioaddr + 0x6C);
+               phy_id = ioread8(ioaddr + 0x6C);
 
        dev->irq = pdev->irq;
 
@@ -851,6 +779,10 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
        dev->watchdog_timeo = TX_TIMEOUT;
 #ifdef CONFIG_NET_POLL_CONTROLLER
        dev->poll_controller = rhine_poll;
+#endif
+#ifdef CONFIG_VIA_RHINE_NAPI
+       dev->poll = rhine_napipoll;
+       dev->weight = 64;
 #endif
        if (rp->quirks & rqRhineI)
                dev->features |= NETIF_F_SG|NETIF_F_HW_CSUM;
@@ -865,7 +797,7 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
 #ifdef USE_MMIO
                memaddr
 #else
-               ioaddr
+               (long)ioaddr
 #endif
                 );
 
@@ -897,14 +829,15 @@ static int __devinit rhine_init_one(struct pci_dev *pdev,
                }
        }
        rp->mii_if.phy_id = phy_id;
+       if (debug > 1 && avoid_D3)
+               printk(KERN_INFO "%s: No D3 power state at shutdown.\n",
+                      dev->name);
 
        return 0;
 
 err_out_unmap:
-#ifdef USE_MMIO
-       iounmap((void *)ioaddr);
+       pci_iounmap(pdev, ioaddr);
 err_out_free_res:
-#endif
        pci_release_regions(pdev);
 err_out_free_netdev:
        free_netdev(dev);
@@ -947,7 +880,7 @@ static int alloc_ring(struct net_device* dev)
        return 0;
 }
 
-void free_ring(struct net_device* dev)
+static void free_ring(struct net_device* dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
 
@@ -997,7 +930,7 @@ static void alloc_rbufs(struct net_device *dev)
                skb->dev = dev;                 /* Mark as being used by this device. */
 
                rp->rx_skbuff_dma[i] =
-                       pci_map_single(rp->pdev, skb->tail, rp->rx_buf_sz,
+                       pci_map_single(rp->pdev, skb->data, rp->rx_buf_sz,
                                       PCI_DMA_FROMDEVICE);
 
                rp->rx_ring[i].addr = cpu_to_le32(rp->rx_skbuff_dma[i]);
@@ -1039,7 +972,8 @@ static void alloc_tbufs(struct net_device* dev)
                rp->tx_ring[i].desc_length = cpu_to_le32(TXDESC);
                next += sizeof(struct tx_desc);
                rp->tx_ring[i].next_desc = cpu_to_le32(next);
-               rp->tx_buf[i] = &rp->tx_bufs[i * PKT_BUF_SZ];
+               if (rp->quirks & rqRhineI)
+                       rp->tx_buf[i] = &rp->tx_bufs[i * PKT_BUF_SZ];
        }
        rp->tx_ring[i-1].next_desc = cpu_to_le32(rp->tx_ring_dma);
 
@@ -1071,102 +1005,123 @@ static void free_tbufs(struct net_device* dev)
 static void rhine_check_media(struct net_device *dev, unsigned int init_media)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
 
        mii_check_media(&rp->mii_if, debug, init_media);
 
        if (rp->mii_if.full_duplex)
-           writeb(readb(ioaddr + ChipCmd1) | Cmd1FDuplex,
+           iowrite8(ioread8(ioaddr + ChipCmd1) | Cmd1FDuplex,
                   ioaddr + ChipCmd1);
        else
-           writeb(readb(ioaddr + ChipCmd1) & ~Cmd1FDuplex,
+           iowrite8(ioread8(ioaddr + ChipCmd1) & ~Cmd1FDuplex,
                   ioaddr + ChipCmd1);
+       if (debug > 1)
+               printk(KERN_INFO "%s: force_media %d, carrier %d\n", dev->name,
+                       rp->mii_if.force_media, netif_carrier_ok(dev));
+}
+
+/* Called after status of force_media possibly changed */
+static void rhine_set_carrier(struct mii_if_info *mii)
+{
+       if (mii->force_media) {
+               /* autoneg is off: Link is always assumed to be up */
+               if (!netif_carrier_ok(mii->dev))
+                       netif_carrier_on(mii->dev);
+       }
+       else    /* Let MMI library update carrier status */
+               rhine_check_media(mii->dev, 0);
+       if (debug > 1)
+               printk(KERN_INFO "%s: force_media %d, carrier %d\n",
+                      mii->dev->name, mii->force_media,
+                      netif_carrier_ok(mii->dev));
 }
 
 static void init_registers(struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        int i;
 
        for (i = 0; i < 6; i++)
-               writeb(dev->dev_addr[i], ioaddr + StationAddr + i);
+               iowrite8(dev->dev_addr[i], ioaddr + StationAddr + i);
 
        /* Initialize other registers. */
-       writew(0x0006, ioaddr + PCIBusConfig);  /* Tune configuration??? */
+       iowrite16(0x0006, ioaddr + PCIBusConfig);       /* Tune configuration??? */
        /* Configure initial FIFO thresholds. */
-       writeb(0x20, ioaddr + TxConfig);
+       iowrite8(0x20, ioaddr + TxConfig);
        rp->tx_thresh = 0x20;
        rp->rx_thresh = 0x60;           /* Written in rhine_set_rx_mode(). */
 
-       writel(rp->rx_ring_dma, ioaddr + RxRingPtr);
-       writel(rp->tx_ring_dma, ioaddr + TxRingPtr);
+       iowrite32(rp->rx_ring_dma, ioaddr + RxRingPtr);
+       iowrite32(rp->tx_ring_dma, ioaddr + TxRingPtr);
 
        rhine_set_rx_mode(dev);
 
+       netif_poll_enable(dev);
+
        /* Enable interrupts by setting the interrupt mask. */
-       writew(IntrRxDone | IntrRxErr | IntrRxEmpty| IntrRxOverflow |
+       iowrite16(IntrRxDone | IntrRxErr | IntrRxEmpty| IntrRxOverflow |
               IntrRxDropped | IntrRxNoBuf | IntrTxAborted |
               IntrTxDone | IntrTxError | IntrTxUnderrun |
               IntrPCIErr | IntrStatsMax | IntrLinkChange,
               ioaddr + IntrEnable);
 
-       writew(CmdStart | CmdTxOn | CmdRxOn | (Cmd1NoTxPoll << 8),
+       iowrite16(CmdStart | CmdTxOn | CmdRxOn | (Cmd1NoTxPoll << 8),
               ioaddr + ChipCmd);
        rhine_check_media(dev, 1);
 }
 
 /* Enable MII link status auto-polling (required for IntrLinkChange) */
-static void rhine_enable_linkmon(long ioaddr)
+static void rhine_enable_linkmon(void __iomem *ioaddr)
 {
-       writeb(0, ioaddr + MIICmd);
-       writeb(MII_BMSR, ioaddr + MIIRegAddr);
-       writeb(0x80, ioaddr + MIICmd);
+       iowrite8(0, ioaddr + MIICmd);
+       iowrite8(MII_BMSR, ioaddr + MIIRegAddr);
+       iowrite8(0x80, ioaddr + MIICmd);
 
-       RHINE_WAIT_FOR((readb(ioaddr + MIIRegAddr) & 0x20));
+       RHINE_WAIT_FOR((ioread8(ioaddr + MIIRegAddr) & 0x20));
 
-       writeb(MII_BMSR | 0x40, ioaddr + MIIRegAddr);
+       iowrite8(MII_BMSR | 0x40, ioaddr + MIIRegAddr);
 }
 
 /* Disable MII link status auto-polling (required for MDIO access) */
-static void rhine_disable_linkmon(long ioaddr, u32 quirks)
+static void rhine_disable_linkmon(void __iomem *ioaddr, u32 quirks)
 {
-       writeb(0, ioaddr + MIICmd);
+       iowrite8(0, ioaddr + MIICmd);
 
        if (quirks & rqRhineI) {
-               writeb(0x01, ioaddr + MIIRegAddr);      // MII_BMSR
+               iowrite8(0x01, ioaddr + MIIRegAddr);    // MII_BMSR
 
                /* Can be called from ISR. Evil. */
                mdelay(1);
 
                /* 0x80 must be set immediately before turning it off */
-               writeb(0x80, ioaddr + MIICmd);
+               iowrite8(0x80, ioaddr + MIICmd);
 
-               RHINE_WAIT_FOR(readb(ioaddr + MIIRegAddr) & 0x20);
+               RHINE_WAIT_FOR(ioread8(ioaddr + MIIRegAddr) & 0x20);
 
                /* Heh. Now clear 0x80 again. */
-               writeb(0, ioaddr + MIICmd);
+               iowrite8(0, ioaddr + MIICmd);
        }
        else
-               RHINE_WAIT_FOR(readb(ioaddr + MIIRegAddr) & 0x80);
+               RHINE_WAIT_FOR(ioread8(ioaddr + MIIRegAddr) & 0x80);
 }
 
 /* Read and write over the MII Management Data I/O (MDIO) interface. */
 
 static int mdio_read(struct net_device *dev, int phy_id, int regnum)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
        int result;
 
        rhine_disable_linkmon(ioaddr, rp->quirks);
 
        /* rhine_disable_linkmon already cleared MIICmd */
-       writeb(phy_id, ioaddr + MIIPhyAddr);
-       writeb(regnum, ioaddr + MIIRegAddr);
-       writeb(0x40, ioaddr + MIICmd);          /* Trigger read */
-       RHINE_WAIT_FOR(!(readb(ioaddr + MIICmd) & 0x40));
-       result = readw(ioaddr + MIIData);
+       iowrite8(phy_id, ioaddr + MIIPhyAddr);
+       iowrite8(regnum, ioaddr + MIIRegAddr);
+       iowrite8(0x40, ioaddr + MIICmd);                /* Trigger read */
+       RHINE_WAIT_FOR(!(ioread8(ioaddr + MIICmd) & 0x40));
+       result = ioread16(ioaddr + MIIData);
 
        rhine_enable_linkmon(ioaddr);
        return result;
@@ -1175,16 +1130,16 @@ static int mdio_read(struct net_device *dev, int phy_id, int regnum)
 static void mdio_write(struct net_device *dev, int phy_id, int regnum, int value)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
 
        rhine_disable_linkmon(ioaddr, rp->quirks);
 
        /* rhine_disable_linkmon already cleared MIICmd */
-       writeb(phy_id, ioaddr + MIIPhyAddr);
-       writeb(regnum, ioaddr + MIIRegAddr);
-       writew(value, ioaddr + MIIData);
-       writeb(0x20, ioaddr + MIICmd);          /* Trigger write */
-       RHINE_WAIT_FOR(!(readb(ioaddr + MIICmd) & 0x20));
+       iowrite8(phy_id, ioaddr + MIIPhyAddr);
+       iowrite8(regnum, ioaddr + MIIRegAddr);
+       iowrite16(value, ioaddr + MIIData);
+       iowrite8(0x20, ioaddr + MIICmd);                /* Trigger write */
+       RHINE_WAIT_FOR(!(ioread8(ioaddr + MIICmd) & 0x20));
 
        rhine_enable_linkmon(ioaddr);
 }
@@ -1192,10 +1147,10 @@ static void mdio_write(struct net_device *dev, int phy_id, int regnum, int value
 static int rhine_open(struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        int rc;
 
-       rc = request_irq(rp->pdev->irq, &rhine_interrupt, SA_SHIRQ, dev->name,
+       rc = request_irq(rp->pdev->irq, &rhine_interrupt, IRQF_SHARED, dev->name,
                        dev);
        if (rc)
                return rc;
@@ -1205,8 +1160,10 @@ static int rhine_open(struct net_device *dev)
                       dev->name, rp->pdev->irq);
 
        rc = alloc_ring(dev);
-       if (rc)
+       if (rc) {
+               free_irq(rp->pdev->irq, dev);
                return rc;
+       }
        alloc_rbufs(dev);
        alloc_tbufs(dev);
        rhine_chip_reset(dev);
@@ -1214,7 +1171,7 @@ static int rhine_open(struct net_device *dev)
        if (debug > 2)
                printk(KERN_DEBUG "%s: Done rhine_open(), status %4.4x "
                       "MII status: %4.4x.\n",
-                      dev->name, readw(ioaddr + ChipCmd),
+                      dev->name, ioread16(ioaddr + ChipCmd),
                       mdio_read(dev, rp->mii_if.phy_id, MII_BMSR));
 
        netif_start_queue(dev);
@@ -1225,11 +1182,11 @@ static int rhine_open(struct net_device *dev)
 static void rhine_tx_timeout(struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
 
        printk(KERN_WARNING "%s: Transmit timed out, status %4.4x, PHY status "
               "%4.4x, resetting...\n",
-              dev->name, readw(ioaddr + IntrStatus),
+              dev->name, ioread16(ioaddr + IntrStatus),
               mdio_read(dev, rp->mii_if.phy_id, MII_BMSR));
 
        /* protect against concurrent rx interrupts */
@@ -1258,7 +1215,7 @@ static void rhine_tx_timeout(struct net_device *dev)
 static int rhine_start_tx(struct sk_buff *skb, struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        unsigned entry;
 
        /* Caution: the write order is important here, set the field
@@ -1267,16 +1224,13 @@ static int rhine_start_tx(struct sk_buff *skb, struct net_device *dev)
        /* Calculate the next Tx descriptor entry. */
        entry = rp->cur_tx % TX_RING_SIZE;
 
-       if (skb->len < ETH_ZLEN) {
-               skb = skb_padto(skb, ETH_ZLEN);
-               if (skb == NULL)
-                       return 0;
-       }
+       if (skb_padto(skb, ETH_ZLEN))
+               return 0;
 
        rp->tx_skbuff[entry] = skb;
 
        if ((rp->quirks & rqRhineI) &&
-           (((long)skb->data & 3) || skb_shinfo(skb)->nr_frags != 0 || skb->ip_summed == CHECKSUM_HW)) {
+           (((unsigned long)skb->data & 3) || skb_shinfo(skb)->nr_frags != 0 || skb->ip_summed == CHECKSUM_PARTIAL)) {
                /* Must use alignment buffer. */
                if (skb->len > PKT_BUF_SZ) {
                        /* packet too long, drop it */
@@ -1285,7 +1239,12 @@ static int rhine_start_tx(struct sk_buff *skb, struct net_device *dev)
                        rp->stats.tx_dropped++;
                        return 0;
                }
+
+               /* Padding is not copied and so must be redone. */
                skb_copy_and_csum_dev(skb, rp->tx_buf[entry]);
+               if (skb->len < ETH_ZLEN)
+                       memset(rp->tx_buf[entry] + skb->len, 0,
+                              ETH_ZLEN - skb->len);
                rp->tx_skbuff_dma[entry] = 0;
                rp->tx_ring[entry].addr = cpu_to_le32(rp->tx_bufs_dma +
                                                      (rp->tx_buf[entry] -
@@ -1311,7 +1270,7 @@ static int rhine_start_tx(struct sk_buff *skb, struct net_device *dev)
        /* Non-x86 Todo: explicitly flush cache lines here. */
 
        /* Wake the potentially-idle transmit channel */
-       writeb(readb(ioaddr + ChipCmd1) | Cmd1TxDemand,
+       iowrite8(ioread8(ioaddr + ChipCmd1) | Cmd1TxDemand,
               ioaddr + ChipCmd1);
        IOSYNC;
 
@@ -1331,23 +1290,22 @@ static int rhine_start_tx(struct sk_buff *skb, struct net_device *dev)
 
 /* The interrupt handler does all of the Rx thread work and cleans up
    after the Tx thread. */
-static irqreturn_t rhine_interrupt(int irq, void *dev_instance, struct pt_regs *rgs)
+static irqreturn_t rhine_interrupt(int irq, void *dev_instance)
 {
        struct net_device *dev = dev_instance;
-       long ioaddr;
+       struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
        u32 intr_status;
        int boguscnt = max_interrupt_work;
        int handled = 0;
 
-       ioaddr = dev->base_addr;
-
        while ((intr_status = get_intr_status(dev))) {
                handled = 1;
 
                /* Acknowledge all of the current interrupt sources ASAP. */
                if (intr_status & IntrTxDescRace)
-                       writeb(0x08, ioaddr + IntrStatus2);
-               writew(intr_status & 0xffff, ioaddr + IntrStatus);
+                       iowrite8(0x08, ioaddr + IntrStatus2);
+               iowrite16(intr_status & 0xffff, ioaddr + IntrStatus);
                IOSYNC;
 
                if (debug > 4)
@@ -1355,15 +1313,25 @@ static irqreturn_t rhine_interrupt(int irq, void *dev_instance, struct pt_regs *
                               dev->name, intr_status);
 
                if (intr_status & (IntrRxDone | IntrRxErr | IntrRxDropped |
-                   IntrRxWakeUp | IntrRxEmpty | IntrRxNoBuf))
-                       rhine_rx(dev);
+                                  IntrRxWakeUp | IntrRxEmpty | IntrRxNoBuf)) {
+#ifdef CONFIG_VIA_RHINE_NAPI
+                       iowrite16(IntrTxAborted |
+                                 IntrTxDone | IntrTxError | IntrTxUnderrun |
+                                 IntrPCIErr | IntrStatsMax | IntrLinkChange,
+                                 ioaddr + IntrEnable);
+
+                       netif_rx_schedule(dev);
+#else
+                       rhine_rx(dev, RX_RING_SIZE);
+#endif
+               }
 
                if (intr_status & (IntrTxErrSummary | IntrTxDone)) {
                        if (intr_status & IntrTxErrSummary) {
                                /* Avoid scavenging before Tx engine turned off */
-                               RHINE_WAIT_FOR(!(readb(ioaddr+ChipCmd) & CmdTxOn));
+                               RHINE_WAIT_FOR(!(ioread8(ioaddr+ChipCmd) & CmdTxOn));
                                if (debug > 2 &&
-                                   readb(ioaddr+ChipCmd) & CmdTxOn)
+                                   ioread8(ioaddr+ChipCmd) & CmdTxOn)
                                        printk(KERN_WARNING "%s: "
                                               "rhine_interrupt() Tx engine"
                                               "still on.\n", dev->name);
@@ -1387,7 +1355,7 @@ static irqreturn_t rhine_interrupt(int irq, void *dev_instance, struct pt_regs *
 
        if (debug > 3)
                printk(KERN_DEBUG "%s: exiting interrupt, status=%8.8x.\n",
-                      dev->name, readw(ioaddr + IntrStatus));
+                      dev->name, ioread16(ioaddr + IntrStatus));
        return IRQ_RETVAL(handled);
 }
 
@@ -1404,7 +1372,7 @@ static void rhine_tx(struct net_device *dev)
        while (rp->dirty_tx != rp->cur_tx) {
                txstatus = le32_to_cpu(rp->tx_ring[entry].tx_status);
                if (debug > 6)
-                       printk(KERN_DEBUG " Tx scavenge %d status %8.8x.\n",
+                       printk(KERN_DEBUG "Tx scavenge %d status %8.8x.\n",
                               entry, txstatus);
                if (txstatus & DescOwn)
                        break;
@@ -1454,13 +1422,12 @@ static void rhine_tx(struct net_device *dev)
        spin_unlock(&rp->lock);
 }
 
-/* This routine is logically part of the interrupt handler, but isolated
-   for clarity and better register allocation. */
-static void rhine_rx(struct net_device *dev)
+/* Process up to limit frames from receive ring */
+static int rhine_rx(struct net_device *dev, int limit)
 {
        struct rhine_private *rp = netdev_priv(dev);
+       int count;
        int entry = rp->cur_rx % RX_RING_SIZE;
-       int boguscnt = rp->dirty_rx + RX_RING_SIZE - rp->cur_rx;
 
        if (debug > 4) {
                printk(KERN_DEBUG "%s: rhine_rx(), entry %d status %8.8x.\n",
@@ -1469,16 +1436,18 @@ static void rhine_rx(struct net_device *dev)
        }
 
        /* If EOP is set on the next entry, it's a new packet. Send it up. */
-       while (!(rp->rx_head_desc->rx_status & cpu_to_le32(DescOwn))) {
+       for (count = 0; count < limit; ++count) {
                struct rx_desc *desc = rp->rx_head_desc;
                u32 desc_status = le32_to_cpu(desc->rx_status);
                int data_size = desc_status >> 16;
 
+               if (desc_status & DescOwn)
+                       break;
+
                if (debug > 4)
-                       printk(KERN_DEBUG " rhine_rx() status is %8.8x.\n",
+                       printk(KERN_DEBUG "rhine_rx() status is %8.8x.\n",
                               desc_status);
-               if (--boguscnt < 0)
-                       break;
+
                if ((desc_status & (RxWholePkt | RxErr)) != RxWholePkt) {
                        if ((desc_status & RxWholePkt) != RxWholePkt) {
                                printk(KERN_WARNING "%s: Oversized Ethernet "
@@ -1493,7 +1462,7 @@ static void rhine_rx(struct net_device *dev)
                        } else if (desc_status & RxErr) {
                                /* There was a error. */
                                if (debug > 2)
-                                       printk(KERN_DEBUG " rhine_rx() Rx "
+                                       printk(KERN_DEBUG "rhine_rx() Rx "
                                               "error was %8.8x.\n",
                                               desc_status);
                                rp->stats.rx_errors++;
@@ -1524,7 +1493,7 @@ static void rhine_rx(struct net_device *dev)
                                                            PCI_DMA_FROMDEVICE);
 
                                eth_copy_and_sum(skb,
-                                                rp->rx_skbuff[entry]->tail,
+                                                rp->rx_skbuff[entry]->data,
                                                 pkt_len, 0);
                                skb_put(skb, pkt_len);
                                pci_dma_sync_single_for_device(rp->pdev,
@@ -1547,7 +1516,11 @@ static void rhine_rx(struct net_device *dev)
                                                 PCI_DMA_FROMDEVICE);
                        }
                        skb->protocol = eth_type_trans(skb, dev);
+#ifdef CONFIG_VIA_RHINE_NAPI
+                       netif_receive_skb(skb);
+#else
                        netif_rx(skb);
+#endif
                        dev->last_rx = jiffies;
                        rp->stats.rx_bytes += pkt_len;
                        rp->stats.rx_packets++;
@@ -1567,13 +1540,15 @@ static void rhine_rx(struct net_device *dev)
                                break;  /* Better luck next round. */
                        skb->dev = dev; /* Mark as being used by this device. */
                        rp->rx_skbuff_dma[entry] =
-                               pci_map_single(rp->pdev, skb->tail,
+                               pci_map_single(rp->pdev, skb->data,
                                               rp->rx_buf_sz,
                                               PCI_DMA_FROMDEVICE);
                        rp->rx_ring[entry].addr = cpu_to_le32(rp->rx_skbuff_dma[entry]);
                }
                rp->rx_ring[entry].rx_status = cpu_to_le32(DescOwn);
        }
+
+       return count;
 }
 
 /*
@@ -1582,16 +1557,16 @@ static void rhine_rx(struct net_device *dev)
  * these, for others the counters are set to 1 when written to and
  * instead cleared when read. So we clear them both ways ...
  */
-static inline void clear_tally_counters(const long ioaddr)
+static inline void clear_tally_counters(void __iomem *ioaddr)
 {
-       writel(0, ioaddr + RxMissed);
-       readw(ioaddr + RxCRCErrs);
-       readw(ioaddr + RxMissed);
+       iowrite32(0, ioaddr + RxMissed);
+       ioread16(ioaddr + RxCRCErrs);
+       ioread16(ioaddr + RxMissed);
 }
 
 static void rhine_restart_tx(struct net_device *dev) {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        int entry = rp->dirty_tx % TX_RING_SIZE;
        u32 intr_status;
 
@@ -1604,12 +1579,12 @@ static void rhine_restart_tx(struct net_device *dev) {
        if ((intr_status & IntrTxErrSummary) == 0) {
 
                /* We know better than the chip where it should continue. */
-               writel(rp->tx_ring_dma + entry * sizeof(struct tx_desc),
+               iowrite32(rp->tx_ring_dma + entry * sizeof(struct tx_desc),
                       ioaddr + TxRingPtr);
 
-               writeb(readb(ioaddr + ChipCmd) | CmdTxOn,
+               iowrite8(ioread8(ioaddr + ChipCmd) | CmdTxOn,
                       ioaddr + ChipCmd);
-               writeb(readb(ioaddr + ChipCmd1) | Cmd1TxDemand,
+               iowrite8(ioread8(ioaddr + ChipCmd1) | Cmd1TxDemand,
                       ioaddr + ChipCmd1);
                IOSYNC;
        }
@@ -1626,15 +1601,15 @@ static void rhine_restart_tx(struct net_device *dev) {
 static void rhine_error(struct net_device *dev, int intr_status)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
 
        spin_lock(&rp->lock);
 
        if (intr_status & IntrLinkChange)
                rhine_check_media(dev, 0);
        if (intr_status & IntrStatsMax) {
-               rp->stats.rx_crc_errors += readw(ioaddr + RxCRCErrs);
-               rp->stats.rx_missed_errors += readw(ioaddr + RxMissed);
+               rp->stats.rx_crc_errors += ioread16(ioaddr + RxCRCErrs);
+               rp->stats.rx_missed_errors += ioread16(ioaddr + RxMissed);
                clear_tally_counters(ioaddr);
        }
        if (intr_status & IntrTxAborted) {
@@ -1644,7 +1619,7 @@ static void rhine_error(struct net_device *dev, int intr_status)
        }
        if (intr_status & IntrTxUnderrun) {
                if (rp->tx_thresh < 0xE0)
-                       writeb(rp->tx_thresh += 0x20, ioaddr + TxConfig);
+                       iowrite8(rp->tx_thresh += 0x20, ioaddr + TxConfig);
                if (debug > 1)
                        printk(KERN_INFO "%s: Transmitter underrun, Tx "
                               "threshold now %2.2x.\n",
@@ -1659,7 +1634,7 @@ static void rhine_error(struct net_device *dev, int intr_status)
            (intr_status & (IntrTxAborted |
             IntrTxUnderrun | IntrTxDescRace)) == 0) {
                if (rp->tx_thresh < 0xE0) {
-                       writeb(rp->tx_thresh += 0x20, ioaddr + TxConfig);
+                       iowrite8(rp->tx_thresh += 0x20, ioaddr + TxConfig);
                }
                if (debug > 1)
                        printk(KERN_INFO "%s: Unspecified error. Tx "
@@ -1684,12 +1659,12 @@ static void rhine_error(struct net_device *dev, int intr_status)
 static struct net_device_stats *rhine_get_stats(struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        unsigned long flags;
 
        spin_lock_irqsave(&rp->lock, flags);
-       rp->stats.rx_crc_errors += readw(ioaddr + RxCRCErrs);
-       rp->stats.rx_missed_errors += readw(ioaddr + RxMissed);
+       rp->stats.rx_crc_errors += ioread16(ioaddr + RxCRCErrs);
+       rp->stats.rx_missed_errors += ioread16(ioaddr + RxMissed);
        clear_tally_counters(ioaddr);
        spin_unlock_irqrestore(&rp->lock, flags);
 
@@ -1699,22 +1674,19 @@ static struct net_device_stats *rhine_get_stats(struct net_device *dev)
 static void rhine_set_rx_mode(struct net_device *dev)
 {
        struct rhine_private *rp = netdev_priv(dev);
-       long ioaddr = dev->base_addr;
+       void __iomem *ioaddr = rp->base;
        u32 mc_filter[2];       /* Multicast hash filter */
        u8 rx_mode;             /* Note: 0x02=accept runt, 0x01=accept errs */
 
        if (dev->flags & IFF_PROMISC) {         /* Set promiscuous. */
-               /* Unconditionally log net taps. */
-               printk(KERN_NOTICE "%s: Promiscuous mode enabled.\n",
-                      dev->name);
                rx_mode = 0x1C;
-               writel(0xffffffff, ioaddr + MulticastFilter0);
-               writel(0xffffffff, ioaddr + MulticastFilter1);
+               iowrite32(0xffffffff, ioaddr + MulticastFilter0);
+               iowrite32(0xffffffff, ioaddr + MulticastFilter1);
        } else if ((dev->mc_count > multicast_filter_limit)
                   || (dev->flags & IFF_ALLMULTI)) {
                /* Too many to match, or accept all multicasts. */
-               writel(0xffffffff, ioaddr + MulticastFilter0);
-               writel(0xffffffff, ioaddr + MulticastFilter1);
+               iowrite32(0xffffffff, ioaddr + MulticastFilter0);
+               iowrite32(0xffffffff, ioaddr + MulticastFilter1);
                rx_mode = 0x0C;
        } else {
                struct dev_mc_list *mclist;
@@ -1726,11 +1698,11 @@ static void rhine_set_rx_mode(struct net_device *dev)
 
                        mc_filter[bit_nr >> 5] |= 1 << (bit_nr & 31);
                }
-               writel(mc_filter[0], ioaddr + MulticastFilter0);
-               writel(mc_filter[1], ioaddr + MulticastFilter1);
+               iowrite32(mc_filter[0], ioaddr + MulticastFilter0);
+               iowrite32(mc_filter[1], ioaddr + MulticastFilter1);
                rx_mode = 0x0C;
        }
-       writeb(rp->rx_thresh | rx_mode, ioaddr + RxConfig);
+       iowrite8(rp->rx_thresh | rx_mode, ioaddr + RxConfig);
 }
 
 static void netdev_get_drvinfo(struct net_device *dev, struct ethtool_drvinfo *info)
@@ -1762,6 +1734,7 @@ static int netdev_set_settings(struct net_device *dev, struct ethtool_cmd *cmd)
        spin_lock_irq(&rp->lock);
        rc = mii_ethtool_sset(&rp->mii_if, cmd);
        spin_unlock_irq(&rp->lock);
+       rhine_set_carrier(&rp->mii_if);
 
        return rc;
 }
@@ -1823,7 +1796,7 @@ static int rhine_set_wol(struct net_device *dev, struct ethtool_wolinfo *wol)
        return 0;
 }
 
-static struct ethtool_ops netdev_ethtool_ops = {
+static const struct ethtool_ops netdev_ethtool_ops = {
        .get_drvinfo            = netdev_get_drvinfo,
        .get_settings           = netdev_get_settings,
        .set_settings           = netdev_set_settings,
@@ -1835,6 +1808,7 @@ static struct ethtool_ops netdev_ethtool_ops = {
        .set_wol                = rhine_set_wol,
        .get_sg                 = ethtool_op_get_sg,
        .get_tx_csum            = ethtool_op_get_tx_csum,
+       .get_perm_addr          = ethtool_op_get_perm_addr,
 };
 
 static int netdev_ioctl(struct net_device *dev, struct ifreq *rq, int cmd)
@@ -1848,32 +1822,34 @@ static int netdev_ioctl(struct net_device *dev, struct ifreq *rq, int cmd)
        spin_lock_irq(&rp->lock);
        rc = generic_mii_ioctl(&rp->mii_if, if_mii(rq), cmd, NULL);
        spin_unlock_irq(&rp->lock);
+       rhine_set_carrier(&rp->mii_if);
 
        return rc;
 }
 
 static int rhine_close(struct net_device *dev)
 {
-       long ioaddr = dev->base_addr;
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
 
        spin_lock_irq(&rp->lock);
 
        netif_stop_queue(dev);
+       netif_poll_disable(dev);
 
        if (debug > 1)
                printk(KERN_DEBUG "%s: Shutting down ethercard, "
                       "status was %4.4x.\n",
-                      dev->name, readw(ioaddr + ChipCmd));
+                      dev->name, ioread16(ioaddr + ChipCmd));
 
        /* Switch to loopback mode to avoid hardware races. */
-       writeb(rp->tx_thresh | 0x02, ioaddr + TxConfig);
+       iowrite8(rp->tx_thresh | 0x02, ioaddr + TxConfig);
 
        /* Disable interrupts by clearing the interrupt mask. */
-       writew(0x0000, ioaddr + IntrEnable);
+       iowrite16(0x0000, ioaddr + IntrEnable);
 
        /* Stop the chip's Tx and Rx processes. */
-       writew(CmdStop, ioaddr + ChipCmd);
+       iowrite16(CmdStop, ioaddr + ChipCmd);
 
        spin_unlock_irq(&rp->lock);
 
@@ -1889,59 +1865,67 @@ static int rhine_close(struct net_device *dev)
 static void __devexit rhine_remove_one(struct pci_dev *pdev)
 {
        struct net_device *dev = pci_get_drvdata(pdev);
+       struct rhine_private *rp = netdev_priv(dev);
 
        unregister_netdev(dev);
 
+       pci_iounmap(pdev, rp->base);
        pci_release_regions(pdev);
 
-#ifdef USE_MMIO
-       iounmap((char *)(dev->base_addr));
-#endif
-
        free_netdev(dev);
        pci_disable_device(pdev);
        pci_set_drvdata(pdev, NULL);
 }
 
-static void rhine_shutdown (struct device *gendev)
+static void rhine_shutdown (struct pci_dev *pdev)
 {
-       struct pci_dev *pdev = to_pci_dev(gendev);
        struct net_device *dev = pci_get_drvdata(pdev);
        struct rhine_private *rp = netdev_priv(dev);
+       void __iomem *ioaddr = rp->base;
 
-       long ioaddr = dev->base_addr;
+       if (!(rp->quirks & rqWOL))
+               return; /* Nothing to do for non-WOL adapters */
 
        rhine_power_init(dev);
 
        /* Make sure we use pattern 0, 1 and not 4, 5 */
        if (rp->quirks & rq6patterns)
-               writeb(0x04, ioaddr + 0xA7);
-
-       if (rp->wolopts & WAKE_MAGIC)
-               writeb(WOLmagic, ioaddr + WOLcrSet);
+               iowrite8(0x04, ioaddr + 0xA7);
+
+       if (rp->wolopts & WAKE_MAGIC) {
+               iowrite8(WOLmagic, ioaddr + WOLcrSet);
+               /*
+                * Turn EEPROM-controlled wake-up back on -- some hardware may
+                * not cooperate otherwise.
+                */
+               iowrite8(ioread8(ioaddr + ConfigA) | 0x03, ioaddr + ConfigA);
+       }
 
        if (rp->wolopts & (WAKE_BCAST|WAKE_MCAST))
-               writeb(WOLbmcast, ioaddr + WOLcgSet);
+               iowrite8(WOLbmcast, ioaddr + WOLcgSet);
 
        if (rp->wolopts & WAKE_PHY)
-               writeb(WOLlnkon | WOLlnkoff, ioaddr + WOLcrSet);
+               iowrite8(WOLlnkon | WOLlnkoff, ioaddr + WOLcrSet);
 
        if (rp->wolopts & WAKE_UCAST)
-               writeb(WOLucast, ioaddr + WOLcrSet);
+               iowrite8(WOLucast, ioaddr + WOLcrSet);
 
-       /* Enable legacy WOL (for old motherboards) */
-       writeb(0x01, ioaddr + PwcfgSet);
-       writeb(readb(ioaddr + StickyHW) | 0x04, ioaddr + StickyHW);
+       if (rp->wolopts) {
+               /* Enable legacy WOL (for old motherboards) */
+               iowrite8(0x01, ioaddr + PwcfgSet);
+               iowrite8(ioread8(ioaddr + StickyHW) | 0x04, ioaddr + StickyHW);
+       }
 
        /* Hit power state D3 (sleep) */
-       writeb(readb(ioaddr + StickyHW) | 0x03, ioaddr + StickyHW);
+       if (!avoid_D3)
+               iowrite8(ioread8(ioaddr + StickyHW) | 0x03, ioaddr + StickyHW);
 
        /* TODO: Check use of pci_enable_wake() */
 
 }
 
 #ifdef CONFIG_PM
-static int rhine_suspend(struct pci_dev *pdev, u32 state)
+static int rhine_suspend(struct pci_dev *pdev, pm_message_t state)
 {
        struct net_device *dev = pci_get_drvdata(pdev);
        struct rhine_private *rp = netdev_priv(dev);
@@ -1951,12 +1935,13 @@ static int rhine_suspend(struct pci_dev *pdev, u32 state)
                return 0;
 
        netif_device_detach(dev);
-       pci_save_state(pdev, pdev->saved_config_space);
+       pci_save_state(pdev);
 
        spin_lock_irqsave(&rp->lock, flags);
-       rhine_shutdown(&pdev->dev);
+       rhine_shutdown(pdev);
        spin_unlock_irqrestore(&rp->lock, flags);
 
+       free_irq(dev->irq, dev);
        return 0;
 }
 
@@ -1970,12 +1955,15 @@ static int rhine_resume(struct pci_dev *pdev)
        if (!netif_running(dev))
                return 0;
 
-       ret = pci_set_power_state(pdev, 0);
+        if (request_irq(dev->irq, rhine_interrupt, IRQF_SHARED, dev->name, dev))
+               printk(KERN_ERR "via-rhine %s: request_irq failed\n", dev->name);
+
+       ret = pci_set_power_state(pdev, PCI_D0);
        if (debug > 1)
                printk(KERN_INFO "%s: Entering power state D0 %s (%d).\n",
                        dev->name, ret ? "failed" : "succeeded", ret);
 
-       pci_restore_state(pdev, pdev->saved_config_space);
+       pci_restore_state(pdev);
 
        spin_lock_irqsave(&rp->lock, flags);
 #ifdef USE_MMIO
@@ -2004,9 +1992,7 @@ static struct pci_driver rhine_driver = {
        .suspend        = rhine_suspend,
        .resume         = rhine_resume,
 #endif /* CONFIG_PM */
-       .driver = {
-               .shutdown = rhine_shutdown,
-       }
+       .shutdown =     rhine_shutdown,
 };
 
 
@@ -2016,7 +2002,7 @@ static int __init rhine_init(void)
 #ifdef MODULE
        printk(version);
 #endif
-       return pci_module_init(&rhine_driver);
+       return pci_register_driver(&rhine_driver);
 }